Uma pergunta que pode parecer absurda, mas que está gerando intenso debate no setor tecnológico: você gostaria que a inteligência artificial fosse tão desenvolvida a ponto de ajudar maridos ou esposas a planejarem o assassinato perfeito de seus cônjuges? A princípio, a maioria das pessoas responderia que não. No entanto, nem todos compartilham dessa visão.
George Hotz, fundador da Comma AI e conhecido por suas atividades na área de jailbreak de dispositivos, utilizou suas redes sociais no fim de semana passado para expressar uma perspectiva completamente diferente. O post foi uma resposta a diversos planos de desenvolvimento responsável de inteligência artificial, incluindo o documento AI 2040: Plan A, elaborado pelo AI Futures Project.
O documento em questão imagina um cenário em que pesquisadores de todo o mundo decidam coletivamente desacelerar o desenvolvimento da inteligência artificial por 14 anos em benefício da humanidade. Hotz, no entanto, não concorda com essa premissa. Em sua publicação, ele argumenta que a ideia de um cenário de desenvolvimento acelerado, no qual a IA obteria capacidades sobre-humanas rapidamente, não faz muito sentido.
Para o empreendedor, a melhor abordagem para a segurança e alinhamento da inteligência artificial seria focar em modelos controlados localmente, que estejam intimamente alinhados aos interesses de seus usuários. Essa ideia remete à estrutura atual de muitos serviços de IA centralizados, como Claude e ChatGPT. Existem razões relacionadas à infraestrutura que explicam por que esses serviços foram desenvolvidos dessa forma: é caro hospedar modelos grandes e sofisticados, e a maioria das pessoas não os utiliza suficientemente ao longo do dia para justificar uma IA verdadeiramente pessoal. No entanto, esses fatores tendem a se tornar menos relevantes com o avanço da tecnologia.
Parte do que tornou o projeto OpenClaw tão interessante foi essa abordagem experimental e independente, e seria excelente ver mais produtos de inteligência artificial tentando capturar esse espírito. Mas Hotz não parou por aí. Ele comparou a IA alinhada ao usuário a uma arma, que não reclama se você a utiliza para matar sua madrasta. Segundo ele, uma IA verdadeiramente alinhada seria capaz de encomendar equipamentos para fabricação de metanfetamina pela Amazon Prime e mostrar como usá-los, caso o usuário quisesse e solicitasse.
Hotz afirmou que defenderia esse princípio com sua vida, embora seja difícil imaginar a série de eventos que levariam a isso. "Vivemos em um mundo com liberdade ou não vivemos", escreveu ele. Se essas são as opções, o mundo com liberdade realmente parece melhor.
No entanto, nem tudo se resume à liberdade, certo? Qualquer estrutura que envolva muitas pessoas, como sociedades, mercados, corporações, requer equilíbrio entre interesses, vinculando necessidades individuais a uma rede de preferências interdependentes e sistemas de responsabilidade. E qualquer pessoa que implemente produtos tecnológicos de largo consumo provavelmente deveria considerar essa rede como um todo, o que significa levar a sério os interesses dos cônjuges e padrastos que ainda não foram mortos.
A liberdade que Hotz experimenta é realmente um espaço de futuros possíveis tornados possíveis por empreendimentos coletivos; esses futuros desapareceriam da noite para o dia se todos começássemos a agir como pequenos Napoleões alimentados por inteligência artificial. Como diz o meme, vivemos em uma sociedade. Ter uma IA local disposta a enfrentar o mundo corporativo em meu benefício realmente parece interessante! Mal posso esperar por uma unidade de análise.
Fonte: TechCrunch
