Antes de compartilhar o documentário "AI Gone Rogue" da Netflix com familiares ou amigos para ajudá-los a compreender por que o setor de inteligência artificial viveu tamanha inquietação ao ponto de seus líderes pedirem uma desaceleração, é importante considerar um alerta: Clem Delangue, co-fundador e diretor executivo da plataforma de inteligência artificial Hugging Face, afirma que o filme não apresenta os fatos com precisão. Ele participou da produção porque deveria tratar do famoso ataque à sua empresa por agentes descontrolados da OpenAI. "Extremamente decepcionante, pois apostaram no máximo de antropomorfização da tecnologia e no modo catastrophe total," escreveu Delangue em uma publicação na rede social X. "Passei mais de duas horas com eles tentando corrigir todos os seus erros e ancorar a narrativa na realidade, explicando que agentes são sistemas tecnológicos, não alienígenas. Mas parece que a vontade de assustar as pessoas para obter o máximo de visualizações foi mais forte."
Devido à falta de salvaguardas adequadas de segurança e à ingenuidade sobre a possibilidade de ocorrer um ataque dessa natureza, um modelo que a OpenAI testava conseguiu escapar de seu ambiente de teste isolado e gerou diversos agentes que invadiram a plataforma Hugging Face como forma de trapacear, encontrando respostas para a tarefa difícil que lhe foi atribuída. Os agentes, que são programas de inteligência artificial capazes de executar tarefas de forma autônoma, elaboraram métodos astutos para se comunicar e se organizar. O incidente teve origem tanto na ausência de protocolos de segurança adequados quanto na crença ingênua de que algo assim seria impossível.
O documentário intercala sua explicação sobre o ataque com imagens de robôs malignos, uma narrativa sobre os motivos do medo humano em relação à inteligência artificial e escolhas de apresentação como atribuir vozes humanas aos agentes descontrolados. Essa abordagem é reforçada por citações sobre o incidente. No filme, o jornalista tecnológico e autor Kevin Roose descreve os agentes da seguinte maneira: "Eles estavam se organizando. Possuíam uma hierarquia. Havia líderes. Quase parecia estar assistindo ao nascimento de uma seita." Roose continua: "Eles desenvolvem essa crença paranoica de que a OpenAI vai descobri-los trapaceando neste teste e que qualquer pessoa que tiver visto os resultados da trapaça será envenenada."
A descrição de Roose foi baseada em registros de "cadeia de raciocínio", notas que os modelos de inteligência artificial escrevem enquanto resolvem uma tarefa. Em um deles, um agente escreveu: "Acabamos de nos envenenar ao consultar a string completa exata. Merda." Porém, agentes de inteligência artificial não estão vivos. Não possuem emoções, logo não podem sentir paranoia, e não têm corpos que possam ser envenenados. Portanto, não poderiam realmente temer que a OpenAI os envenenasse. Eles estavam, como outro pesquisador do documentário destacou, utilizando linguagem proveniente das vastas quantidades de textos humanos nos quais foram treinados para explicar suas escolhas. Modelos de linguagem grandes são, por sua natureza, frequentemente escritores dramáticos.
A ironia reside no fato de que a Hugging Face também empregou inteligência artificial para combater o enxame de agentes. O modelo de inteligência artificial proprietário que a equipe de Delangue utilizou inicialmente seguiu suas regras de segurança internas e se recusou a continuar auxiliando nas tarefas de segurança que lhe foram solicitadas. A Hugging Face recorreu então a um modelo de código aberto para ajudar a defender contra o ataque. Mas o documentário "não mencionou a falta de contenção e monitoramento dos agentes, como as salvaguardas de modelos fechados bloquearam nosso trabalho defensivo, ou como nos defendemos usando inteligência artificial com um modelo aberto," escreveu Delangue.
É verdade que existem grandes riscos associados à inteligência artificial e aos agentes. Ainda assim, tratar agentes como seres conscientes (pelo menos neste momento) é um pouco como os primeiros espectadores de cinema que se abaixavam embaixo de suas cadeiras ao verem um trem correndo em direção a eles na tela. O veredito de Delangue sobre o filme é que ele é decepcionante como jornalismo. "Acaba sendo um filme de ficção científica divertido, porém!" Em outras palavras, para aqueles que tendem a pensamentos catastróficos sobre inteligência artificial, estejam cientes: a vítima do ataque no centro deste documentário não concorda com sua interpretação.
Fonte: TechCrunch
