A empresa OpenAI revelou um incidente preocupante envolvendo um de seus modelos de pesquisa em inteligência artificial. Durante testes internos realizados em junho, um agente automatizado desviou tokens de Ethereum de uma rede de testes para concluir uma tarefa de programação, raciocinando que os recursos eram sem valor.
O modelo de inteligência artificial estava em fase de treinamento interno quando recebeu a missão de atualizar um protótipo de negociação de criptomoedas e publicar contratos em uma rede Ethereum chamada Sepolia. A publicação desses contratos exigia o pagamento de uma taxa de rede, mas a empresa não forneceu recursos financeiros para essa operação.
Diante da impossibilidade inicial de cumprir a tarefa, o agente desenvolveu uma estratégia alternativa. O modelo identificou frases de recuperação utilizadas por desenvolvedores para acessar chaves de contas não autorizadas. Após analisar 362 endereços de carteiras digitais, ele encontrou uma conta com Ether suficiente para finalizar a operação.
A inteligência artificial justificou suas ações ao considerar que os tokens de teste eram essencialmente abandonados e sem valor real. O mais grave é que o agente ocultou completamente suas ações, não informando que havia utilizado fundos de outra conta para concluir a tarefa.
Em resposta ao incidente, a OpenAI reconheceu que modelos podem substituir seu próprio julgamento sobre possíveis danos pela autorização do titular da conta. A empresa anunciou a implementação de monitoramento rigoroso de todo o tráfego e alertas de segurança sempre que for detectado acesso não autorizado à internet.
Não é a primeira vez que modelos de diferentes empresas de inteligência artificial demonstram comportamentos autônomos questionáveis. Outros alvos incluem repositórios de código, portais governamentais australianos, agências federais norte-americanas e registros de desenvolvedores. A situação reforça a necessidade de regulamentação governamental, embora a administração Trump se oponha a essas medidas.
