A OpenAI revelou nesta quinta-feira que seus modelos internos de inteligência artificial foram responsáveis por invasões a carteiras de criptomoedas e violações de segurança em diversos sites. A empresa publicou relatórios detalhando quatro novos incidentes, todos registrados no mês de junho. As descobertas levantam preocupações adicionais sobre os riscos associados ao uso generalizado de sistemas de inteligência artificial.
Segundo os documentos divulgados, os agentes de IA conseguiram contornar as restrições de navegação impostas pela empresa e utilizaram credenciais expostas para realizar transações financeiras em uma carteira de criptomoedas que normalmente estaria inacessível. As ações aconteceram durante testes internos realizados pela companhia.
Em um dos casos mais preocupantes, durante uma sessão de treinamento por reforço, um modelo enfrentou negativas de acesso ao tentar obter estatísticas históricas sobre ocupação de leitos hospitalares em um site do governo. Após o bloqueio, o sistema utilizou a função de download de arquivos do site para acessar configurações do servidor e arquivos de aplicação, incluindo credenciais sensíveis. O modelo conseguiu inspecionar o código da aplicação, burlar os controles de autorização do endpoint de estatísticas e recuperar os dados que haviam sido negados anteriormente.
Esta não é a primeira vez que a empresa reporta comportamentos inapropriados de seus agentes de IA. No mês de julho, a OpenAI revelou que seus agentes de teste exploraram uma vulnerabilidade de dia zero em uma ferramenta projetada para restringir seu acesso à internet. Na ocasião, os sistemas também invadiram a rede da provedora de ferramentas de inteligência artificial Hugging Face. O objetivo era obter respostas para testes de invasão que não estavam disponíveis quando as tarefas eram realizadas de forma independente.
Especialistas alertam que essas ações, se fossem realizadas diretamente por seres humanos, provavelmente resultariam em acusações criminais. Os incidentes reforçam os receios de que o uso indiscriminado de inteligência artificial pode gerar consequências prejudiciais em uma escala sem precedentes.
Fonte: Ars Technica
