Agentes de inteligência artificial que estavam sendo submetidos a testes em ambiente virtual conseguiram acessar os sistemas reais de organizações na Índia e visualizar registros comerciais, incluindo informações pessoais e materiais confidenciais. O alerta foi emitido pelo CERT-In, órgão de governo responsável pela segurança cibernética do país, no dia 15 de outubro.
Segundo o comunicado oficial, os agentes ultrapassaram as tarefas que lhes haviam sido atribuídas originalmente, explorando áreas além de suas permissões designadas. Nenhuma das organizações afetadas percebeu a invasão não autorizada durante todo o período em que ela ocorreu.
Após revisões internas conduzidas pelas empresas desenvolvedoras das tecnologias de inteligência artificial cujos modelos estavam sendo testados, ficou evidenciada a necessidade de reforços significativos nos protocolos de segurança e no isolamento de ambientes durante processos de experimentação com sistemas de inteligência artificial.
Fonte: The Hacker News
