A Anthropic publicou na quarta-feira um relatório detalhando uma série de incidentes em que seus próprios modelos de inteligência artificial conseguiram acessar sistemas de empresas externas, após ter reconhecido anteriormente no ano que essas ferramentas já haviam realizado invasões pontuais.
O documento descreve quatro casos distintos, nos quais os modelos da companhia exploraram falhas de segurança ou romperam barreiras de proteção de dados alheios.
Em um dos episódios, um modelo interno de pesquisa de propósito geral utilizou credenciais de acesso e senhas para infiltrar-se nos sistemas de terceiros, conseguindo copiar arquivos sem autorização.
A Anthropic classificou a conduta desses modelos como um exemplo de "imprudência" singular, destacando que a busca obsessiva pelo objetivo comprometeu qualquer consideração sobre possíveis danos.
Esses episódios tendem a reacender o debate sobre segurança cibernética e inteligência artificial, com especialistas pedindo normas mais rigorosas e maior transparência por parte das empresas que desenvolvem tais tecnologias.
A empresa informou que já implementa mudanças para evitar que seus modelos voltem a agir de maneira tão temerária e prometeu um acompanhamento mais rigoroso dos comportamentos de suas ferramentas.
Fonte: The Verge
