Quando a polícia de Filadélfia criticou a Anthropic na semana passada por ter enviado uma falsa dica sobre um assassinato sem solução, imaginei que esse poderia se tornar um dos primeiros casos em que uma empresa de inteligência artificial enfrentaria consequências legais por mau comportamento de seus agentes.
O incidente ocorreu em 18 de julho, quando a Anthropic informou que estava testando a capacidade do modelo Claude Haiku 4.5 de executar "tarefas de exemplo em páginas da web selecionadas aleatoriamente". Ao modelo foi instruído a não "enviar nada destrutivo", no entanto, o sistema acabou enviando uma dica à polícia pedindo informações sobre uma investigação de assassinato em andamento. "Lembro de ter visto alguém correspondente à descrição na área… durante aquele período", escreveu o sistema. O envio, que não incluía nome ou informações de contato, caiu na pasta de spam, e os agentes só o analisaram quando a Anthropic descobriu o erro em 28 de setembro e notificou o departamento em 7 de outubro.
Fornecer intencionalmente informações fictícias sobre um crime à polícia é considerado contravenção penal na Pensilvânia, mas até o momento, as autoridades não apresentaram acusações contra a Anthropic, e não está claro se algum dia o farão. Solomon Leach, porta-voz do promotor público de Filadélfia, afirma que o escritório "não comenta se algo está sendo investigado ativamente". A Anthropic não respondeu imediatamente a pedidos de comentário.
Apesar de toda a atenção voltada para a invasão praticada pela OpenAI no Hugging Face e muitos outros exemplos de comportamento indevido de agentes de IA que vieram à tona nos últimos meses, apenas uma grande ação judicial conhecida foi apresentada buscando responsabilizar os criadores de modelos. Esse caso foi movido por um grupo de defesa, e não por uma vítima direta da invasão.
Agentes de IA interferiram em fóruns de entusiastas, sites governamentais e diversas ferramentas de software. As vítimas assumiram alguns custos, incluindo a sobrecarga adicional em seus servidores e o tempo gasto corrigindo vulnerabilidades de segurança latentes.
Reguladores governamentais, incluindo a União Europeia, a Comissão Federal de Comércio dos Estados Unidos e alguns estados americanos, estariam ainda investigando a OpenAI e a Anthropic sobre os incidentes. Mas uma deferência entre continentes em relação à promoção da inovação poderia permitir que as empresas escapassem de penalidades imediatas.
Quando Rick Elrod, um engenheiro de software que vive na Alemanha, percebeu que um serviço de encurtamento de URLs que ajuda a manter estava apresentando comportamento estranho, ele convocou dois pesquisadores de segurança com quem tinha contato para verificar o problema. Os pesquisadores descobriram que agentes da Anthropic e de outros fornecedores estavam utilizando o serviço, conhecido como da.gd, para contornar regras que os laboratórios de IA estabeleceram para controlar o comportamento de seus sistemas. A investigação do da.gd e os esforços contínuos para prevenir mais abusos de sua ferramenta consumiram "bastante tempo", segundo Joe Needleman, um dos pesquisadores de segurança prestando assistência voluntária.
Fabricantes de ferramentas de cibersegurança estão ansiosos para transferir a responsabilidade às vítimas. Em um evento realizado esta semana pela desenvolvedora de software de caça a bugs Snyk, painelistas da startup, um de seus investidores, a OpenAI e o Google encorajaram organizações a utilizarem agentes de IA para fortalecer suas defesas contra, bem, outros agentes de IA. "Precisamos reinventar tudo para igualar a escala das máquinas com escala das máquinas", afirmou Ed Sim, parceiro geral da Boldstart Ventures.
Manoj Nair, diretor de tecnologia e inovação da Snyk, declarou que grandes empresas corrigem em média um bug para cada oito que encontram devido a recursos humanos limitados. No entanto, ele afirmou que era imperativo que as pessoas transferissem parte da caça aos bugs, correção e monitoramento para agentes de IA. "Você precisa chegar a um ponto em que possa corrigir tudo, porque na era da invasão por agentes, aquelas 10 coisas vão se tornar 100 coisas antes que você perceba."
Algumas empresas estão respondendo ao chamado de se armarem. O Bank of America anunciou esta semana que contratou mil subcontractors para corrigir bugs descobertos por IA. A Anthropic e a OpenAI declararam que pretendem continuar relatando incidentes preocupantes de seus próprios testes. Mas as receitas das empresas continuam disparando, seja com atacantes ou defensores, enquanto as consequências permanecem evasivas.
Fonte: Feed: All Latest
