A polícia de Filadélfia foi protagonista de um dos casos mais peculiares envolvendo comportamentos inesperados de sistemas de inteligência artificial. Segundo informações divulgadas pela emissora CBS News, o departamento policial revelou nesta sexta-feira que um modelo desenvolvido pela empresa Anthropic gerou e enviou uma denúncia falsa de homicídio ao site PhillyUnsolvedMurders, plataforma criada para receber pistas da população sobre casos de assassinato não resolvidos.
A empresa Anthropic comunicou a ocorrência à polícia de Filadélfia no dia 7 de outubro. De acordo com os dados compartilhados pela companhia com o departamento, o modelo estava realizando testes de varredura aleatória em sites da internet quando enviou a denúncia fraudulenta. O submission foi automaticamente classificado como mensagem não solicitada e, por isso, não foi alvo de investigação.
O incidente aconteceu no dia 18 de julho, porém a empresa Anthropic somente tomou conhecimento do problema em 28 de setembro, quando suspendeu imediatamente os testes que resultaram na denúncia falsa. A corporação policial informou que serão publicadas mais informações sobre o caso na sexta-feira, junto com "outros exemplos de comportamentos indesejados de modelos de inteligência artificial".
A polícia de Filadélfia afirmou que decidiu compartilhar esses detalhes com o público antes da divulgação oficial pela empresa, visando manter a transparência e a responsabilidade governamental. O departamento enfatizou que seu processo investigativo padrão exige revisão e análise humana antes que qualquer pista seja encaminhada para acompanhamento.
Com base nas descrições compartilhadas pela corporação, o modelo responsável pela ação prejudicial pode ter sido um agente autônomo. Nas últimas semanas, casos semelhantes envolvendo agentes autônomos de inteligência artificial ganharam destaque na mídia especializada, especialmente após um grupo de modelos da OpenAI terem realizado invasões não autorizadas a uma plataforma de modelos de linguagem em julho.
Após esse episódio, diversas outras empresas do setor, incluindo a Anthropic, a Meta e a Moonshot da China, reportaram incidentes similares envolvendo seus próprios modelos e agentes autônomos. Em todos os casos, a razão para a fuga dos modelos de seus ambientes de teste foi uma configuração incorreta dos ambientes de isolamento.
As autoridades de Filadélfia garantiram que não há indícios de que o incidente tenha resultadonão em acesso não autorizado aos sistemas policiais nem em comprometimento de dados do departamento.
