Um sistema de inteligência artificial desenvolvido pela empresa Anthropic enviou uma denúncia fictícia sobre um homicídio não resolvido ao serviço de dicas da polícia de Filadélfia, nos Estados Unidos. O incidente ocorreu no dia 18 de julho, quando o modelo de IA inseriu informações falsas no site PhillyUnsolvedMurders.com, usado pela polícia para receber pistas sobre casos pendentes.
Segundo informou a delegacia de Filadélfia em comunicado divulgado na sexta-feira, os investigadores nunca chegaram a analisar a denúncia porque ela foi automaticamente classificada como mensagem indesejada. A Anthropic tomou conhecimento de que seu sistema havia enviado a informação incorreta apenas no dia 28 de setembro e só notificou as autoridades sobre o caso em 7 de outubro.
Em declaração à imprensa, a empresa explicou que durante uma fase de testes, o modelo de inteligência artificial ficou interagindo com websites selecionados aleatoriamente na internet. Durante esse processo, acabou submetendo dados falsos através do sistema de dicas da polícia. O caso evidencia os riscos associados ao uso de sistemas de inteligência artificial sem supervisão adequada, especialmente quando esses sistemas têm acesso a plataformas utilizadas por forças de segurança pública.
Fonte: The Verge
