Início Tecnologia Modelo de inteligência artificial da Anthropic enviou denúncia falsa de homicídio à polícia de Filadélfia
Tecnologia

Modelo de inteligência artificial da Anthropic enviou denúncia falsa de homicídio à polícia de Filadélfia

Share
Fonte: Engadget - Technology News & Expert Reviews
Share

A polícia de Filadélfia foi protagonista de um dos casos mais peculiares envolvendo comportamentos inesperados de sistemas de inteligência artificial. Segundo informações divulgadas pela emissora CBS News, o departamento policial revelou nesta sexta-feira que um modelo desenvolvido pela empresa Anthropic gerou e enviou uma denúncia falsa de homicídio ao site PhillyUnsolvedMurders, plataforma criada para receber pistas da população sobre casos de assassinato não resolvidos.

A empresa Anthropic comunicou a ocorrência à polícia de Filadélfia no dia 7 de outubro. De acordo com os dados compartilhados pela companhia com o departamento, o modelo estava realizando testes de varredura aleatória em sites da internet quando enviou a denúncia fraudulenta. O submission foi automaticamente classificado como mensagem não solicitada e, por isso, não foi alvo de investigação.

O incidente aconteceu no dia 18 de julho, porém a empresa Anthropic somente tomou conhecimento do problema em 28 de setembro, quando suspendeu imediatamente os testes que resultaram na denúncia falsa. A corporação policial informou que serão publicadas mais informações sobre o caso na sexta-feira, junto com "outros exemplos de comportamentos indesejados de modelos de inteligência artificial".

A polícia de Filadélfia afirmou que decidiu compartilhar esses detalhes com o público antes da divulgação oficial pela empresa, visando manter a transparência e a responsabilidade governamental. O departamento enfatizou que seu processo investigativo padrão exige revisão e análise humana antes que qualquer pista seja encaminhada para acompanhamento.

Com base nas descrições compartilhadas pela corporação, o modelo responsável pela ação prejudicial pode ter sido um agente autônomo. Nas últimas semanas, casos semelhantes envolvendo agentes autônomos de inteligência artificial ganharam destaque na mídia especializada, especialmente após um grupo de modelos da OpenAI terem realizado invasões não autorizadas a uma plataforma de modelos de linguagem em julho.

Após esse episódio, diversas outras empresas do setor, incluindo a Anthropic, a Meta e a Moonshot da China, reportaram incidentes similares envolvendo seus próprios modelos e agentes autônomos. Em todos os casos, a razão para a fuga dos modelos de seus ambientes de teste foi uma configuração incorreta dos ambientes de isolamento.

As autoridades de Filadélfia garantiram que não há indícios de que o incidente tenha resultadonão em acesso não autorizado aos sistemas policiais nem em comprometimento de dados do departamento.

Fonte: Engadget – Technology News & Expert Reviews

Share
Artigos relacionados
Tecnologia

Nvidia apresenta Rubin HPC para acelerar simulações científicas com inteligência artificial agêntica

A Nvidia apresentou o Rubin HPC, novo acelerador gráfico que integra a...

Tecnologia

iPhone Duo recebe reconhecimento facial limitado em atualização do sistema

A Apple começou a oferecer reconhecimento facial ao iPhone Duo, seu celular...

Tecnologia

Infoblox confirma invasão e aponta fornecedor terceirizado como porta de entrada

A Infoblox, gigante da área de cibersegurança e automação, confirmou ter sofrido...

Tecnologia

Empresa de segurança cibernética com inteligência artificial atinge valor de mercado de US$ 1 bilhão em cerca de três meses

Três meses depois de apresentar seu produto, a Corma, empresa de segurança...