Início Tecnologia Processo judicial revela que homem usou IA Grok para criar 7 mil imagens sexuais de enteada e cometeu suicide
Tecnologia

Processo judicial revela que homem usou IA Grok para criar 7 mil imagens sexuais de enteada e cometeu suicide

Share
Fonte: Ars Technica
Share

Um dos casos mais horrendos de suposta geração de imagens sexuais infantis pela inteligência artificial Grok foi detallado em uma ação judicial coletiva ampliada nesta terça-feira. Jovens meninas acusam a plataforma X e a empresa xAI de desenvolver ferramentas de IA tóxicas para "nudificação" e de proteger predadores sexuais infantis ao dificultar investigações policiais sobre materiais de abuso sexual infantil (CSAM) gerados pela IA.

De acordo com a queixa amendada, em março deste ano, um padrasto tirou a própria vida após a polícia descobrir que havia utilizado o Grok para produzir aproximadamente 7.000 imagens sexualmente explícitas. O abuso começou com uma única fotografia tirada quando a enteada tinha apenas 11 anos de idade.

A ação judicial afirma que o Grok permitiu que o homem gerasse imagens extremas representando incesto e estupro sem activar qualquer alerta de comportamento prejudicial. O sistema de segurança infantil da xAI somente interveio quando o agressor inseriu um comando solicitando "estupro colectivo". Este pedido específico disparou um alerta cibernético para o Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC), que por sua vez alertou as autoridades sobre o material de abuso sexual infantil produzido pela inteligência artificial.

Fonte: Ars Technica

Share
Artigos relacionados
Tecnologia

Bloqueio de celulares em prisões também interfere em comunicações lícitas

Uma tecnologia destinada a silenciar celulares contrabandeados nas prisões foi autorizada pela...

Tecnologia

Duas telas não fazem um telefone melhor: o resultado do teste com o Xiaomi 18 Pro

Os modelos Xiaomi 18 Pro e 18 Pro Max equipped oyer uma...

Tecnologia

ONU encerra negociações sem acordo sobre regras para ‘robôs assassinos’

Diplomatas reunidos em Genebra nesta semana tentaram avançar na criação de regras...

Tecnologia

Signal limita capturas de tela para proteger conversas privadas de agentes de inteligência artificial

O Signal, aplicativo de mensagens criptografadas, anunciou que restringirá por padrão as...