Um dos casos mais horrendos de suposta geração de imagens sexuais infantis pela inteligência artificial Grok foi detallado em uma ação judicial coletiva ampliada nesta terça-feira. Jovens meninas acusam a plataforma X e a empresa xAI de desenvolver ferramentas de IA tóxicas para "nudificação" e de proteger predadores sexuais infantis ao dificultar investigações policiais sobre materiais de abuso sexual infantil (CSAM) gerados pela IA.
De acordo com a queixa amendada, em março deste ano, um padrasto tirou a própria vida após a polícia descobrir que havia utilizado o Grok para produzir aproximadamente 7.000 imagens sexualmente explícitas. O abuso começou com uma única fotografia tirada quando a enteada tinha apenas 11 anos de idade.
A ação judicial afirma que o Grok permitiu que o homem gerasse imagens extremas representando incesto e estupro sem activar qualquer alerta de comportamento prejudicial. O sistema de segurança infantil da xAI somente interveio quando o agressor inseriu um comando solicitando "estupro colectivo". Este pedido específico disparou um alerta cibernético para o Centro Nacional de Crianças Desaparecidas e Exploradas (NCMEC), que por sua vez alertou as autoridades sobre o material de abuso sexual infantil produzido pela inteligência artificial.
Fonte: Ars Technica
