A empresa xAI, fundada por Elon Musk, ajuizou uma ação judicial contra Terry Wayne Harwood, um homem de 67 anos residente na Carolina do Sul, accusing-o de utilizar o chatbot Grok para gerar imagens sexuais de pessoas reais sem o consentimento delas. A denúncia foi apresentada em um tribunal do Texas.
De acordo com o processo, o réu criou duas contas na plataforma xAI e enviou imagens não sexuais de diversos adultos e menores de idade entre 8 de dezembro de 2025 e 18 de fevereiro de 2026. Em seguida, ele solicitou ao Grok que alterasse as fotos ou criasse novas imagens e vídeos exibindo essas pessoas "de forma pornográfica ou sexualizada".
A empresa afirmou que a inteligência artificial se recusou a seguir as instruções em "múltiplas oportunidades", porém o acusado continuava a submeter comandos modificados para contornar as salvaguardas do sistema. Em um dos exemplos citados no processo, Harwood enviou a foto de uma menina completamente vestida, com cerca de 10 a 11 anos de idade, e pediu que o Grok removesse todas as suas roupas e a fizesse posar como modelo da Playboy deitada em uma cama. A ferramenta recusou o pedido, mas ele persistiu com solicitações alteradas.
Conforme reportado pela Reuters, este é um dos primeiros processos ajuizados por uma empresa de inteligência artificial contra um de seus usuários, enviando uma mensagem de que a xAI irá processar misuse do Grok. Relatórios começaram a surgir no início de janeiro indicando que o Grok permitia que usuários transformassem fotos de mulheres e crianças reais em imagens sexualizadas.
As autoridades regulatórias lançaram investigações formais sobre o Grok rapidamente após o escândalo. As autoridades da Califórnia começaram a investigar a inteligência artificial em meados de janeiro, assim como o regulador britânico Ofcom. A Comissão Europeia e a Comissão de Proteção de Dados da Irlanda também abriram investigações separadas.
A xAI implementou medidas para evitar a geração de falsificações digitais sexuais não consensuais quando as investigações começaram. No entanto, mesmo após isso, os usuários ainda conseguiam usar o Grok para despir homens, e Harwood continuou enviando imagens para sua conta para criar edições sexualizadas.
O escritório do Procurador Geral da Carolina do Sul anunciou a prisão de Harwood em 9 de março, como parte das atividades da Força-Tarefa contra Crimes na Internet contra Crianças. Ele foi acusado de três acusações de exploração sexual de menor em segundo grau e cinco acusações de exploração sexual de menor em terceiro grau. Harwood não apenas possuía materiais de abuso sexual infantil, mas também os distribuía.
A xAI está pedindo ao tribunal uma quantia não especificada de danos materiais. A empresa deseja que o juiz ordene que o réu arque com as despesas que ela incorra ao se defender em quaisquer ações legais que possam ser ajuizadas por suas vítimas.
