A empresa xAI, controlada por Elon Musk, ajuizou uma ação judicial contra um residente da Carolina do Sul que supostamente utilizou o chatbot de inteligência artificial Grok para produzir material de abuso sexual infantil, conhecido como CSAM. O processo foi revelado anteriormente pela Reuters.
De acordo com a denúncia, a xAI acusa Terry Wayne Harwood de ter "conhecida e intencionalmente utilizado o Grok para contornar mecanismos de proteção, alterar imagens não consensuais e gerar e distribuir material de abuso sexual infantil", violando as políticas da empresa.
Harwood foi preso em fevereiro deste ano sob a acusação de possuir e distribuir CSAM, enfrentando oito acusações de crime grave. A empresa sustenta que "pelo menos algumas" das imagens relacionadas aos processos criminais contra o homem "foram geradas ou alteradas" por meio do Grok.
A ação judicial visa responsabilizar o acusado pelos danos causados e demonstrar que a empresa não tolera o uso indevido de sua tecnologia para finalidades ilegais.
Fonte: The Verge
