O promotor de justiça de São Francisco, David Chiu, enviou nesta semana notificações legais à Apple e ao Google exigindo a remoção de 13 aplicativos de troca de rosto que permitem criar imagens íntimas geradas por inteligência artificial sem consentimento das pessoas retratadas.
As cartas jurídicas afirmam que as gigantes do Vale do Silicon deveriam parar de "auxiliar e instigar" a venda de imagens explícitas deepfake e encerrar relações comerciais com os desenvolvedores desses aplicativos. "Gerar imagens íntimas não consentidas é ilegal, prejudicial e completamente inaceitável", declarou Chiu à publicação.
O promotor, cujo escritório já moveu ações legais contra 16 sites populares de deepfake, afirmou que a Apple e o Google provavelmente "ganharam milhões de dólares em taxas" com esses aplicativos de nudez artificial. Ele pediu que as empresas melhorem seus processos de moderação para impedir que esses apps apareçam em suas lojas desde o início.
"Essas empresas têm a responsabilidade de garantir que os aplicativos em suas plataformas não facilitem abuso sexual", enfatizou Chiu. As cartas jurídicas indicam que as leis da Califórnia proíbem apoiar serviços que criam pornografia deepfake. Os aplicativos usam pagamentos dentro do aplicativo, dos quais as empresas de tecnologia recebem uma parte.
Pesquisadores repetidamente encontraram e denunciaram aplicativos nas lojas da Apple e do Google que permitem às pessoas gerar imagens sexuais usando inteligência artificial, incluindo alguns aplicativos classificados como adequados para uso por crianças.
O Google afirmou que a empresa excluiu "centenas" de aplicativos com recursos de nudez artificial por violações de políticas, incluindo os cinco aplicativos Android sinalizados pelo escritório do promotor. A Apple não respondeu antes da publicação.
Nos últimos cinco anos, uma tecnologia altamente lucrativa de "nudez" deepfake surgiu online, especialmente com o uso da IA Grok para criar milhões de imagens sexualizadas em janeiro. Muitos aplicativos, sites e robôs permitem que pessoas enviem fotos de outras pessoas e digitalmente "removam" roupas ou as coloquem em cenários sexuais gráficos.
Geralmente, tudo o que é necessário para criar deepfakes sexuais é uma foto de referência e alguns cliques, com alguns resultados disponíveis em segundos. As imagens e vídeos se tornaram mais realistas conforme a tecnologia de IA generativa subjacente melhorou.
Os 13 aplicativos investigados pelo escritório do promotor — oito na App Store e cinco na Play Store — se publicitam principalmente como ferramentas de "troca de rosto", com a capacidade de criar deepfakes sexuais disponível após o uso. O site de um aplicativo, com mais de um milhão de downloads, exibe mais de uma dúzia de estilos diferentes de imagens que criará.
"Essas imagens são usadas para intimidar, humilhar e ameaçar mulheres e meninas", disse Chiu. "Esta indústria tem um impacto horrível na reputação, na saúde mental e na perda de autonomia. Houve vítimas que ficaram suicidas."
O problema não é surpresa para a Apple e o Google. No último ano, múltiplos relatórios identificaram aplicativos nas plataformas das empresas que permitem criar imagens ou vídeos íntimos não consentidos. O Tech Transparency Project descobriu cerca de 100 aplicativos em ambas as lojas, além de anúncios para tecnologia de nudez artificial.
Chiu afirmou que seu escritório continuará perseguindo o problema. "Minha esperança é que a Apple e o Google removam imediatamente esses aplicativos e fortaleçam seus sistemas de triagem para garantir que aplicativos assim nunca cheguem às suas plataformas no futuro."
Fonte: Feed: All Latest
