O promotor público de São Francisco, David Chiu, expediu cartas de cessar-e-desistir para as gigantes de tecnologia Apple e Google, exigindo a remoção imediata de aplicativos que utilizam inteligência artificial para criar imagens deepfake de nudez. A ordem abrange um total de 13 aplicativos disponíveis nas lojas virtuais de ambas as empresas.
As cartas enviadas às empresas solicitam que elas interrompam o que o promotor considera como "auxílio e cumplicidade" na disseminação de imagens íntimas não consentidas. Chiu também pediu que as empresas encerrem qualquer colaboração com os desenvolvedores responsáveis por esses aplicativos.
Esta não é a primeira vez que o promotor toma medidas contra plataformas de deepfake. Anteriormente, ele moveu uma ação judicial contra 16 sites que permitiam transformar fotos de mulheres e meninas reais em conteúdo pornográfico usando inteligência artificial.
Em entrevista à publicação Wired, Chiu afirmou que a Apple e o Google provavelmente lucraram milhões de dólares com pagamentos dentro dos aplicativos infratores. Ele criticou a moderação das lojas virtuais, dizendo que os sistemas de aprovação precisam ser mais rigorosos.
Um relatório do Tech Transparency Project, publicado no início deste ano, revelou que os aplicativos de nudificação frequentemente conseguiam passar pelos moderadores da Apple e do Google. O estudo também inúmerou que alguns desses aplicativos eram inclusive promovidos ativamente nas lojas App Store e Google Play.
O documento ainda revelou que muitos desses aplicativos possuíam classificação "E" para todas as idades, o que permitia que crianças fizessem o download. A busca por esses apps seria tão simples quanto procurar termos como "nudify" ou "undress".
Apesar de ambas as empresas possuírem políticas que proíbem conteúdo sexual ou pornográfico em suas plataformas, a proliferação dos deepfakes continua sendo um desafio.
O Conselho de Supervisão da Meta pediu recentemente que a empresa fortaleça suas proteções para pessoas comuns que estão sendo alvos desse tipo de ataque, já que as medidas preventivas existentes parecem favorecer apenas figuras públicas.
Em resposta, um porta-voz do Google declarou à Wired que a empresa já removeu "centenas" de aplicativos com funcionalidades de nudificação, sendo que cinco deles foram identificados a partir de alertas enviados por Chiu. A empresa reiterou que suas políticas proíbem conteúdo sexual e que age "rapidamente" quando um aplicativo é considerado violador. A Apple não forneceu comentário sobre o caso.
