O Gabinete do Promotor do Distrito de Manhattan confiscou nesta semana doze endereços eletrônicos que hospedavam vídeos deepfake de celebridades, representando o maior confisco já realizado contra esse tipo de plataforma nociva. A operação alcançou aproximadamente 1.200 vítimas, em sua grande maioria mulheres, cujos rostos foram inseridos sem autorização em cenas de conteúdo explícito.
Entre as pessoas afetadas estavam influenciadores digitais, atrizes, atletas, músicos, políticos e figuras públicas diversas. O promotor distrital Alvin Bragg declarou que essas invasões brutais de privacidade acompanham as vítimas ao longo de suas carreiras e vidas pessoais, causando danos profundos ao bem-estar emocional e psicológico. Bragg fez um chamado para que demais vítimas busquem o escritório de crimes cibernéticos para reportar casos.
As apreensões foram realizadas com base nas leis de procedimento criminal do estado de Nova York e representam uma das ações mais abrangentes já vista contra sites com vídeos deepfake explícitos desde que essa tecnologia surgiu no final de 2017. Com o avanço da inteligência artificial, uma indústria clandestina de sites, aplicativos e robôs foi desenvolvida especificamente para criar imagens de mulheres sem roupas ou vídeos sexuais manipulando rostos de vítimas.
Os sites confiscados provavelmente foram acessados milhões de vezes. Muitos utilizavam nomes com termos como "celebridades sexuais" ou prometiam "deepfakes reais". Relatórios independentes indicavam que alguns vídeos haviam sido assistidos dezenas de milhares de vezes, com uma das plataformas afirmando estar em funcionamento desde 2018.
Pesquisadores apontam que a maioria dos vídeos consistia em produções pornográficas manipuladas, com os rostos das vítimas substituindo os dos atores originais. Em pelo menos dois dos sites apreendidos, políticos eleitos possuíam perfis dedicados com seus nomes, cargos e uma coleção de vídeos manipulados.
Especialistas reconhecem que a operação representa uma vitória significativa, mas alertam que muitas outras partes do ecossistema de deepfake continuam causando danos graves. Segundo Leonie Oehmig, pesquisadora do Instituto de Diálogo Estratégico, intervenções eficazes precisam atingir múltiplos pontos desse sistema, incluindo as ferramentas de criação, a infraestrutura técnica que mantém os sites no ar e os sistemas de pagamento que permitem a monetização.
O Gabinete do Promotor de Manhattan ainda não revelou publicamente os nomes dos sites confiscados. Na semana passada, as páginas começaram a exibir avisos indicando que os domínios haviam sido apreendidos mediante mandado da Suprema Corte do Estado de Nova York.
Fonte: Feed: All Latest
