O Conselho de Supervisão da Meta pediu nesta segunda-feira que a empresa refuerce suas políticas de proteção para pessoas comuns que são alvo de deepfakes sexuais. A entidade recomenda que a companhia inclua as impersonificações geradas por inteligência artificial na política de Exploração Sexual de Adultos, argumentando que essas imagens e vídeos são, por definição, não consensuais.
Além disso, o Conselho quer que a Meta permita que os usuários designem "contas conectadas", como amigos e familiares de confiança, para reportar possíveis violações em seu nome, incluindo imagens íntimas não consensuais. Another recommendation is to create a separate category for AI-generated sexual impersonation in the company's content reporting and appeal forms, distinct from harassment and nudity.
Atualmente, apenas moradores do Texas e da Flórida têm acesso a um formulário especializado que lista deepfakes íntimos como motivo de denúncia. O Conselho defende que todos os usuários da Meta tenham acesso a essa ferramenta, destacando que "o abuso íntimo não consensual gerado por inteligência artificial, incluindo impersonificações sexuais, é um problema global".
O Conselho de Supervisão chegou a essas recomendações após investigar um incidente no qual a empresa ignorou repetidamente a denúncia de um usuário sobre a impersonificação sexual de uma amiga no Instagram. A investigação foi aberta após receber um recurso de um usuário que reportou um vídeo gerado por inteligência artificial mostrando uma mulher ajustando o vestido, com a roupa íntima visível em alguns quadros.
Segundo o relatório do Conselho, o denunciante afirmou ser amigo da pessoa impersonificada no vídeo. A mulher depicted no vídeo já havia fechado sua conta na plataforma. Dois usuários reportaram originalmente o vídeo à Meta, mas a empresa não removeu o conteúdo. O usuário que recorreu ao Conselho havia apresentado um recurso à Meta anteriormente, mas a empresa também não removeu o vídeo.
Após o próprio Conselho levantar a questão com a Meta, a empresa apenas tornou a publicação restrita a adultos, mas concluiu que ela não merecia remoção segundo seus padrões da comunidade. A Meta afirmou ao Conselho que, no momento em que a publicação foi originalmente denunciada, não havia indicações de que a indivíduo no deepfake era uma pessoa real.
Se a própria pessoa depicted tivesse reportado o vídeo, isso teria violado a política de Exploração Sexual de Adultos. O auto-report serviria como um sinal claro de não consentimento. Outros indicadores críveis de não consentimento aos olhos da Meta são relatórios de forças de segurança, mídia ou parceiros confiáveis. Legendas ou títulos sugerindo que imagens ou vídeos são compartilhados de forma "vinditativa ou sensacionalista" também funcionam.
O Conselho afirma que as respostas da Meta à investigação indicam que a única forma viável para pessoas não públicas estabelecerem não consentimento é através de auto-report. Não seria fácil envolver forças de segurança ou a mídia, afinal. Essas vias são acessíveis principalmente a figuras públicas.
A Meta é obrigada a responder a essas recomendações, mas não é obrigada a implementá-las. Se optar por adotá-las, o Conselho monitorará as implementações. Para o caso específico que iniciou esta investigação, o Conselho anulou a decisão da Meta de manter o vídeo e exigiu que a empresa remova a publicação.
"É claro que a escala, velocidade e sofisticação das ferramentas de inteligência artificial resultaram em uma proliferação de conteúdo sexual não consensual gerado por IA globalmente. A disseminação de deepfakes sexuais leva a danos reputacionais e psicológicos, que afetam desproporcionalmente mulheres e meninas, e tem um efeito inibidor na participação na vida social e política", escreveu o Conselho em seu relatório de investigação.
Esta não é a primeira vez que o Conselho critica a Meta em questões envolvendo conteúdo de IA e moderação. Em meados de 2025, a entidade chamou a incapacidade da empresa de aplicar suas regras de forma consistente de "incoerente e injustificável". Em março, o Conselho pediu à Meta para criar uma nova regra para conteúdo de IA separada da política de desinformação. Essa recomendação surgiu de uma investigação envolvendo um vídeo gerado por IA que afirmava mostrar edificios danificados na cidade israelense de Haifa. A publicação foi feita por uma conta que afirmava ser um veículo de notícias, mas era operada por um usuário nas Filipinas.
