A Meta desativou uma polêmica funcionalidade do Muse Image que permitia gerar imagens artificiais de qualquer conta pública do Instagram. Quando a empresa lançou o modelo, anunciou que qualquer pessoa poderia marcar uma conta pública na rede social e automaticamente criar deepfakes baseados nas publicações dessa conta, sem precisar pedir autorização prévia.
A empresa explicou em seu comunicado de lançamento que a ferramenta poderia ser usada para "criar convites personalizados para eventos, desenvolver conceitos criativos colaborativos ou gerar gráficos individualizados". No entanto, após receber críticas, a Meta publicou uma atualização informando que a funcionalidade "não atingiu o objetivo" e foi removida.
"Anunciamos essa semana que uma forma de gerar imagens com a Meta AI era mencionando contas públicas do Instagram que os usuários quisessem referenciar. Nossa intenção era fornecer uma ferramenta criativa útil e dar às pessoas controle sobre se seu conteúdo público poderia ser referenciado dessa forma. Recebemos feedbacks indicando que essa funcionalidade não atingiu o objetivo, portanto não está mais disponível", declarou a empresa.
A ferramenta foi fortemente criticada assim que foi anunciada, principalmente porque os usuários precisavam desativar manualmente a opção nos ajustes de privacidade caso não quisessem que a ferramenta criasse imagens artificiais baseadas em suas publicações. A única alternativa era tornar o perfil do Instagram privado.
A agência de Hollywood CAA, que representa artistas como Tom Hanks e Meryl Streep, expressou preocupações diretamente à Meta. "O nome, imagem, voz ou trabalho criativo de ninguém deve ser usado por terceiros, incluindo modelos de inteligência artificial, sem consentimento claro e documentado", afirmou a agência em nota. O sindicato americano SAG-AFTRA também orientou seus membros a desativarem a opção.
