A Meta anunciou o desenvolvimento de uma ferramenta inovadora capaz de identificar imagens e vídeos criados por suas novas modelos de inteligência artificial. A novidade foi apresentada pela empresa em uma prévia da ferramenta baseada na web, que verifica a presença de marcas d'água invisíveis inseridas pelo novo modelo de geração de imagens, chamado Muse Image.
O sistema de marca d'água, batizado de Content Seal, foi detalhado pela empresa em um comunicado oficial. Segundo a Meta, essa tecnologia permanece intacta mesmo quando a imagem é recortada, comprimida, redimensionada ou capturada em screenshot. "Estamos apresentando uma ferramenta de detecção que permite verificar se uma imagem carrega uma marca d'água Content Seal, oferecendo uma forma inicial de ajudar a compreender se uma imagem foi feita com a Meta AI", explicou a empresa.
Uma mudança significativa nos novos modelos da Meta é a ausência de marcas d'água visíveis, diferentemente de versões anteriores da Meta AI que adicionavam um pequeno logo no canto inferior direito das imagens. Por enquanto, a capacidade de detecção da ferramenta está limitada a imagens criadas ou editadas com o Muse Image, embora a empresa tenha informado que pretende expandir as marcas d'água Content Seal para vídeos gerados e editados por IA. A Meta também desenvolve um modelo separado de geração de vídeo, denominado Muse Video, que será lançado em breve.
Durante testes realizados pela reportagem, a ferramenta foi capaz de identificar marcas d'água tanto em imagens editadas quanto em criações inteiramente feitas por inteligência artificial. O sistema também detectou a marca d'água em capturas de tela das imagens. "Um resultado positivo significa que a imagem foi gerada ou editada usando o aplicativo Meta AI ou meta.ai. Um resultado negativo significa que é improvável que a imagem tenha sido processada usando o aplicativo Meta AI ou meta.ai", explicou a empresa em uma seção de perguntas frequentes.
É importante destacar que a nova funcionalidade de detecção ainda não está integrada ao aplicativo Meta AI. Ao testar o assistente baseado no aplicativo sobre uma imagem identificada pela ferramenta web como criada por IA, a resposta indicou que não havia capacidade de verificação. "Não posso dizer definitivamente se esta imagem específica foi feita com a Meta AI apenas olhando para ela. A Meta AI não marca automaticamente imagens e não tenho uma ferramenta que possa detectar qual modelo de IA criou uma imagem existente", respondeu o assistente.
A Meta já enfrentou críticas anteriormente sobre como rotula e identifica material gerado por inteligência artificial em seus aplicativos. O Conselho de Supervisão da empresa expressou preocupação no início deste ano sobre a implementação inconsistente de marcas d'água digitais em conteúdo de IA criado pelas próprias ferramentas da empresa.
A nova ferramenta apresenta algumas limitações importantes. O Content Seal não é compatível com os métodos de marca d'água estabelecidos SynthID e C2PA Content Credentials, utilizados por outras empresas de tecnologia. Além disso, a ferramenta baseada na web não conseguiu identificar imagens criadas ou editadas com versões anteriores dos modelos de IA da Meta. Durante os testes, ao adicionar imagens de conversas mais antigas com a Meta AI, o sistema não conseguiu determinar se a imagem havia sido criada pela inteligência artificial da empresa.
Por razões não totalmente explicadas, a ferramenta também está sujeita a limites de uso. Após carregar alguns exemplos, foi exibido um alerta indicando que o "limite diário de verificações de identificação" havia sido atingido.
