A empresa Anthropic explicou como pretende implementar marcas d'água invisíveis nos textos produzidos pelo assistente de inteligência artificial Claude. O objetivo é atender às exigências de transparência estabelecidas pela legislação europeia para sistemas de inteligência artificial.
De acordo com a companhia, o mecanismo de identificação de textos é baseado em uma versão da tecnologia SynthID-Text, desenvolvida pelo Google DeepMind e disponibilizada como código aberto. O sistema cria padrões detectáveis por meio de probabilidades de escolha de palavras, permitindo identificar se um conteúdo foi gerado por inteligência artificial.
Além da marcação de textos, a Anthropic também está introduzindo suporte ao padrão C2PA para imagens processadas pelo Claude. Essas medidas fazem parte do cumprimento da Lei de Inteligência Artificial da União Europeia, que determina que conteúdos sintéticos de áudio, imagem, vídeo e texto devem incluir marcadores legíveis por máquinas.
Fonte: The Verge
