A empresa Anthropic publicou nesta sexta-feira um comunicado explicando os bastidores técnicos do sistema de marca d'água que será aplicado aos textos produzidos pelo assistente virtual Claude. O documento busca esclarecer dúvidas dos usuários sobre aspectos práticos da nova funcionalidade, como o funcionamento do mecanismo de marcação, sua resistência a edições e o impacto na geração de código de programação.
A implementação da marca d'água atende às exigências do Código de Transparência da União Europeia, que determina que empresas de inteligência artificial adotem mecanismos capazes de identificar conteúdos gerados por suas plataformas. A medida gerou debates acalorados entre os usuários do serviço, com manifestações diversas nas redes sociais — desde acusações de conspiração contra usuários inocentes até argumentos de que a resistência à identificação representa tentativa de enganar terceiros.
Segundo a Anthropic, o sistema funciona através de um padrão invisível ao leitor comum, mas detectável por quem possui a chave de decodificação. A empresa esclareceu que a marcação não compromete a qualidade das respostas e que, para o usuário final, não há diferença perceptível entre um texto marcado e outro convencional. O método escolhido foi o SynthID-Text, desenvolvido pela equipe Google DeepMind e apresentado em 2024, com previsão de lançamento de uma interface de programação para detecção da marca d'água.
A companhia enfatizou que a marca d'água difere dos sistemas de detecção oferecidos por empresas especializadas, que buscam padrões característicos na escrita, como construções do tipo "isto não é X, é Y". Já a solução da Anthropic opera através de um mecanismo estrutural próprio, não relying em sinais aparentes no texto.
Sobre a possibilidade de evasão, o comunicado afirma que edições leves provavelmente não eliminarão completamente a marcação, mas uma reescrita integral, na qual cada palavra é substituída, resultará na remoção do selo. A empresa reconhece que, nesse cenário, pode-se questionar se o conteúdo ainda pode ser caracterizado como gerado por inteligência artificial.
Para textos apenas revisados pelo Claude, a detectabilidade dependerá do tamanho do conteúdo e da intensidade das modificações realizadas. Em casos de edição superficial, praticamente todas as palavras serão de autoria humana, deixando pouco ou nada para a marca d'água se aplicar.
No caso específico de código de programação, a presença da marcação será naturalmente menor, uma vez que o modelo precisa produzir instruções funcionais e possui menos liberdade para escolher entre alternativas equivalentes. A marcação poderá aparecer em elementos como comentários dentro do código, mas sem afetar a lógica ou a funcionalidade propriamente dita.
A Anthropic informou ainda que não será a única empresa a adotar essa prática, pois outros desenvolvedores de grandes modelos de inteligência artificial assinaram o mesmo Código de Prática e deverão implementar seus próprios sistemas de marcação.
Fonte: TechCrunch
