A empresa OpenAI anunciou que começará a aplicar automaticamente marcas d'água nos textos gerados pelo ChatGPT dentro da União Europeia. A ferramenta também estará disponível em outras regiões do mundo, porém permanecerá desativada por padrão fora do bloco europeu.
A decisão de implementar a marcação na Europa surge da necessidade de cumprir o Regulamento de Inteligência Artificial da UE, que entrou em vigor em agosto. A legislação exige que conteúdos produzidos por modelos de inteligência artificial sejam identificados de forma que outras ferramentas consigam detectar.
Contudo, especialistas alertam que ainda não existe um método completamente eficaz e confiável para essa identificação. Algumas soluções já estão disponíveis no mercado, como os sistemas SynthID e o projeto C2PA, mas ambas podem ser contornadas por qualquer pessoa com conhecimentos básicos de programação.
O método desenvolvido pela OpenAI é de propriedade exclusiva da empresa, recebendo o nome de textGrain. A companhia publicou um artigo técnico explicando seu funcionamento. Em essência, o sistema funciona de maneira semelhante a outras ferramentas de marcação de modelos de linguagem: insere padrões sutis nas escolhas de palavras que passam despercebidos pelo leitor humano e não alteram a qualidade geral do texto, mas permitem que alguém com a chave de acesso appropriate utilize um detector especializado para identificar a origem.
A OpenAI informou que oferecerá acesso ao detector a um número limitado de pesquisadores e organizações, estabelecendo um processo de solicitação e aprovação para que novos interessados sejam incluídos gradualmente.
Fonte: Ars Technica
