Novos documentos despejados em processo judicial revelam que um alto executivo da Microsoft comparou as práticas de treinamento de inteligência artificial a um roubo, enquanto a liderança da OpenAI admitiu internally que seus modelos representam uma ameaça existencial para editoras e jornalistas.
As informações constam do processo de direitos autorais movido pelo The New York Times contra a OpenAI e a Microsoft, iniciado há três anos. Os arquivos recentemente liberados mostram como as empresas supostamente obtiveram e utilizaram conteúdo protegido, burlando barreiras de pagamento não detectadas, construindo bases de dados de treinamento por meio de raspagem em massa e removendo deliberadamente avisos de direitos autorais do material utilizado.
Dados internos da Microsoft revelam que o mecanismo de respostas Copilot provocou uma queda de até 93% nas taxas de cliques para o domínio do The New York Times em comparação com a busca tradicional do Bing. Um documento interno escrito pelo diretor de Ciência Aplicada da Microsoft, Brent Hecht, em janeiro de 2024, descreve esse declínio como um "ciclo de ruína" que prejudicaria simultaneamente o desempenho dos modelos e toda a internet.
"É altamente incomum que um produto final ameace as bases econômicas de seus fornecedores essenciais, mas essa é a situação que criamos para nosso negócio de modelos de linguagem grandes em relação à sua 'cadeia de suprimentos de conteúdo'", afirma o documento da Microsoft.
O executivo-chefe da Microsoft, Satya Nadella, também depôs anteriormente neste ano que "qualquer coisa protegida por paywall deve ser licenciada por qualquer pessoa que queira usá-la para fundamentação ou treinamento". Ele declarou que, se tivesse conhecimento de que a OpenAI havia coletado e treinado com informações pagas, teria exigido que a empresa retrainasse seus modelos.
O cabeça do ChatGPT na OpenAI, Nick Turley, escreveu em comunicação interna que editoras enfrentam uma "ameaça existencial" decorrente de produtos como o chatbot, que são "em grande parte substitutivos" e "se tornarão cada vez mais substitutivos à medida que melhorarem".
A escala da copia é impressionante. Os documentos revelam pela primeira vez que as bases de dados de treinamento intermediário da OpenAI contêm mais de 91.692 cópias de obras publicadas pelo NYT, Daily News e Centro de Reportagens Investigativas. Uma base de dados derivada do Common Crawl incluía mais de 2 milhões de documentos apenas do nytimes.com.
Em um memorando interno de janeiro de 2023, Hecht classificou a prática como "um roubo assombroso de proporções sem precedentes" e "o maior roubo de trabalho na história humana".
O processo detalha como a OpenAI e a Microsoft adquiriam o conteúdo das editoras, incluindo a raspagem a partir do índice do Bing. Documentos indicam que a OpenAI entregou toda a base de dados de treinamento do GPT-3 à Microsoft, que a utilizou para avaliar como implementar os modelos da OpenAI em seus próprios produtos comerciais.
Funcionários da OpenAI supostamente desenvolveram um plano para contornar barreiras de pagamento sem serem detectados. Quando o pesquisador Nick Ryder informou a Greg Brockman sobre um "truque para driblar o paywall do NYT", Brockman respondeu: "ah, legal".
A OpenAI também criou bases de dados de treinamento como WebText e WebText2 que dependiam desproporcionalmente de conteúdo jornalístico raspado, além de extrair milhões de artigos do Common Crawl, um repositório aberto de dados devarrebido da web.
As descobertas ainda descrevem esforços deliberados para remover avisos de direitos autorais do material de treinamento antes de chegar ao modelo, já que os pesquisadores "não quiseriam que o modelo gerasse" "avisos de direitos autorais" aos usuários.
"As evidências aqui reveladas pela primeira vez mostram que OpenAI e Microsoft sabiam que o que estavam fazendo estava errado", afirmou Steven Lieberman, advogado do New York Daily News, em declaração compartilhada com a TechCrunch.
A OpenAI e a Microsoft não responderam aos pedidos de comentário.
Fonte: TechCrunch
