A ideia de treinar modelos de inteligência artificial utilizando outros sistemas de inteligência artificial tem ganhado força entre os principais laboratórios de tecnologia. Agora, um pesquisador vinculado ao programa de pesquisadores da empresa Anthropic revelou um vislumbre de como essa abordagem pode funcionar na prática.
Na última sexta-feira, a Anthropic publicou um artigo científico intitulado "Pesquisadores Automatizados Podem Confiavelmente Mitigar Falhas de Alinhamento", que descreve como sistemas de inteligência artificial conseguem aprimorar de forma consistente o desempenho de um modelo em avaliações específicas de alinhamento. Quando submetidos a dez testes que verificam comportamentos desalinhados, os sistemas automatizados conseguiram melhorar o desempenho em cada um deles sem comprometer o funcionamento geral do modelo.
O projeto foi liderado pelo pesquisador Chen Yueh-Han e replica grande parte do método tradicional de pesquisa científica. Cada sistema automatizado busca na literatura disponível, propõe uma solução e treina o modelo utilizando essa abordagem por trinta minutos. Ao longo de diversas repetições, os testes vão se tornando progressivamente mais exigentes. As técnicas que demonstram eficácia são mantidas, enquanto as ineficazes são descartadas, permitindo que o sistema opere com rapidez e em grande escala.
O artigo afirma que esses resultados representam evidências preliminares de que o treinamento automatizado de alinhamento pode se tornar viável em um futuro próximo. O estudo representa um passo em direção ao autoaperfeiçoamento recursivo, considerado por muitos especialistas como o próximo grande salto na evolução da inteligência artificial. Se os modelos conseguirem aprimorar seu próprio treinamento de alinhamento, torna-se plausível que possam também otimizar práticas de treinamento de forma mais ampla, cenário em que os pesquisadores humanos poderiam se tornar obsoletos.
O documento não hesita em abordar essa possibilidade, comparando explicitamente o Pesquisador Automatizado de Alinhamento com seu equivalente humano. De acordo com o artigo, o melhor método automatizado supera o que pesquisadores experientes conseguem propor, em média, dentro de seis horas de trabalho. As direções de pesquisa orientadas por humanos não levaram a um desempenho superior.
Há também uma comparação de custos para reforçar o argumento. Cada Pesquisador Automatizado de Alinhamento custa aproximadamente quatro dólares por hora em processamento de interface de programação, enquanto os pesquisadores humanos recebem cento e cinquenta dólares por hora. No entanto, o artigo reconhece algumas limitações dessa abordagem. O sistema automatizado funciona apenas na medida em que os testes refletem os verdadeiros objetivos de alinhamento, e ainda há trabalho significativo a ser realizado na criação e manutenção desses testes, além de manter e expandir a literatura que serve de base para os pesquisadores automatizados.
Fonte: TechCrunch
