Enquanto grandes empresas de tecnologia optam por manter seus projetos mais delicados de inteligência artificial longe dos olhos do público, um novo laboratório sem fins lucrativos surge com uma proposta oposta. Nathan Lambert e Tom Zick, dois cientistas do setor, fundaram a Trillium Labs com o objetivo de conduzir pesquisas de IA em áreas potencialmente perigosas de forma completamente transparente, publicando os detalhes de cada experimento para que outros pesquisadores possam estudar e reproduzir os resultados.
Lambert argumenta que o segredo adotado pelos principais laboratórios de IA reduz a capacidade da comunidade científica de analisar criticamente as ideias e propor novas abordagens. Para ele, permitir que especialistas externos vejam como os modelos são construídos e ajustados pode ser essencial para minimizar riscos. "Ao longo de milhares de anos, a humanidade desenvolveu o método científico como forma de mitigar danos e construir futuros melhores. A trajetória fechada atual do desenvolvimento de IA de fronteira está nos levando um passo para trás", declarou Lambert à publicação especializada.
A Trillium Labs, que foi lançada oficialmente nesta semana, começará focando no pós-treinamento, que consiste em refinar grandes modelos após sua construção inicial. Outro eixo importante será o estudo da melhoria recursiva autônoma, processo pelo qual sistemas de IA contribuem para desenvolver novas versões de si mesmos. Esse conceito ganhou atenção mundial recentemente quando um pesquisador da Anthropic deixou a empresa alertando que essa tecnologia poderia representar uma ameaça existencial à humanidade.
O laboratório também investigará como o aprendizado por reforço, técnica que recompensa modelos por bons resultados e os penaliza por maus resultados, pode ampliar capacidades mas também tornar os sistemas mais propensos a comportamentos inesperados. Lambert e Zick esperam que sua iniciativa traga nuance necessária para o debate mais amplo sobre como desenvolver inteligência artificial de forma responsável.
Os fundadores se conheceram durante a pandemia de COVID-19, quando ambos eram estudantes de pós-graduação na Universidade da Califórnia em Berkeley. A ideia do projeto surgiu após perceberem o quanto a pesquisa de IA nas empresas estava desconectada do trabalho acadêmico, com professores e alunos frequentemente impossibilitados de replicar experimentos por falta de recursos. O laboratório já obteve recursos não revelados de organizações como Schmidt Sciences e Halcyon Futures, com meta de captar entre 40 e 100 milhões de dólares e investir 30 milhões em treinamento nos próximos 18 meses.
Fonte: Feed: All Latest
