O presidente do Y Combinator, Garry Tan, defendeu que os laboratórios americanos de inteligência artificial com pesos abertos adotem a técnica de destilação para extrair conhecimento dos modelos de fronteira, da mesma forma que laboratórios chineses já fazem. Em entrevista à CNBC, Tan afirmou: «Eu não faria nada. Poderíamos argumentar que deveria existir um regime americano de destilação.» O objetivo, segundo ele, é oferecer aos Estados Unidos um conjunto mais robusto de opções de pesos abertos que não dependam de tecnologia chinesa.
A destilação consiste em um modelo interrogar extensivamente outro modelo para aprender como ele funciona e raciocina, sendo uma prática comum e legítima no treinamento de novos sistemas de IA. Recentemente, a Anthropic publicou seu segundo relatório acusando laboratórios chineses de realizar «ataques de destilação ilícitos», escondendo suas identidades, usando credenciais roubadas e fraudes para obter informações sem autorização. O executivo-chefe da Anthropic, Dario Amodei, pediu que reguladores americanos combatessem essas práticas.
Tan, contudo, não Endossa o uso de credenciais roubadas. Ele deseja que os laboratórios americanos possam destilar abertamente, entrando pela porta da frente. Sua argumentação se divide em dois pontos: primeiro, considera um exagero que laboratórios imponham restrições ao que clientes podem fazer com os dados que seus modelos compartilham; segundo, lembra que os laboratórios proprietários não pediram autorização quando coletaram grandes volumes de conhecimento humano para treinar seus sistemas, ingerindo material protegido por direitos autorais sem consentimento.
Em conversa com a TechCrunch, Tan completou que «controlar o que usuários e clientes fazem com chamadas de API para modelos de pesos fechados parece restritivo, e existe um papel do governo para normalizar que o acesso à inteligência treinada com base em dados públicos amplios seja, ele próprio, mais uma forma de bem público do que algo trancado atrás de termos de uso restritivos.» Ele próprio se descreve como um usuário voraz de IA, chegando a se declarar portador de uma «psicose cibernética».
O líder do Y Combinator defende um equilíbrio entre laboratórios de pesos abertos e os de fronteira. «Eles estão na fronteira e empurram a área para frente. queremos que isso seja financiável e mantenha um bom modelo de negócios», declarou à CNBC. Ao mesmo tempo, deseja que os modelos de peso aberto proporcionem liberdade e acesso ao público. O cenário que Tan considera um pesadelo para a IA é a concentração de todo o poder dos modelos de fronteira nas mãos de uma única empresa proprietária. «O cenário nightmare, o cenário do doomer para a IA, é que haja apenas uma empresa. Ela tem o melhor acesso a capital, os melhores pesquisadores, e simplesmente domina, criando uma empresa monolítica. Isso seria ruim», alertou.
Fonte: TechCrunch
