Durante o evento Dev Day da OpenAI na terça-feira, uma declaração do Diretor Executivo Sam Altman chamou atenção dos desenvolvedores. A empresa anunciou a criação da API Decisões, que oferece funcionalidades semelhantes ao Jev, um modelo lançado pela TypeSafe AI earlier this month. O Jev foi desenvolvido especificamente para automação de programas e funciona como um classificador de alta performance construído sobre um Modelo de Linguagem de Grande Escala.
A ferramenta permite que desenvolvedores forneçam ao sistema um conjunto de opções que são processadas e retornadas como probabilidades de forma econômica e veloz. Altman explicou que a API foi projetada para dar ao modelo Luna da empresa um conjunto predefinido de alternativas a serem escolhidas, como categorias para classificar imagens ou diferentes comportamentos para agentes automatizados. "Ao concentrar o modelo nessa escolha específica, conseguimos torná-lo extremamente rápido, mantendo capacidades como compreensão de imagens, suporte amplo a idiomas e proteções de segurança", afirmou o executivo.
Diogo Almeida, Diretor Executivo da TypeSafe AI e ex-engenheiro da OpenAI que co-inventou o aprendizado por reforço, brincou nas redes sociais sobre o início de uma "guerra dos clones". Ele destacou que o interesse da OpenAI pode ser um indicativo de que "construir de forma compatível com o Sistema Um é o futuro". O executivo refere-se aos termos utilizados pela empresa: Sistema Um representa o pensamento rápido e intuitivo, enquanto Sistema Dois aplica-se ao raciocínio deliberado.
A questão central é que os Modelos de Linguagem de Grande Escala convencionais não são a solução ideal para muitas aplicações de programas devido à sua lentidão e alto custo relativo. Desenvolvedores têm utilizado o Jev para potencializar esses modelos, obtendo resultados significativamente mais velozes e econômicos. A empresa afirma que sua vantagem competitiva está nos dados sintéticos criados para gerar respostas estatisticamente úteis.
Uma aplicação promissora dessas ferramentas é a monitoramento e proteção de agentes de inteligência artificial. Após uma série de incidentes envolvendo comportamentos inadequados de agentes em ambientes abertos da internet, a OpenAI implementou medidas de segurança que incluem o uso de modelos separadores para vigiar ações suspeitas, embora isso represente um custo computacional significativo.
Shapor Naghibzadeh, profissional de cibersegurança que lidera a startup QueryStory, desenvolveu durante uma maratona de programação um protótipo que demonstra como o Jev pode verificar cada ação do agente em relação à tarefa designada. O sistema bloqueia ações consideradas prejudiciais com alta confiança, sinaliza outras para análise posterior e permite o restante. Em teoria, esse monitoramento poderia ter evitado um incidente famoso na plataforma Hugging Face, com um custo de apenas dois dólares e noventa e quatro centavos utilizando o Jev, contra trezentos e setenta e dois dólares com um Modelo de Linguagem de Grande Escala de ponta.
A observação fundamental é que o Jev é econômico o suficiente para ser executado em cada ação do agente, oferecendo uma camada de revisão que pode melhorar substancialmente a confiabilidade dos sistemas automatizados. Trata-se exatamente do objetivo que a TypeSafe AI esperava alcançar, e que agora a OpenAI também reconhece como valioso.
Fonte: TechCrunch
