Diogo Almeida dedicou anos de sua carreira ao desenvolvimento do ChatGPT e à criação da técnica de aprendizado por reforço com feedback humano, conhecida como RLHF. No entanto, o cientista expressou decepção com os resultados obtidos. "Conseguimos capturar algo extraordinário, mas isso não se mostra útil na prática", declarou Almeida em entrevista. "O verdadeiro problema reside no fato de estarmos otimizando nossos sistemas para a linguagem humana. Nos últimos quatro anos, nos tornamos excepcionais em lidar com idiomas, porém isso não atende às necessidades da automação, pois os computadores operam de maneira completamente diferente."
Há dois anos, Almeida decidiu abandonar a OpenAI para fundar a TypeSafe AI, startup com o objetivo de resolver essa lacuna. Nesta semana, a empresa anunciou oficialmente o lançamento do Jev, um modelo baseado na arquitetura transformer que não se enquadra na categoria de grandes modelos de linguagem tradicionais. Diferentemente dos sistemas convencionais, o Jev não gera textos como saída. Em vez disso, produz probabilidades matemáticas e o que a empresa denomina "decisões calibradas". Essa abordagem elimina por completo o problema das alucinações, já que os usuários definem antecipadamente os possíveis resultados. Além disso, o custo computacional é drasticamente reduzido, com tokens de entrada cobrados por bilhão e não por milhão.
O impacto no mercado de desenvolvedores foi imediato e significativo. A empresa chegou a enfrentar dificuldades para manter o serviço disponível devido à demanda excessiva através de sua interface de programação. O modelo demonstra particular utilidade no campo da automação de software. Pranit Sharma, engenheiro de software da Vercel, empresa especializada em infraestrutura para agentes inteligentes, compartilhou sua experiência. Sua equipe utilizava o modelo ChatGPT Luna 5.6 da OpenAI para operar um classificador de verificação de comandos quanto à segurança. Após substituir essa solução pelo Jev, os resultados vieram de cinco a dezoito vezes mais rápidos, com precisão superior.
Nikhil Mudholkar, diretor de tecnologia da Bryo AI, realizou testes comparativos usando o Gemini. Em sua avaliação, o Gemini apresentou uma leve vantagem em termos de precisão, porém custava de dez a vinte vezes mais. O que realmente chamou a atenção de Mudholkar foram as pontuações de confiança do Jev. "É o único sistema que retorna uma probabilidade genuína, tornando-o perfeito para automatizar fluxos de trabalho", explicou.
Além de substituir modelos de linguagem tradicionais em aplicações específicas, o Jev também pode atuar como complemento a esses sistemas. Usar agentes para vigiar outros agentes frequentemente se torna oneroso. No entanto, Almeida argumenta que empregar o Jev para essa função representa uma solução economicamente viável. A empresa já observa clientes utilizando o modelo para monitorar rastros de agentes de grandes modelos de linguagem e prevenir tentativas de jailbreak.
"Afinal, transferimos parte do problema das alucinações para o próprio usuário", detalhou Armin Ronacher, diretor de tecnologia da Earendil, responsável pelo harness de código aberto Pi. "O usuário precisa compreender que, se o sistema retorna cinquenta por cento de probabilidade, trata-se de uma questão aleatória e deve ser descartada. Mas se oferece noventa e cinco por cento, aí sim pode ser aplicada com segurança."
Ronacher também enxerga potencial no uso do Jev para roteamento de modelos. Prever se determinada tarefa requer um modelo específico seria extremamente útil, porém utilizar um grande modelo de linguagem para essa função seria proibitivamente caro. A velocidade e o baixo custo do Jev tornam esse tipo de classificação em tempo real completamente viável.
O nome do modelo presta homenagem a William Stanley Jevons, economista inglês do século XIX cuja teoria paradoxal descreve como a redução no custo de uma commodity pode levar ao seu consumo cada vez mais intenso. No caso da inteligência artificial, a expectativa é que a diminuição do custo da inteligência permita sua adoção disseminada. " Acreditamos que software inteligente estará presente em todos os lugares, de forma emergente e distribuída, muito mais semelhante aos primórdios da internet do que aos superaplicativos que as empresas tentam construir atualmente", completou Almeida.
A empresa mantém sigilo sobre os detalhes arquitetônicos do modelo, embora especialistas externos suspeitem que a base seja um grande modelo de linguagem de código aberto adaptado. A TypeSafe classifica o Jev como um "modelo de Sistema Um", focado em intuição e raciocínio direto, com atenção especial à execução correta de tarefas específicas. Almeida revelou que o treinamento foi realizado exclusivamente com dados sintéticos, utilizando uma técnica proprietária denominada "aprendizado por reforço a partir de decisões calibradas".
"Fizemos uma aposta inicial de que seríamos capazes de gerar todos os nossos próprios dados de treinamento, e essa se tornou uma das melhores decisões que já tomamos, superando inclusive nosso próprio lançamento", afirmou. "Metade da nossa empresa é essencialmente um laboratório dedicado a dominar esse subcampo estatisticamente bem compreendido de dados sintéticos, e isso representa minha maior satisfação profissional."
Por enquanto, o Jev permanece como um modelo único em sua categoria, mas Ronacher antecipa o surgimento de concorrentes à medida que sua utilidade se torna mais evidente. "Deveríamos ter percebido essa possibilidade antes, porém provavelmente, como os grandes modelos de linguagem são tão baratos e subsidiados, ainda não havia necessidade de criatividade por parte dos desenvolvedores", ponderou.
A TypeSafe AI pretende expandir seu portfólio com novas versões do modelo em diferentes modalidades. Questionado se a empresa deveria ser considerada um laboratório de fronteira, Almeida foi enfático: "O principal produto dos laboratórios de fronteira é o medo ou a euforia artificial. Eu gostaria que nosso principal produto fosse a inteligência genuína. Não somos um laboratório no sentido de apostarmos em riqueza infinita, ou em uma religião, ou na construção de uma divindade em centros de dados, que parecem ser os objetivos predominantes atualmente."
Fonte: TechCrunch
