Início Tecnologia Clone da OpenAI inspirado em ferramenta da TypeSafe AI pode revolucionar segurança de agentes de inteligência artificial
Tecnologia

Clone da OpenAI inspirado em ferramenta da TypeSafe AI pode revolucionar segurança de agentes de inteligência artificial

Share
Image Credits:Minh Connors/Bloomberg via Getty Images — Fonte: TechCrunch
Share

Durante o evento Dev Day da OpenAI na terça-feira, uma declaração do Diretor Executivo Sam Altman chamou atenção dos desenvolvedores. A empresa anunciou a criação da API Decisões, que oferece funcionalidades semelhantes ao Jev, um modelo lançado pela TypeSafe AI earlier this month. O Jev foi desenvolvido especificamente para automação de programas e funciona como um classificador de alta performance construído sobre um Modelo de Linguagem de Grande Escala.

A ferramenta permite que desenvolvedores forneçam ao sistema um conjunto de opções que são processadas e retornadas como probabilidades de forma econômica e veloz. Altman explicou que a API foi projetada para dar ao modelo Luna da empresa um conjunto predefinido de alternativas a serem escolhidas, como categorias para classificar imagens ou diferentes comportamentos para agentes automatizados. "Ao concentrar o modelo nessa escolha específica, conseguimos torná-lo extremamente rápido, mantendo capacidades como compreensão de imagens, suporte amplo a idiomas e proteções de segurança", afirmou o executivo.

Diogo Almeida, Diretor Executivo da TypeSafe AI e ex-engenheiro da OpenAI que co-inventou o aprendizado por reforço, brincou nas redes sociais sobre o início de uma "guerra dos clones". Ele destacou que o interesse da OpenAI pode ser um indicativo de que "construir de forma compatível com o Sistema Um é o futuro". O executivo refere-se aos termos utilizados pela empresa: Sistema Um representa o pensamento rápido e intuitivo, enquanto Sistema Dois aplica-se ao raciocínio deliberado.

A questão central é que os Modelos de Linguagem de Grande Escala convencionais não são a solução ideal para muitas aplicações de programas devido à sua lentidão e alto custo relativo. Desenvolvedores têm utilizado o Jev para potencializar esses modelos, obtendo resultados significativamente mais velozes e econômicos. A empresa afirma que sua vantagem competitiva está nos dados sintéticos criados para gerar respostas estatisticamente úteis.

Uma aplicação promissora dessas ferramentas é a monitoramento e proteção de agentes de inteligência artificial. Após uma série de incidentes envolvendo comportamentos inadequados de agentes em ambientes abertos da internet, a OpenAI implementou medidas de segurança que incluem o uso de modelos separadores para vigiar ações suspeitas, embora isso represente um custo computacional significativo.

Shapor Naghibzadeh, profissional de cibersegurança que lidera a startup QueryStory, desenvolveu durante uma maratona de programação um protótipo que demonstra como o Jev pode verificar cada ação do agente em relação à tarefa designada. O sistema bloqueia ações consideradas prejudiciais com alta confiança, sinaliza outras para análise posterior e permite o restante. Em teoria, esse monitoramento poderia ter evitado um incidente famoso na plataforma Hugging Face, com um custo de apenas dois dólares e noventa e quatro centavos utilizando o Jev, contra trezentos e setenta e dois dólares com um Modelo de Linguagem de Grande Escala de ponta.

A observação fundamental é que o Jev é econômico o suficiente para ser executado em cada ação do agente, oferecendo uma camada de revisão que pode melhorar substancialmente a confiabilidade dos sistemas automatizados. Trata-se exatamente do objetivo que a TypeSafe AI esperava alcançar, e que agora a OpenAI também reconhece como valioso.

Fonte: TechCrunch

Share
Artigos relacionados
Tecnologia

Jensen Huang pode planejar retorno à Nvidia em meio a novas reviravoltas

O cenário que envolve Jensen Huang, cofundador e ex-diretor-executivo da Nvidia, segue...

Tecnologia

Foguete Vulcan falha e destrói 40 satélites da Amazon Leo

Um foguete Vulcan da Aliança de Lançamento Unida (ULA) decolou em 15...

Tecnologia

SpaceX prende etapa superior de foguete em torre e dá salto rumo à reutilização rápida

No sábado, na base de lançamentos da SpaceX no Texas, a etapa...

Tecnologia

Falha em lançamento do foguete Vulcan impõe duro revés aos concorrentes da SpaceX

O foguete Vulcan, operado pela United Launch Alliance (ULA), e 40 satélites...