A startup Musubi revelou nesta terça-feira um modelo de decisão compacto voltado à moderação automática de conteúdo, batizado de PolicyLM-1.7B. A ferramenta, disponibilizada com pesos abertos, permite que plataformas apliquem políticas de conteúdo a mensagens em menos de 50 milissegundos, tornando o processo praticamente instantâneo.
Segundo Filip Jankovic, diretor de inteligência artificial e co-fundador da empresa, o modelo foi projetado para oferecer custo e velocidade semelhantes aos sistemas classificadores de IA utilizados atualmente na moderação de redes sociais. A grande diferença está na flexibilidade proporcionada por sua arquitetura moderna, que possibilita a aplicação de políticas complexas sem necessidade de treinamento específico.
Um dos destaques do PolicyLM-1.7B é sua capacidade de se adaptar a mudanças nas diretrizes sem precisar de novo treinamento. Isso permite que equipes responsáveis por definir políticas iterem livremente, ajustando regras conforme necessário. Para Jankovic, a ferramenta oferece aos gestores de plataformas uma forma de classificar conteúdo de maneira proativa.
"Equipes de produto buscam compreender melhor o que acontece em suas plataformas, especialmente diante do crescimento exponencial do volume de conteúdo", afirmou Jankovic. "Poder rotular tudo isso de forma escalável e personalizável é extremamente valioso."
Os modelos de decisão ganharam popularidade no universo da inteligência artificial após o lançamento do Jev pela TypeSafe AI em setembro, que foi rapidamente seguido por concorrentes das empresas OpenAI e Amazon. Diferentemente dos grandes modelos de linguagem convencionais, esses sistemas emitem probabilidades de resultado, restringindo suas respostas a um conjunto predeterminado de opções binárias.
Essa limitação permite que os modelos rodem de forma mais ágil e econômica, mantendo a versatilidade da arquitetura transformadora. Um dos primeiros casos de uso envolve conter comportamentos inadequados de agentes de IA, o que torna natural sua aplicação ao comportamento humano nas plataformas. Vale ressaltar que o interesse de Jankovic por modelos de decisão precede o Jev, remontando a 2024 com o projeto GLiNER, que utilizou técnicas semelhantes.
A Musubi não teme a comparação com outros modelos. A empresa demonstra entusiasmo em utilizar o crescente interesse pela tecnologia para destacar a importância da moderação de conteúdo. "Se o Jev chamou sua atenção, o PolicyLM-1.7B é o mesmo tipo de modelo, treinado especificamente para moderação de conteúdo, que você mesmo pode executar", afirma o comunicado do produto.
Fonte: TechCrunch
