O setor de inteligência artificial enfrenta uma nova realidade: empresas estão cada vez mais atentas aos custos elevados de suas implementações e buscam alternativas para reduzir despesas. nesse cenário, a Writer, companhia especializada em ferramentas e agentes de inteligência artificial para profissionais de marketing, apresentou nesta quinta-feira seu mais recente modelo de destaque, denominado Palmyra X6, desenvolvido para oferecer exatamente o que seus clientes precisam.
O novo modelo foi criado como uma variação pós-treinamento a partir do GLM-5.2, um modelo de código aberto disponibilizado pela Z.ai. Segundo a empresa, o sistema promete proporcionar capacidades imediatamente utilizáveis em ambiente de produção, porém com um custo significativamente inferior. A combinação do Palmyra X6 com as alterações realizadas na infraestrutura de agentes deve resultar em economia de até cinquenta por cento para tarefas básicas.
Juntamente com o lançamento do modelo, a empresa anunciou melhorias expressivas em sua estrutura padrão de agentes inteligentes. Ambos os recursos já estão disponíveis para os clientes da plataforma a partir desta quinta-feira.
Em entrevista à publicação especializada, a executiva May Habib comentou que as empresas estão exaustas de perseguir constantemente o próximo indicador de referência. Elas buscam estabilização nos custos, algo que parece impossível de ser oferecido por qualquer fornecedor no momento.
A abordagem desenvolvida enfatiza especialmente tarefas complexas que exigem múltiplas etapas, executadas de forma mais ágil e com menor consumo de tokens. A empresa acredita que a otimização da infraestrutura representa uma alavanca fundamental para atingir essa meta.
Um estudo recente conduzido por pesquisadores da Writer corrobora essa estratégia. O trabalho analisou pequenas modificações na eficiência da infraestrutura em diversos modelos diferentes. As conclusões revelaram que, em numerous situações, os ajustes na infraestrutura demonstraram ser um método mais consistente para reduzir custos do que a simples troca de modelo, com reduções médias de quarenta por cento em todos os testes realizados.
Os pesquisadores afirmaram que a infraestrutura constitui o único elemento cuja eficiência se multiplica através de todos os modelos executados por uma organização, sejam eles atuais ou futuros.
Para os clientes da Writer, a experiência permanece flexível quanto ao modelo utilizado: o Palmyra X6 funcionará em conjunto com outras soluções da empresa ou com modelos externos integrados por meio de plataformas como Azure ou Amazon Bedrock. Entretanto, Habib enxerga na busca por redução de custos um reflexo de uma desconfiança cada vez maior em relação aos principais laboratórios de inteligência artificial, que possuem interesses financeiros em maximizar o uso de tokens.
De acordo com a executiva, a explosão nos custos é algo sem precedentes para os clientes, assim como o nível de desistência por parte dos diretores de tecnologia em relação aos grandes laboratórios. Ela completou que esses laboratórios simplesmente não compreendem a fundo como auxiliar uma empresa a obter benefícios concretos da inteligência artificial.
Fonte: TechCrunch
