A General Compute, empresa especializada em computação em nuvem para inferência de inteligência artificial, fechou um empréstimo de 400 milhões de dólares com a Upper90, firma de investimentos em tecnologia. Este pode ser o primeiro acordo a utilizar chips específicos para inferência como garantia collateral — processadores desenvolvidos para executar modelos de IA já treinados de forma rápida e eficiente, em vez dos chips mais caros usados para treinar os modelos desde o início.
O financiamento representa o mais recente indicador de que o mercado está respondendo às preocupações sobre o custo das ferramentas e tokens de IA ao investir em infraestrutura que executa modelos de código aberto de forma mais econômica do que os maiores modelos de linguagem disponíveis atualmente. Fundada pelo executivo Finn Puklowski, a General Compute levantou uma rodada seed de 15 milhões de dólares em maio para construir uma neocloud de inferência baseada em silício da SambaNova, fabricante de chips apoiada pela Intel.
Os chips SN50 da empresa foram projetados especificamente para inferência. Eles são energeticamente eficientes e não requerem sistemas caros de refrigeração por água, o que significa que podem ser implantados mais rapidamente do que GPUs em uma variedade muito maior de data centers. A General Compute afirma que os novos chips proporcionarão inferência 16 vezes mais rápida do que nuvens baseadas em GPU.
O desafio está em obter grandes quantidades desses chips, especialmente quando se trata de uma empresa recém-criada. Billy Libby, co-fundador e executivo-chefe da Upper90, ex-operador quantitativo do Goldman Sachs, tinha um roteiro para isso: em 2021, sua firma financiou compras de GPU pela Crusoe, startup de data center focada em energia, que ele acredita ter sido o primeiro empréstimo contra o valor de chips avançados.
Credores tradicionais evitaram esse tipo de acordo na época devido aos riscos e incertezas sobre a desvalorização das GPUs. Mas à medida que a CoreWeave transformou empréstimos respaldados por chips em um modelo de negócios e depois na base de uma oferta pública de ações de grande sucesso, esse tipo de financiamento se tornou comum.
"Quando financiamos GPUs da Nvidia como o primeiro grupo a fazer isso, o mercado era ineficiente", declarou Libby à TechCrunch. "Conseguimos montar algo como participante inicial e ser compensados pelo risco."
Agora que as GPUs são comparativamente bem compreendidas e talvez(super)compradas, a Upper90 está voltando-se para empresas como a General Compute para surfar a próxima onda do boom da IA. "Acreditamos que modelos de código aberto serão importantes, e fomos procurar um jogador no ano passado que estivesse em inferência", explicou Libby. "Nem todos precisam de um supercomputador, mas todos precisam de inferência e IA."
Essa tese tem se fortalecido, com empresas que fornecem acesso a modelos abertos, como OpenRouter e Fireworks, levantando novas rodadas com valuations altíssimos. Novos modelos como o K3 da Kimi provaram competir com os lançamentos mais recentes da Anthropic e da OpenAI em testes de programação. E novos fabricantes de chips como Groq e Cerebras têm atraído interesse de compradores e mercados públicos.
A capacidade da General Compute de acessar chips fora do ecossistema da Nvidia importa pela mesma razão. A TensorWave, outra empresa de infraestrutura de IA, está fazendo uma aposta semelhante em parceria com a AMD. À medida que mais alternativas à Nvidia surgem, provedores de computação que não estão presos a acordos com a Nvidia podem ter vantagem em fornecer inferência econômica.
"Existem vários chips que estão começando a escalar que têm um custo total de propriedade incrível, ou que podem operar muito mais rápido do que a Nvidia, mas não há muitos compradores para eles", afirmou Puklowski. "Ao se juntar com a Upper90, isso não é apenas, ‘uma startup legal conseguiu dinheiro para comprar computação’. Isso é o primeiro sinal de capital se organizando e a fragmentação do domínio monopolístico da Nvidia."
Fonte: TechCrunch
