Em uma decisão que contrasta com a corrida armamentista de grandes empresas de tecnologia, a LinkedIn revelou que não pretende expandir sua capacidade computacional neste ano fiscal. A rede social profissional, que pertence à Microsoft, anunciou planos de manter estável tanto o investimento em unidades de processamento gráfico quanto a área de armazenamento e computação.
Executivos da empresa afirmaram que essa estratégia foi possível graças a descobertas recentes que permitiram dobrar a eficiência das GPUs já existentes nos últimos seis meses. A medida representa um movimento ousado em um momento em que rivais como OpenAI, Meta e Google gastam bilhões para construir e operar data centers masivos equipados com os mais recentes chips de computador.
"Uma das nossas metas é tentar manter nossa pegada computacional estável ou o mais próximo possível disso, enquanto colocamos em produção recursos mais intensivos em inteligência artificial", declarou Erran Berger, diretor de tecnologia da LinkedIn. "Essa é uma declaração bastante ousada no mundo de hoje."
A LinkedIn possui mais de 1,3 bilhão de usuários e é a maior empresa até agora a abordar publicamente as preocupações com gastos em infraestrutura de IA, optando por não participar do boom de construção de data centers que domina o setor.
Após a aquisição pela Microsoft em 2016, a LinkedIn tentou migrar para o serviço de nuvem Azure, mas descobriu que não era economicamente viável adaptar a gigante das redes sociais aos data centers de propósito geral. Em 2022, a empresa decidiu investir em suas próprias instalações em Oregon, Texas e Virgínia, obtendo controle total sobre cada aspecto tecnológico.
Raghu Hiremagalur, diretor de tecnologia para infraestrutura da LinkedIn, explicou que a empresa otimizou cada etapa do pipeline de IA, desde o treinamento de modelos até a resposta às consultas dos usuários. A equipe desenvolveu ferramentas de medição para compreender quanto processamento e armazenamento cada equipe estava utilizando, implementando um sistema de alocação mais eficiente que reduziu o tempo ocioso dos equipamentos.
"Nossa eficiência de alocação e utilização de GPUs no treinamento é a melhor que já vi", afirmou Hiremagalur, descrevendo uma utilização superior a 95%.
A empresa também empregou técnicas de destilação para treinar modelos de IA menores a partir de modelos maiores, mantendo a qualidade das recomendações. Para as ferramentas de recomendação de empregos, um único modelo aprendeu com dois modelos maiores para identificar vagas relevantes e prever quais usuários teriam maior probabilidade de clicar nelas.
A LinkedIn até reescreveu parte do software fundamental dos processadores Nvidia para capacitá-los a lidar com tarefas maiores do que foram projetados. Também ajustou outros programas para executar tarefas em processadores CPU em vez das GPUs da Nvidia, que são mais caras, mais difíceis de adquirir e consomem mais energia.
No total, a LinkedIn estima que seu trabalho de eficiência economizou cerca de 24 milhões de dólares nos últimos 12 meses, o equivalente a aproximadamente 1.100 GPUs funcionando continuamente durante um ano.
"Para uma empresa do nosso porte dizer que vamos fazer isso por um ano inteiro sem armazenamento e computação incrementais não é pouca coisa, mas foi necessário muito trabalho para chegar lá", enfatizou Hiremagalur.
A estratégia faz parte de uma tendência mais ampla conhecida como "tokenomics" — analisar mais profundamente o custo de usar ferramentas de geração de IA. "As empresas estão evoluindo de uma era de comprar mais para uma era de fazer mais", analisou Chirag Dekate, consultor da Gartner. "Até agora, o mantra era: compre mais para economizar mais. Mas comprar mais só aumenta os custos."
Embora a LinkedIn não tenha descartado o crescimento futuro de data centers, a empresa mudou a forma como aloca sua infraestrutura, abandonando estimativas imprecisas sobre os recursos que as equipes esperarão utilizar.
Fonte: Feed: All Latest
