Durante os primeiros anos da explosão da inteligência artificial, a Nvidia se firmou como a única fornecedora de processadores gráficos de última geração, obtendo lucros extraordinários à medida que o setor ampliava suas operações. Nos últimos anos, porém, grandes empresas como Amazon e Google passaram a desenvolver seus próprios chips, fazendo muitos investidores questionarem o quanto tempo duraria essa vantagem. Após disparar o valor de mercado em dez vezes entre o início de 2023 e meados de 2025, as ações da companhia entraram em uma trajetória mais moderada nos últimos doze meses, pressionadas por preocupações com a competição no segmento de processadores gráficos.
Uma nova narrativa surgiu após a divulgação dos resultados financeiros da empresa na última quarta-feira, revelando que sua vantagem vai muito além dos chips dedicados a processos de inteligência artificial. À medida que as demandas computacionais da IA alcançam escala de gigawatts, a orquestração de sistemas se tornou uma tarefa cada vez mais complexa. Não é por acaso que a companhia construiu grande parte dos componentes de hardware necessários para lidar com esse desafio, conferindo-lhe uma vantagem significativa nos sistemas que cercam o processador gráfico, mesmo diante da intensificação da concorrência direta ness área.
Embora se fale muito em computação como commodity, operar um centro de dados de grande escala com eficiência máxima continua sendo uma tarefa extraordinariamente difícil, e esse desafio só tende a crescer conforme as implantações se tornam maiores e mais rápidas. Examinando os detalhes do que a Nvidia realmente comercializa, é possível perceber essa estratégia. A empresa está lançamento sua arquitetura Vera Rubin, que combina o processador gráfico Rubin com um conjunto de outros componentes, incluindo a CPU Vera, o acelerador de inferência Groq 3 LPX e racks equivalentes para armazenamento e rede.
Nas últimas conversas com executivos da empresa, os resultados se mostraram surpreendentes. Assim como o processador gráfico Rubin em si, esses sistemas são extremamente especializados, mas em vez de processar tokens, garantem que tudo ao redor do processador funcione com a máxima eficiência. Se o processador gráfico é o motor, esses componentes são o restante do veículo. A CPU Vera, em particular, está concentrada no problema de orquestrar dados. "A Vera é importante porque existe um limite para a quantidade de memória que pode ser instalada em um único servidor ou plataforma de computação", explicou Jason Hardy, vice-presidente de tecnologia de armazenamento da Nvidia. À medida que os centros de dados ampliaram seu poder computacional, a capacidade de memória também cresceu, razão pela qual empresas como a Micron enriqueceram na segunda onda do boom da infraestrutura.
No entanto, levar esses dados até o processador gráfico no momento certo não é algo simples, e conforme as empresas buscam reduzir cada vez mais os tokens por watt consumido, percebem o quanto esse tipo de direcionamento de tráfego é crucial. "Registramos melhorias de até três vezes nessas operações, onde a CPU Vera permite a aceleração", afirmou Hardy. "Agora podemos usar nossa memória flash em seu máximo potencial, extraindo todo o desempenho sem criar gargalos." Esse mesmo problema pode ser observado fora do universo da Nvidia. Quando a OpenAI desenvolveu seu chip Jalapeño, um foco principal foi evitar completamente esses desafios, minimizando a quantidade de dados que precisa ser movimentada. "Projetamos o Jalapeño para minimizar o movimento de dados e os atrasos de comunicação", publicou a empresa em um post recente. "Sua arquitetura de domínio amplo permite que toda a carga de trabalho permaneça dentro de um sistema conectado, reduzindo o movimento de dados e garantindo que a solicitação completa permaneça rápida e eficiente do início ao fim."
Trata-se de uma abordagem diferente, que evita o movimento de dados inteiramente ao conduzir uma carga de trabalho dentro de um único chip integrado. Mas a lógica geral é a mesma: aumentar a eficiência com um controle de tráfego mais inteligente em vez de apenas mais ciclos de processador. Isso, por sua vez, abre uma camada inteiramente nova de infraestrutura para as empresas competirem. Esse novo foco na orquestração de dados não é automaticamente uma vitória para a Nvidia. A empresa terá que enfrentar rivais fabricantes de chips e grandes provedores de nuvem exatamente como fez no segmento de processadores gráficos. Mas a competição se mudou para uma nova camada, onde criar um processador gráfico rival importa menos do que conseguir fazer o sistema inteiro funcionar com eficiência. E pelo menos nos estágios iniciais, a Nvidia parece ter uma vantagem dominante.
Fonte: TechCrunch

