Primeiro surgiram as unidades centrais de processamento e as unidades de processamento gráfico. Depois vieram as unidades de processamento acelerado. E com a chegada dos computadores e smartphones inteligentes, fomos apresentados às unidades de processamento neural. Mas agora, graças à gigante das buscas, surge mais um chip: a unidade de processamento tensorial.
Originalmente implantada internamente pela empresa de tecnologia em 2015, essa unidade foi criada para lidar com todas as operações matemáticas complexas necessárias para sistemas de inteligência artificial e aprendizado de máquina. Projetada para aplicações em nuvem, a unidade é usada principalmente em centros de processamento de dados. No entanto, esse termo recentemente apareceu nos novos smartphones da linha onze da gigante das buscas, através do chip Tensor de sexta geração, que segundo a empresa oferece "cinquenta por cento mais capacidade de processamento tensorial".
A resposta sobre qual tecnologia é melhor é, confusamente, ambas. Nos smartphones dessa linha, a unidade de processamento tensorial é basicamente uma forma sofisticada da empresa chamar sua unidade de processamento neural. Esta versão lida com o processamento de câmera e imagem, além de tarefas locais de inteligência artificial. Mas a unidade dos centros de dados é decididamente diferente de uma versão para smartphone.
Essa unidade é um chip criado para lidar com tarefas de inteligência artificial baseadas em nuvem nos centros de dados da empresa. Conhecida como acelerador de inteligência artificial, ela é otimizada para realizar milhões de cálculos matemáticos em tempo real em modelos de inteligência artificial, algo que outras unidades e processadores gráficos também fazem.
As unidades de processamento neural são os chips encontrados em todos os smartphones, computadores e laptops modernos. Elas fazem todo o trabalho pesado para tarefas de inteligência artificial generativa e agentiva, seja apagando alguém de uma foto ou usando assistentes virtuais para planejar um itinerário de viagem. Nos smartphones mencionados, a unidade substitui a unidade de processamento neural, com a empresa afirmando "processamento de inteligência artificial até três vezes e meia mais rápido enquanto usa até três vezes e meia menos energia".
Os processadores gráficos são familiares para muitos, especialmente se você é um jogador ou trabalha com modelos tridimensionais. Antes da inteligência artificial, queríamos um processador gráfico poderoso para rodar jogos com alta qualidade gráfica. Após a era da inteligência artificial, eles ainda fazem isso, além de lidar com treinamento de inteligência artificial e mineração de criptomoedas.
O que diferencia esses processadores são principalmente os casos de uso e a escala. Enquanto as unidades de processamento tensorial são usadas para inteligência artificial em nuvem executada em centros de dados, as unidades de processamento neural e os processadores gráficos podem ser encontrados em smartphones e laptops.
Graças à sua arquitetura especializada, a unidade de processamento tensorial é empregada para acelerar cálculos massivos usados em modelos de linguagem de grande escala e tarefas de aprendizado profundo. Elas utilizam um layout de hardware chamado arranjo sistólico que permite que os dados passem de uma unidade para a próxima em uma grade bidimensional de multiplicadores, o que ajuda a eliminar possíveis gargalos.
Isso significa que a saída do cálculo se torna a entrada para a próxima unidade sem ter que escrever de volta na memória, diferentemente dos processadores gráficos, que ficam alternando dados entre suas unidades de computação e sua memória de alta largura de banda.
As unidades de processamento neural e as unidades de processamento tensorial para dispositivos locais são relegadas a tarefas menos intensas. Elas são otimizadas para tarefas de baixo consumo de energia, por isso são perfeitas para coisas como efeitos de câmera e tradução em tempo real.
Cada acelerador de inteligência artificial é melhor em um caso de uso específico. As unidades de processamento neural e as unidades de processamento tensorial para dispositivos são melhores para lidar com tarefas menores de inteligência artificial. Seu baixo consumo de energia significa que não serão um grande peso na bateria do seu smartphone, laptop ou relógio inteligente.
As unidades de processamento tensorial são a solução econômica e energeticamente eficiente que ajuda a executar os sistemas de inteligência artificial globalmente. Processando milhões de cálculos matemáticos enquanto treinam modelos de aprendizado de máquina em escala massiva, elas são puramente para grandes centros de dados.
Com sua flexibilidade inata, os processadores gráficos podem assumir cargas de trabalho de inteligência artificial pequenas e grandes, além de rodar jogos, editar vídeos e executar simulações. Se você quiser executar modelos de linguagem de grande escala localmente, um processador gráfico robusto é o caminho a seguir.
