Em um diagrama arquitetônico, uma rede de inteligência artificial surge como linhas limpas conectando racks e switches. No piso do centro de processamento de dados, essas linhas se transformam em milhares de fibras que precisam alcançar a GPU correta, funcionar na primeira tentativa e permanecer acessíveis quando o sistema é modificado.
Os especialistas apontam que a inteligência artificial elevou as exigências para essa infraestrutura física. Os usuários esperam respostas imediatas, enquanto os operadores precisam colocar a capacidade de processamento cara em funcionamento rapidamente. Um conector sujo, uma fibra roteada incorretamente ou uma entrega atrasada podem impedir que as GPUs participem do conjunto.
Em um episódio recente do programa DCD>Broadcast, executivos da CommScope exploraram como a inteligência artificial está mudando o projeto de redes, desde a instalação inicial até a expansão futura, e por que o planejamento para o dia seguinte importa tanto quanto a entrega no primeiro dia.
A transição das aplicações tradicionais para a inteligência artificial mudou completamente as expectativas. Enquanto sistemas convencionais toleravam processamentos executados durante a noite, a inteligência artificial criou uma cultura de imediatismo, colocando maior importância na baixa latência e no tempo para o primeiro token. "Precisamos viabilizar redes de baixa latência para acessar dados e gerenciar as capacidades de processamento em um ambiente muito mais rápido e muito maior", afirmou Ken Hall, representante da empresa. "A expectativa hoje é imediata, ou quase."
As redes de inteligência artificial são construídas pela repetição de blocos modulares. GPUs e processadores formam sistemas em escala de rack, agrupados em pods e conectados através de camadas de comutação. Manter a rede plana reduz a latência, mas a conectividade física se multiplica rapidamente conforme os conjuntos crescem.
Rudy Musschebroeck divide esse crescimento em três dimensões. A primeira é a expansão interna, que conecta as GPUs e servidores dentro de um rack para que funcionem como um único computador de alto desempenho, atualmente predominantemente usando cobre. A segunda é a expansão externa, que liga racks e pods através do salão de processamento, principalmente por meio de fibra. A terceira é a expansão entre locais, que conecta salões, edifícios ou sites separados quando restrições de energia ou espaço impedem um sistema de inteligência artificial de ocupar um único local.
"Cada neurônio precisa se comunicar com os outros", comparou Musschebroeck, fazendo uma analogia entre as GPUs e as células do cérebro humano. "É muito importante que tudo esteja intimamente interconectado."
Quando linhas precisas se tornam milhares de fibras
Em uma implantação típica, centenas ou milhares de GPUs podem representar dezenas de milhares de conexões individuais de fibra. Cada uma precisa ser mapeada, rotulada, roteada e conectada corretamente, mantendo-se gerenciável dentro de uma instalação já congestionada.
"Quando você entra em um centro de dados e vê, é extremamente denso", descreveu Scott Eischens. "Aquelas linhas bonitas e organizadas são na verdade um monte de conexões de fibra indo para todos os lados."
Para Musschebroeck, isso cria três desafios imediatos de implantação. O primeiro é a velocidade: os operadores precisam que os materiais sejam entregues e instalados rapidamente para que investimentos substanciais em infraestrutura possam começar a gerar receita. O segundo é a qualidade na primeira tentativa, garantindo que cada GPU esperada apareça quando o sistema é iniciado. O terceiro é a logística. "Estamos olhando para uma planta em duas dimensões, mas a realidade é tridimensional, com postes, alturas de teto diferentes e escadas de cabos em diferentes alturas", explicou.
Os comprimentos e rotas dos cabos devem refletir o edifício, e não apenas o esquema da rede.
Retirando trabalho do piso do centro de dados
O cabeamento ponto a ponto pode parecer simples, com uma conexão em cada extremidade, mas grandes volumes de cabos podem costurar gabinetes e obstruir o acesso quando equipamentos precisam ser substituídos ou atualizados.
O cabeamento estruturado introduz um ponto de conexão adicional, mas proporciona maior flexibilidade entre gabinetes e pods. Ele também permite que mais integração, inspeção e testes sejam realizados fora do local. Troncos e utilitários podem ser instalados antecipadamente, enquanto os gabinetes são montados e testados em ambiente controlado antes de serem levados ao piso do centro de dados para conexão final.
Isso se torna cada vez mais importante à medida que diferentes especialidades competem por espaço ao redor do hardware de inteligência artificial. Energia, resfriamento líquido e conectividade convergem nos gabinetes de GPUs. Mangueiras de resfriamento e grandes conexões de energia ocupam cada vez mais a parte traseira, empurrando a fibra para a frente para que cada sistema possa permanecer acessível.
A plataforma Rapid Fiber Connect da CommScope, explorada em uma demonstração tecnológica recente, permite que as conexões do gabinete de GPUs sejam integradas e testadas fora do local, sendo então unidas através de menos conectores de inserção em massa.
"Isso empurra a fibra para a mesma mentalidade da energia e do resfriamento", observou Eischens. "Basta posicionar o gabinete, fazer alguns cliques e todo o gabinete está pronto para funcionar."
Construindo resiliência na camada física
O tráfego de inteligência artificial não pode ser superassinado da mesma forma que redes convencionais de nuvem ou telecomunicações. As GPUs podem precisar se comunicar com qualquer outra GPU em velocidade total, criando arquiteturas não bloqueantes nas quais a largura de banda é preservada através de cada camada de comutação.
Os links em si podem conter várias faixas. Uma conexão de 400 gigabits por segundo, por exemplo, pode consistir em quatro faixas de 100 gigabits por segundo. Uma arquitetura multiplano distribui essas faixas entre diferentes switches em vez de roteá-las todas através de um único. Se uma conexão falhar, a rede pode ficar mais lenta, mas o link inteiro não desaparece. A mesma abordagem pode suportar mais GPUs sem adicionar outra camada de comutação e sua latência associada.
Essa resiliência lógica cria complexidade física. Os módulos de reorganização Propel da CommScope colocam a distribuição de faixas dentro de um módulo substituível, mantendo troncos e cords de correção padrão. Se os requisitos mudarem ou algo for danificado, os operadores podem substituir o módulo em vez de todo o conjunto de cabo reorganizado.
A tecnologia de conectores também está evoluindo. A tecnologia FastSelfClean da CommScope usa ranhuras em V em vez de ferrolhos convencionais, limpando as faces das extremidades da fibra cada vez que o conector é inserido. Sua primeira implementação planejada, chamada FSC144, reúne 144 fibras em um único conector com perda de inserção inferior a 0,1 decibel.
"Você quer conectar muitas fibras ao mesmo tempo e não quer se preocupar com limpeza ou inspeção", disse Musschebroeck. "A confiabilidade precisa aumentar nesses sistemas."
Seguindo a fibra para o futuro
A fronteira entre equipamento e infraestrutura de rede também está começando a mudar. As ópticas co-embaladas integram a conversão elétrico-óptica mais intimamente com o silício de comutação, reduzindo o consumo de energia dos transceptores plugáveis e levando a fibra mais profundamente dentro dos switches.
Musschebroeck espera uma transição semelhante dentro dos sistemas em escala de rack. Suas redes de expansão interna são conectadas predominantemente através de cobre atualmente, mas velocidades mais altas, maior desempenho e números crescentes de GPUs provavelmente aumentarão o papel da fibra.
A definição de gabinete também pode mudar. Eischens observa que as contagens de GPUs por sistema estão progredindo de 72 para 144, com 576 ou mais em discussão para projetos futuros. Acomodar esses sistemas pode exigir vários gabinetes operando como uma única unidade, ou um enclosure aproximando-se do tamanho de um pequeno cômodo.
Os operadores, portanto, precisam considerar capacidade máxima, materiais, mão de obra e expansão desde o início. Eles devem decidir o que pertence fora do local e o que deve acontecer no piso do centro de dados, permitindo reparos e atualizações sem recabeamento completo.
"Você precisa estar olhando para onde isso está indo e qual será o próximo passo", concluiu Hall. "Se o próximo passo não couber dentro dessas paredes, você precisa olhar como vai adicionar a isso."
Para redes de inteligência artificial, alcançar o primeiro token pode ser o objetivo imediato, mas chegar lá com eficiência depende de planejamento bem além do primeiro dia.
Fonte: DCD
