A Microsoft deu uma unidade à próxima etapa de sua expansão em IA, e a unidade é o gigawatt. Em um post no blog de 12 de outubro, Scott Guthrie, vice-presidente executivo de nuvem e IA, apresentou o Azure Maia 300, terceira geração do acelerador de IA da própria Microsoft, e escreveu que a família Maia será levada a implantações de vários gigawatts a partir de 2027. O Maia deve se tornar o principal sistema de inferência dos produtos e serviços da Microsoft, ou seja, o hardware que responde às solicitações depois que o modelo foi treinado.
O rack é a unidade
Os números são da própria Microsoft e ninguém fora da empresa os mediu ainda. O Maia 300 é formado por vários chiplets - o processamento no processo N2P da TSMC, controladores de memória e E/S em dies separados - com oito pilhas de memória HBM4 que entregam 18 TB/s de largura de banda de pico dentro de um TDP de 950 W por acelerador. Noventa e seis deles vão em um rack com envelope de 167 kW e 27,6 TB de memória de alta largura de banda. A Microsoft afirma até 40 por cento mais tokens por megawatt do que os principais sistemas baseados em GPU e até sete vezes a vazão por rack do Maia 200. As implantações em produção estão previstas para 2027, e mais detalhes são prometidos para a conferência Ignite, em São Francisco, no mês que vem.
O Maia 200, lançado em janeiro, já está em produção atendendo o Microsoft Copilot e o desenvolvimento de modelos da própria empresa; GitHub Copilot e Microsoft Foundry devem seguir até o fim do ano. O Unite.AI lembra que ele entrou primeiro na região US Central, perto de Des Moines, em Iowa, com US West 3, perto de Phoenix, em seguida; segundo a Microsoft, a implantação avança agora nos Estados Unidos, na Europa e na Austrália.
Tokens por megawatt
O número que mais diz ao lado da energia é a régua escolhida pela Microsoft: tokens por megawatt. A eficiência é declarada em relação ao suprimento elétrico, não ao chip, e isso mostra onde está a restrição. Um rack de 167 kW é, sozinho, uma pequena carga industrial; uma sala inteira é uma subestação; e «vários gigawatts» é a linguagem das concessionárias, não dos departamentos de TI. A Converge Digest aponta em sua reportagem o resfriamento e a distribuição de energia em torno do rack como a outra metade do projeto nessa densidade.
O que está por trás de um gigawatt de inferência
Um serviço que responde a solicitações do Copilot não é uma carga que alguém deixe cair quando a rede cai; a geração de emergência que acompanha os data centers dessa classe acompanha também estes. O post não diz onde os gigawatts serão construídos nem como os locais serão alimentados, e não menciona energia de backup em momento algum; o que diz é que a carga chega a partir de 2027 e funciona 24 horas por dia. Para quem monta e licencia parques de grupos geradores, as perguntas são as de sempre, em escala maior: quantos grupos um campus precisa para seu nível de disponibilidade, como a licença trata os testes de uma frota desse tamanho e como o parque é exercitado sob carga sem tocar na carga de TI em operação. A ordem do DOE à PJM desta semana lembra que a rede também pode pedir ajuda a esse parque de emergência, carga de inferência incluída.
Fontes: Microsoft (Official Microsoft Blog), Converge Digest, Unite.AI