Microsoft ha puesto una unidad a la siguiente etapa de su expansión en IA, y esa unidad es el gigavatio. En una entrada de blog del 12 de octubre, Scott Guthrie, vicepresidente ejecutivo de nube e IA, presentó Azure Maia 300, la tercera generación del acelerador de IA de la propia Microsoft, y escribió que la familia Maia se escalará a despliegues de varios gigavatios a partir de 2027. Maia será el principal sistema de inferencia para los productos y servicios de Microsoft, es decir, el hardware que responde a las peticiones una vez entrenado el modelo.
El rack es la unidad
Las cifras son de Microsoft y nadie fuera de la empresa las ha medido todavía. Maia 300 se construye con varios chiplets - el cómputo en el proceso N2P de TSMC, los controladores de memoria y la E/S en dados separados - con ocho pilas de memoria HBM4 que dan 18 TB/s de ancho de banda máximo dentro de una potencia de diseño térmico de 950 W por acelerador. Noventa y seis de ellos van en un rack con una envolvente de 167 kW y 27,6 TB de memoria de alto ancho de banda. Microsoft afirma hasta un 40 por ciento más de tokens por megavatio que los principales sistemas basados en GPU y hasta siete veces el rendimiento por rack de Maia 200. Los despliegues en producción están previstos para 2027, y se prometen más detalles en la conferencia Ignite de San Francisco el mes que viene.
Maia 200, lanzado en enero, ya está en producción atendiendo a Microsoft Copilot y al desarrollo de modelos de la propia empresa; GitHub Copilot y Microsoft Foundry seguirán antes de fin de año. Unite.AI recuerda que se instaló primero en la región US Central, cerca de Des Moines (Iowa), y después en US West 3, cerca de Phoenix; según Microsoft, el despliegue avanza ahora en Estados Unidos, Europa y Australia.
Tokens por megavatio
La cifra reveladora para el lado eléctrico es la vara de medir que eligió Microsoft: tokens por megavatio. La eficiencia se expresa frente al suministro eléctrico y no frente al chip, lo que indica dónde está la limitación. Un rack de 167 kW es por sí solo una pequeña carga industrial, una sala entera es una subestación, y «varios gigavatios» es el lenguaje de las eléctricas, no de los departamentos de TI. Converge Digest señala en su crónica que la refrigeración y la distribución eléctrica alrededor del rack son la otra mitad del diseño a esta densidad.
Lo que hay detrás de un gigavatio de inferencia
Un servicio que responde a las peticiones de Copilot no es una carga que nadie deje caer cuando cae la red; la generación de respaldo que acompaña a los centros de datos de esta clase acompañará también a estos. La entrada no dice dónde se construirán esos gigavatios ni cómo se alimentarán los emplazamientos, y no menciona en absoluto la energía de respaldo; lo que sí dice es que la carga llega a partir de 2027 y funciona las veinticuatro horas. Para quienes integran y tramitan los parques de grupos electrógenos, las preguntas son las de siempre a mayor escala: cuántos grupos necesita un campus para su nivel de disponibilidad, cómo trata un permiso las pruebas de una flota de ese tamaño y cómo se ejercita el parque en carga sin tocar la carga de TI real. La orden del DOE a PJM de esta semana recuerda que la red también puede pedir ayuda a ese parque de respaldo, carga de inferencia incluida.
Fuentes: Microsoft (Official Microsoft Blog), Converge Digest, Unite.AI