Microsoft a donné une unité à la prochaine étape de son déploiement d’IA, et cette unité est le gigawatt. Dans un billet de blog du 12 octobre, Scott Guthrie, vice-président exécutif chargé du cloud et de l’IA, a présenté Azure Maia 300, troisième génération de l’accélérateur d’IA maison, et écrit que la famille Maia sera portée à des déploiements de plusieurs gigawatts à partir de 2027. Maia doit devenir le principal système d’inférence des produits et services de Microsoft, c’est-à-dire le matériel qui répond aux requêtes une fois le modèle entraîné.
La baie est l’unité
Les chiffres sont ceux de Microsoft et personne en dehors de l’entreprise ne les a encore mesurés. Maia 300 est composé de plusieurs chiplets - le calcul en procédé N2P de TSMC, les contrôleurs mémoire et les entrées-sorties sur des puces séparées - avec huit piles de mémoire HBM4 offrant 18 To/s de bande passante de crête pour une enveloppe thermique de 950 W par accélérateur. Quatre-vingt-seize d’entre eux prennent place dans une baie limitée à 167 kW, avec 27,6 To de mémoire à haute bande passante. Microsoft revendique jusqu’à 40 % de tokens par mégawatt de plus que les meilleurs systèmes à GPU et jusqu’à sept fois le débit par baie de Maia 200. Les déploiements en production sont prévus pour 2027, et d’autres précisions sont promises à la conférence Ignite de San Francisco le mois prochain.
Maia 200, lancé en janvier, est déjà en production au service de Microsoft Copilot et du développement des modèles maison ; GitHub Copilot et Microsoft Foundry doivent suivre d’ici la fin de l’année. Unite.AI rappelle qu’il a d’abord été installé dans la région US Central près de Des Moines, dans l’Iowa, puis dans US West 3 près de Phoenix ; selon Microsoft, le déploiement se poursuit aux États-Unis, en Europe et en Australie.
Des tokens par mégawatt
Le chiffre parlant pour le côté énergie est l’étalon choisi par Microsoft : les tokens par mégawatt. L’efficacité est rapportée à l’alimentation électrique et non à la puce, ce qui dit où se situe la contrainte. Une baie de 167 kW est à elle seule une petite charge industrielle, une salle entière est un poste de transformation, et « plusieurs gigawatts » est le vocabulaire des électriciens plutôt que celui des services informatiques. Converge Digest souligne dans son compte rendu que le refroidissement et la distribution électrique autour de la baie constituent l’autre moitié de la conception à cette densité.
Ce qu’il y a derrière un gigawatt d’inférence
Un service qui répond aux requêtes Copilot n’est pas une charge que l’on laisse tomber quand le réseau tombe ; la production de secours qui accompagne les centres de données de cette classe accompagnera donc aussi ceux-ci. Le billet ne dit pas où ces gigawatts seront construits ni comment les sites seront alimentés, et il ne mentionne pas du tout l’alimentation de secours ; ce qu’il dit, c’est que la charge arrive à partir de 2027 et fonctionne jour et nuit. Pour ceux qui conçoivent et font autoriser les parcs de groupes électrogènes, les questions restent les mêmes, à plus grande échelle : combien de groupes un campus exige pour son niveau de disponibilité, comment un permis traite les essais d’un parc de cette taille, et comment on exerce le parc en charge sans toucher à la charge informatique réelle. L’ordonnance du DOE adressée à PJM cette semaine rappelle que le réseau peut lui aussi solliciter ce parc de secours, charge d’inférence comprise.
Sources : Microsoft (Official Microsoft Blog), Converge Digest, Unite.AI