Microsoft hat der nächsten Stufe seines KI-Ausbaus eine Einheit gegeben, und diese Einheit ist das Gigawatt. In einem Blogbeitrag vom 12. Oktober stellte Scott Guthrie, Executive Vice President für Cloud und KI, Azure Maia 300 vor, die dritte Generation des hauseigenen KI-Beschleunigers, und schrieb, die Maia-Familie werde ab 2027 auf Installationen im Multi-Gigawatt-Maßstab ausgebaut. Maia soll das wichtigste Inferenzsystem für die Produkte und Dienste von Microsoft werden, also die Hardware, die Anfragen beantwortet, nachdem ein Modell trainiert ist.
Das Rack ist die Einheit
Die Zahlen stammen von Microsoft selbst; außerhalb des Unternehmens hat sie noch niemand nachgemessen. Maia 300 besteht aus mehreren Chiplets - Rechenwerk im N2P-Prozess von TSMC, Speichercontroller und I/O auf eigenen Dies - mit acht HBM4-Speicherstapeln, die 18 TB/s Spitzenbandbreite bei 950 W Thermal Design Power je Beschleuniger liefern. Sechsundneunzig davon kommen in ein Rack mit 167 kW Leistungsrahmen und 27,6 TB High-Bandwidth-Speicher. Microsoft beansprucht bis zu 40 Prozent mehr Tokens je Megawatt als führende GPU-Systeme und bis zu das Siebenfache des Rack-Durchsatzes von Maia 200. Der produktive Einsatz ist für 2027 geplant; mehr soll es nächsten Monat auf der Ignite-Konferenz in San Francisco geben.
Maia 200, im Januar vorgestellt, ist bereits in Produktion und bedient Microsoft Copilot und die eigene Modellentwicklung; GitHub Copilot und Microsoft Foundry sollen bis Jahresende folgen. Unite.AI erinnert daran, dass der Chip zuerst in der Region US Central bei Des Moines in Iowa installiert wurde, danach in US West 3 bei Phoenix; laut Microsoft läuft der Ausbau jetzt in den Vereinigten Staaten, Europa und Australien.
Tokens je Megawatt
Die aufschlussreiche Zahl für die Stromseite ist der Maßstab, den Microsoft gewählt hat: Tokens je Megawatt. Die Effizienz wird auf die Stromversorgung bezogen, nicht auf den Chip, und das sagt, wo die Engstelle liegt. Ein Rack mit 167 kW ist für sich genommen eine kleine Industrielast, eine Halle davon ist ein Umspannwerk, und Multi-Gigawatt ist die Sprache der Energieversorger, nicht der IT-Abteilungen. Converge Digest verweist in seinem Bericht auf Kühlung und Stromzuführung rund um das Rack als die andere Hälfte des Entwurfs bei dieser Dichte.
Was hinter einem Inferenz-Gigawatt steht
Ein Dienst, der Copilot-Anfragen beantwortet, ist keine Last, die man bei einem Netzausfall fallen lässt; die Netzersatzanlagen, die zu Rechenzentren dieser Klasse gehören, gehören deshalb auch zu diesen. Der Beitrag sagt nicht, wo die Gigawatt gebaut und wie die Standorte versorgt werden, und Notstrom erwähnt er gar nicht; er sagt aber, dass die Last ab 2027 kommt und rund um die Uhr läuft. Für alle, die Aggregatefelder bauen und genehmigen lassen, sind die Fragen die bekannten, nur in größerem Maßstab: wie viele Aggregate ein Campus für seine Verfügbarkeitsstufe braucht, wie eine Genehmigung die Probeläufe einer Flotte dieser Größe behandelt und wie das Feld unter Last geübt wird, ohne die laufende IT-Last zu berühren. Die Anordnung des DOE an PJM von dieser Woche erinnert daran, dass auch das Netz dieses Notstromfeld um Hilfe bitten kann, Inferenzlast hin oder her.
Quellen: Microsoft (Official Microsoft Blog), Converge Digest, Unite.AI