Un cluster di GPU non assorbe corrente come un edificio per uffici. Quando migliaia di chip avviano e chiudono insieme un passo di addestramento, il carico sull'impianto elettrico può spostarsi di megawatt nel giro di pochi secondi. È il problema su cui Siemens ha deciso di investire: il 14 ottobre ha annunciato una partecipazione strategica in Skeleton Technologies, produttore di supercondensatori, insieme a una partnership mondiale esclusiva per vendere e diffondere i prodotti di Skeleton nel mercato dei data center.
L'accordo
Nessuna delle due società ha reso noto l'importo. Skeleton parla di un round a nove cifre che porta la sua valutazione oltre 1 miliardo di dollari e intende spendere oltre 200 milioni di dollari per crescere nella produzione e nella ricerca e sviluppo nella Silicon Valley, lavorando direttamente con gli hyperscaler. Prevede anche di produrre celle negli Stati Uniti, così che l'attività americana copra tutto, dalla cella al sistema completo. Siemens è partner tecnologico dal 2022 e investitore dal 2023; Siemens Digital Industries ha progettato e automatizzato lo stabilimento di Skeleton a Lipsia.
Siemens inserirà la tecnologia nella sua offerta di infrastruttura elettrica, che ora descrive come estesa dalla connessione alla rete fino al rack IA. Secondo il comunicato, i sistemi possono essere installati in impianti AC esistenti e in ammodernamenti, e aprono la strada ai futuri standard 800 V DC.
Da dove arrivano le oscillazioni
Siemens afferma che i carichi IA possono cambiare la domanda di potenza in pochi millisecondi, fino a oscillazioni dell'ordine dei megawatt in pochi secondi. I supercondensatori si caricano e si scaricano molto rapidamente, quindi possono stare vicino al carico e assorbire questi picchi prima che raggiungano il resto dell'impianto. Tra i vantaggi Siemens indica la protezione delle apparecchiature e della rete, una maggiore densità di calcolo e meno interventi sull'edificio. Skeleton si spinge oltre e parla di risparmi energetici fino al 40 % e di guadagni di prestazioni GPU a due cifre; sono dati dell'azienda e finora nessuna verifica indipendente è stata pubblicata.
L'amministratore delegato di Skeleton, Taavi Madiberk, sostiene che oggi a limitare le prestazioni dell'IA sia l'energia, non la disponibilità di GPU. Siemens dichiara di avere tra i clienti nove dei dieci maggiori fornitori di data center, il che dà alla partnership un canale di vendita evidente.
Anche il gruppo elettrogeno se ne accorge
L'annuncio parla di rete. In un sito dove la rete cade, le stesse oscillazioni finiscono sui gruppi elettrogeni di emergenza, e il regolatore di un motore risponde a un gradino di carico molto più lentamente di un banco di supercondensatori. Se tra i rack e la sbarra dei gruppi c'è un accumulo tampone, e su quale lato del commutatore si trova, cambia ciò che il gruppo deve accettare. Conviene chiarirlo prima di congelare la specifica dei gruppi, non al collaudo. Una prova con banco di carico a gradini regolari dice poco di un carico pulsante; se la sala ospiterà cluster di addestramento, chiedete al gestore come verrà riprodotto quel carico in sito.
Fonti: Siemens, Skeleton Technologies