Energia e raffreddamento sono ora i limiti dei data centre, sulla Terra e in orbita

Questa settimana sono uscite a un giorno di distanza due notizie che sembrano non avere nulla in comune, finché non si leggono i numeri. Una riguarda un satellite grande come un frigorifero. L'altra riguarda 1.500 miglia di linee di trasmissione. Entrambe parlano dello stesso problema: i data centre sono cresciuti oltre i sistemi di alimentazione e raffreddamento che avrebbero dovuto servirli.

Cominciamo dal satellite. Il primo veicolo di test del Project Suncatcher di Google, chiamato MVP, dovrebbe partire il 1° ottobre a bordo di un Falcon 9 di SpaceX, nell'ambito del rideshare Transporter-18, secondo Ars Technica. A bordo ci sono quattro acceleratori AI TPU personalizzati di Google. I pannelli solari forniscono circa un kilowatt, che secondo Ars basta all'incirca per far funzionare un microonde o un asciugacapelli.

Non è un data centre. È un singolo server, in orbita, con un problema di fisica attaccato.

Il problema del raffreddamento, nello spazio e a terra

Gli acceleratori AI generano molto calore, e il calore è molto più difficile da smaltire nel vuoto. Non c'è aria da far passare su un dissipatore. I sistemi a radiatori esistono nello spazio, ma come riporta Ars Technica sono progettati per rimuovere quantità di calore relativamente piccole rispetto a quelle prodotte dal silicio per l'AI. Google risponde con uno strato di materiale termico malleabile per l'interfaccia, che collega i chip a tubi di calore in alluminio e rame. I tubi conducono il calore verso un radiatore che lo proietta nello spazio.

Anche con questa configurazione, i quattro chip possono funzionare solo per periodi di circa 15 minuti prima di doversi spegnere e lasciare che i radiatori recuperino. Tom's Hardware, citando The New York Times, riporta lo stesso dato e aggiunge che i chip avranno bisogno di riavvii periodici per azzerare i bit flip causati dalle radiazioni. Si prevede che il satellite gestisca richieste AI per un massimo di un anno e resti in orbita fino a sei anni prima di rientrare nell'atmosfera, anche se Ars dice che questo primo test funzionerà solo per pochi mesi.

Google non finge che sia un prodotto. James Manyika, vicepresidente senior della ricerca dell'azienda, ha detto al Times: "Non ci aspettiamo, a essere del tutto franchi, di avere qualcosa di utilmente operativo nei prossimi anni." Ha paragonato lo sforzo al lavoro di Google sulle auto senza conducente, che l'azienda ha testato "per tipo 15 anni prima che si vedesse qualcosa."

Notate cosa manca in questo quadro: un argomento sui costi. Lanciare un singolo server in orbita per risparmiare sul raffreddamento terrestre non è, secondo i numeri disponibili, ovviamente più economico che costruire il raffreddamento a terra. Lo scopo dell'esperimento è scoprire cosa si rompe.

A terra, la rete è il collo di bottiglia

La versione terrestre dello stesso problema è emersa questa settimana in un annuncio del Dipartimento dell'Energia degli Stati Uniti. Il dipartimento ha detto che metterà 5,25 miliardi di dollari nel miglioramento della rete, divisi tra 1,9 miliardi di dollari di fondi federali e 3,35 miliardi di dollari di finanziamenti in compartecipazione ai costi, su 31 progetti in 26 stati. The Register ha riportato il 25 settembre che il programma, gestito nell'ambito dell'iniziativa SPARK con fondi del programma GRIP, dovrebbe liberare almeno 23 gigawatt di capacità aggiuntiva.

Il meccanismo conta. I progetti non aggiungono generazione. Ricostruiscono o sostituiscono i conduttori su più di 1.500 miglia di linee di trasmissione e installano tecnologie che potenziano la rete, come sensori e dispositivi di controllo del flusso di potenza, su 21.000 miglia di infrastrutture. In altre parole, spremere di più da fili che già esistono. Il segretario all'Energia degli Stati Uniti Chris Wright ha dichiarato in una nota che gli investimenti "otterranno di più dalle infrastrutture che già abbiamo, sposteranno più elettricità attraverso la rete e aiuteranno a fornire energia accessibile, affidabile e sicura." Il dipartimento sostiene che il programma migliorerà l'affidabilità e ridurrà i costi dell'elettricità per circa 100 milioni di americani.

The Register è netto nel dire che potrebbe non bastare. Cita un avvertimento di Moody's di inizio settembre secondo cui il ritmo di costruzione dei data centre supera la velocità con cui la rete statunitense può aggiungere la capacità necessaria. Moody's stima che il consumo elettrico dei data centre statunitensi raggiungerà 426 TWh entro il 2030, quasi il doppio della cifra del 2025. È questo divario che spinge il settore a spendere in piccoli reattori modulari, generazione geotermica e riattivazione di vecchi impianti nucleari. Spinge anche produttori di chip come Nvidia a premere per data centre in grado di restituire capacità alla rete quando serve, secondo The Register.

Perché le rinnovabili da sole non colmano il divario

Un'assunzione comune è che l'energia pulita risolva il lato dell'offerta. Data Center Knowledge ha delineato i limiti di quell'argomento in un pezzo che resta la spiegazione più chiara del vincolo. La produzione di vento e sole varia con il meteo, quindi una struttura alimentata a solare ha bisogno di una fonte alternativa nelle giornate nuvolose e un parco eolico potrebbe non generare abbastanza megawatt quando c'è calma. Il geotermico funziona indipendentemente dal meteo ma richiede impianti specializzati e un investimento iniziale maggiore; meno dello 0,5 per cento dell'elettricità statunitense è generata così.

Lo stoccaggio è l'altra metà del problema. A meno che un sito non abbia enormi batterie, l'elettricità in eccesso da vento, sole o geotermico non può essere trattenuta. O la usi o la perdi. La conseguenza pratica, come la mette Data Center Knowledge, è che alimentare un data centre esclusivamente con energia pulita richiede in genere di costruire impianti di approvvigionamento con una capacità di produzione totale molto più alta di quella che il sito necessita nella maggior parte del tempo, oppure di integrare con energia non pulita nei picchi.

Niente di tutto questo rende l'energia pulita inutile. Ricavare anche solo il 20 per cento dell'energia di una struttura dalle rinnovabili è un taglio del 20 per cento delle emissioni di carbonio legate alla produzione di energia, e combinarlo con misure di efficienza come il raffreddamento a liquido e la gestione intelligente dell'alimentazione fa una differenza misurabile. Semplicemente non rende la rete opzionale.

Il versante delle sanzioni

Quando l'energia dalla rete scarseggia, gli operatori trovano soluzioni alternative, e a volte quelle soluzioni violano la legge. Il New Jersey questa settimana ha ordinato all'operatore di uno dei più grandi data centre pianificati della costa orientale di pagare una multa di 1,1 milioni di dollari per aver installato e gestito di nascosto generatori a gas in violazione dell'Air Pollution Control Act dello stato, ha riportato Ars Technica il 24 settembre.

DataOne è stata scoperta dopo un'inchiesta del Guardian e di Floodlight News che in agosto aveva diffuso riprese termiche da drone. Le immagini mostravano 45 dei 62 generatori a gas in funzione. Nessuno aveva i permessi richiesti per generatori con capacità di 37 kilowatt o superiore, nonostante funzionassero a capacità di 1.982 kW, più di 50 volte il limite statale. Il Dipartimento per la Protezione Ambientale del New Jersey ha osservato che tali generatori emettono anidride carbonica, ossidi di azoto, monossido di carbonio e altri inquinanti legati alla combustione, che possono peggiorare l'asma, scatenare infarti e causare morti premature.

Il commissario del DEP Ed Potosnak ha definito l'azione "di gran lunga la più grande mai intrapresa contro un data center nel New Jersey" e ha detto che i data centre non sarebbero stati "costruiti o gestiti con impunità in questo stato." L'azienda ha 45 giorni per richiedere i permessi o cessare le operazioni, ma può continuare a far funzionare i motori mentre li cerca. Un portavoce di DataOne ha detto al New York Times che l'azienda avrebbe richiesto i permessi e si è detta "in disaccordo" con la multa, aggiungendo che sta passando a celle a combustibile a basse emissioni.

I residenti vicino al sito di Vineland non sono soddisfatti. Nichole Gardner dell'organizzazione locale senza scopo di lucro Sustain SJ ha detto ad Ars che la sanzione è "insufficiente, sia nell'importo in dollari sia nell'applicazione." Tiffany Leone-Vespa, che vive nel quartiere da 18 anni, ha detto al Times: "Cosa abbiamo respirato da quando hanno fatto funzionare questi generatori senza permessi?"

Cosa collega le due storie

L'esperimento orbitale e la multa del New Jersey stanno agli estremi opposti dello stesso vincolo. Google sta verificando se può sfuggire ai limiti terrestri di energia e raffreddamento lasciando il pianeta, e scopre che il calore è ancora calore e un kilowatt è ancora un kilowatt. DataOne è ciò che accade quando un operatore decide che la rete non può aspettare e i permessi sì. Il Dipartimento dell'Energia sta cercando di guadagnare tempo con fili ricondotti. La stima di Manyika, come riportata da Tom's Hardware, è che Google abbia circa 15 anni per passare da un server a quattro chip a un data centre completo. Moody's dà alla rete statunitense cinque anni per quasi raddoppiare l'elettricità che fornisce ai data centre. Quei due orologi non corrono alla stessa velocità.