Come nascono gli acceleratori AI: packaging, memoria e colli di bottiglia nel design
La corsa agli acceleratori AI non riguarda più solo chi riesce a stampare il die logico più veloce. Tre storie di filiera del 2026 mostrano che i vincoli stanno nel materiale, nello stack di memoria e nel flusso di lavoro ingegneristico attorno al chip.

Gli acceleratori AI si descrivono di solito con la potenza di calcolo. Le GPU di Nvidia, Maia di Microsoft, Raptor di d-Matrix: i numeri citati sono teraflop, conteggi di transistor e larghezza di banda della memoria. La storia più difficile è quella che circonda quel silicio. Nel 2026 questa storia si è affollata.
Tre rapporti distinti, di Tom's Hardware, ServeTheHome e The Next Platform, descrivono tre diversi punti di strozzatura. Un tessuto di vetro specialistico sta dentro ogni package avanzato. Un'architettura di memoria scambia capacità con larghezza di banda. Una pipeline ingegneristica viene ricostruita attorno agli agenti AI.
Una quota del 90% in un materiale che quasi nessuno conosce
Il primo collo di bottiglia è un materiale chiamato T-glass. Secondo Tom's Hardware, una società giapponese chiamata Nittobo controlla circa il 90% dell'offerta globale. Il T-glass è un tessuto di fibra di vetro a basso CTE usato nel nucleo organico dei substrati per IC. È lo strato di interconnessione tra un chip e il suo circuito stampato. Mantiene dimensionalmente stabili i package grandi e ad alta dissipazione man mano che diventano più densi.
Questo conta sempre di più con la crescita dei processori AI. Tom's Hardware cita dati Nvidia che mostrano interposer in aumento da 814mm² per Hopper a 1.700mm² per Blackwell, un incremento del 109%. Le generazioni Rubin e Feynman in arrivo salgono ancora. Ogni generazione consuma più T-glass per unità. E una nuova linea di T-glass non si avvia in fretta. Servono forni elettrici di fusione specializzati che lavorano tra 1.600 e 1.700°C. Servono anche anni di investimenti e competenze per fondere vetro ricco di silice, filarlo in filato e tesserlo in tessuto ultraleggero.
I numeri mostrano già la stretta. Tom's Hardware riporta prezzi saliti tra il 20 e il 30%. I tempi di consegna per materiali a valle come i laminati rivestiti in rame sono passati dalle normali 8-10 settimane a oltre 20. "Con l'offerta di T-glass ancora più limitata, i fornitori non danno più tempi di consegna", ha detto Bill Ho, analista di Yuanta, nell'articolo.
Nittobo sta triplicando la capacità del suo impianto di Fukushima, ma la nuova offerta non arriverà sul mercato prima di metà 2027. Sta anche raddoppiando la capacità di filato grezzo nello stabilimento di Taiwan e importando filato in Giappone per la tessitura. L'azienda ha stretto un accordo di collaborazione con Nanya Plastics per esternalizzare parte della tessitura. Entro il 2027, circa il 20% del tessuto di vetro di Nittobo dovrebbe essere tessuto da Nanya, secondo quanto dichiarato dall'azienda. Collaborare con un concorrente è di per sé un segnale di quanto sia teso il mercato.
Bilal Hachemi, analista di Yole Group che segue la filiera dei substrati per IC, ha detto a Tom's Hardware Premium che sostituire il T-glass non è semplice. Ha "valori specifici di dielettrico e CTE che funzionano meglio per i chip AI, soprattutto per il nucleo organico". Ha anche indicato i margini sottili del settore. "Qualsiasi aumento della domanda di materiali build-up, materiale ABF o T-glass può causare una potenziale carenza, perché va contro le basi di questo settore", ha detto.
Bank of America stima che il segmento materiali elettronici di Nittobo quasi raddoppierà le vendite da 40.900.000.000 di yen (266.000.000 di dollari) nel 2025 a 87.700.000.000 entro marzo 2028. I margini operativi si avvicinano al 48%. "La domanda di tessuto T-glass sembra destinata a crescere più del previsto", ha detto Takashi Enomoto, analista di ricerca di Bank of America, nello stesso pezzo.
Il dettaglio più eclatante è forse chi bussa ora alla porta. Hachemi ha detto che Nvidia che si rivolge direttamente a un fornitore di materiali a monte come Nittobo è senza precedenti. "Per la prima volta vediamo Nvidia, il cliente finale, contattare i fornitori di materiali a monte per assicurarsi la capacità e fare in modo di ottenerla", ha detto. La preoccupazione segue diretta. Una volta che il maggiore acquirente si blocca la sua quota, gli acquirenti rivali di chip si contendono quel che resta.
La memoria è l'altro muro
Il secondo collo di bottiglia è dentro il package dell'acceleratore. All'Hot Chips 2026, d-Matrix ha presentato il suo acceleratore Raptor 3D-DRAM per l'inferenza generativa. Il resoconto di ServeTheHome espone con chiarezza i compromessi. I pesi dei modelli continuano a crescere, e la cache KV scala con la lunghezza del contesto moltiplicata per la dimensione del batch. ServeTheHome porta l'esempio di 64 utenti a 1.000.000 di contesto, che può significare circa 935 GB di cache KV. È insieme un problema di capacità e di larghezza di banda.
La SRAM raggiunge l'obiettivo di banda ma non trattiene quasi nulla. Una coppia di schede acceleratore SRAM Corsair arriva a circa 300 TB/s con una latenza di circa 1 ns, ma contiene solo circa 4 GB. L'HBM risolve la capacità ma fatica sulla banda. d-Matrix cita un tetto pratico intorno ai 20 TB/s per i package HBM4 come Vera Rubin di Nvidia e Instinct MI455 di AMD. Spingere 100 TB/s attraverso HBM a 2,4 pJ/bit consumerebbe circa 1,92 kW prima di qualsiasi traffico di fabric, secondo ServeTheHome.
La risposta di d-Matrix è impilare il calcolo direttamente sopra i die di DRAM. L'IO verticale 3D arriva a circa 0,3-0,4 pJ, circa 10 volte meno dell'HBM. È un percorso su scala millimetrica invece che una rotta su interposer su scala centimetrica. L'azienda usa un die logico TSMC N4 impilato su un die DRAM 3D con stacking face-to-face da 36 um. Ogni scheda contiene 32.000.000.000 di byte, con pesi a 4 bit e cache KV a 8 bit. Un scale-up da 72 schede può ospitare un modello di frontiera come Kimi K3 a 1.000.000 di contesto, secondo ServeTheHome.
Niente di tutto questo è gratis. d-Matrix dice che uno stack 1-Hi con logica sopra, a non più di 0,5 W/mm², può essere raffreddato a liquido e mantenere la DRAM sotto i 100 C. Ha anche dovuto risolvere un problema aritmetico scomodo. Ogni tensor engine ha bisogno di un flit da 128B per accesso. Il suo die ha 840 banchi, 768 dopo 72 di riserva, distribuiti su 256 canali, il che dà 3 banchi per canale. Un singolo accesso restituisce 96B, quindi un flit da 128B richiede due accessi e preleva 192.000.000.000 di byte, sprecando circa il 33% della banda vicino ai 33 TB/s. La soluzione, lo stream blocking, condivide un accesso parziale da 32B tra tre flit. Così 4 accessi da 96B alimentano 3 flit da 128B.
Il ciclo di design stesso viene automatizzato
Il terzo collo di bottiglia non è un materiale né un tipo di memoria, ma il processo ingegneristico. Il 27 luglio The Next Platform ha riferito che Nvidia sta spingendo gli agenti AI nell'ingegneria dei chip. Ha citato Tim Costa, vicepresidente e direttore generale dell'ingegneria computazionale di Nvidia. Ha detto ai giornalisti che entro il 2030 il settore dovrebbe produrre 2.000.000.000.000 di chip e lavorare circa 41.000.000 di wafer al mese. I singoli package si avvicineranno a un trilione di transistor.
"Il punto chiave non è un singolo numero; è l'interazione tra scala, architettura, packaging e complessità di sistema", ha detto Costa. "Il processo di design tradizionale non riesce a tenere il passo con quella scala di sfida".
Nvidia sta distribuendo la sua CPU Vera CV100 basata su Arm nei flussi EDA usati per creare le sue future CPU e GPU. Questi flussi includono simulazione, verifica formale e implementazione fisica. Secondo Costa, i primi test ingegneristici mostrano Vera sulle piattaforme VCS di Synopsys e Jasper di Cadence con prestazioni 1,5 volte quelle dei sistemi Epyc Torrent di AMD. Vera ha 88 core CPU Olympus personalizzati e un sottosistema di memoria LPDDR5X da 1,2 TB/sec. La CPU di prossima generazione di Nvidia, Rosa, è attesa nel 2028 come parte della piattaforma datacenter Feynman.
I fornitori di strumenti fanno le loro dichiarazioni. Cadence ha detto che i suoi AI Super Agents possono implementare centinaia di simulazioni in meno di un giorno, un lavoro che oggi richiede cinque settimane. Questo offre cicli di validazione Register-Transfer Level 40 volte più veloci. Synopsys ha dimostrato un Fully Autonomous Design Verification Workflow alla Design Automation Conference. Ha detto che il flusso può fornire RTL validato 50 volte più velocemente di altre piattaforme.
Trattare con cautela questi multipli. Vengono dai fornitori che vendono gli strumenti. The Next Platform nota la sfida più ampia del settore su orchestrazione, integrazione e guardrail. I risultati generati dall'AI hanno ancora bisogno di verifica prima dell'approvazione.
Maia 200 di Microsoft, presentato all'Hot Chips 2026 e trattato da ServeTheHome, mostra che aspetto hanno i design che ne risultano. È un chip a 3nm con 140.000.000.000 di transistor, 6 stack di HBM3e, 7TB/secondo di banda HBM, un TDP di 750 Watt, 10.000 TFLOPS di prestazioni FP4 e un die SoC da 820mm². Microsoft usa una topologia quad completamente connessa senza networking scale-out, solo scale-up. La sua slide mostra 128 rack con 6.000 chip. L'azienda ha anche co-progettato lo stack software, con la Microsoft Collective Communication Library al centro. Il dataflow definito dal software dell'hardware richiede kernel ottimizzati per esso.
Mettendo insieme le tre storie, il quadro è coerente. L'acceleratore non è più un chip. È un package che dipende da un fornitore di materiali quasi in monopolio. Ha bisogno di un'architettura di memoria co-progettata con il carico di lavoro. E ha bisogno di una pipeline di design ricostruita con l'AI per tenere il passo con la propria complessità. Ogni strato ha i suoi tempi di consegna, e il più lento detta il ritmo.
Fonti
4- 01Shortages of crucial chip packaging material threatens AI accelerator supply chainsEN
- 02d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026EN
- 03Microsoft's Maia 200 AI Accelerator at Hot Chips 2026EN
- 04Nvidia Accelerates Chip Engineering With AI AgentsEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.