Wie KI-Beschleuniger entstehen: Engpässe bei Verpackung, Speicher und Design
Beim Rennen um KI-Beschleuniger geht es längst nicht mehr nur darum, wer den schnellsten Logikchip fertigen kann. Drei Lieferketten-Geschichten aus dem Jahr 2026 zeigen, wo die Grenzen liegen: im Material, im Speicherstapel und im Entwicklungsprozess rund um den Chip.

KI-Beschleuniger werden meist über ihre Rechenleistung beschrieben. Nvidias GPUs, Microsofts Maia, d-Matrixs Raptor: Genannt werden Teraflops, Transistorzahlen und Speicherbandbreite. Die schwierigere Geschichte handelt davon, was dieses Silizium umgibt. Im Jahr 2026 war diese Geschichte reichlich gefüllt.
Drei getrennte Berichte von Tom's Hardware, ServeTheHome und The Next Platform beschreiben drei verschiedene Engpässe. In jedem fortschrittlichen Package steckt ein spezielles Glasgewebe. Eine Speicherarchitektur tauscht Kapazität gegen Bandbreite. Und eine Entwicklungs-Pipeline wird selbst gerade um KI-Agenten herum neu gebaut.
Ein Anteil von 90 Prozent bei einem Material, von dem die meisten noch nie gehört haben
Der erste Engpass ist ein Material namens T-Glass. Laut Tom's Hardware kontrolliert ein japanisches Unternehmen namens Nittobo rund 90 Prozent des weltweiten Angebots. T-Glass ist ein Glasfasergewebe mit niedrigem CTE, das im organischen Kern von IC-Substraten steckt. Das ist die Verbindungsschicht zwischen einem Chip und seiner Leiterplatte. Sie hält große, stark hitzebelastete Packages maßhaltig, während diese dichter werden.
Das wiegt umso schwerer, je größer KI-Prozessoren werden. Tom's Hardware zitiert Nvidia-Daten, nach denen die Interposer-Größen von 814mm² für Hopper auf 1,700mm² für Blackwell steigen, eine Zunahme um 109 Prozent. Die kommenden Generationen Rubin und Feynman skalieren noch weiter. Jede Generation verbraucht mehr T-Glass pro Einheit. Und eine neue T-Glass-Linie lässt sich nicht mal eben aus dem Boden stampfen. Sie braucht spezialisierte elektrische Schmelzöfen, die zwischen 1,600 und 1,700°C laufen. Sie braucht außerdem Jahre an Investitionen und Fachwissen, um siliziumreiches Glas zu schmelzen, zu Garn zu spinnen und zu ultradünnem Gewebe zu verweben.
Die Zahlen zeigen den Druck bereits. Tom's Hardware berichtet von Preissteigerungen zwischen 20 und 30 Prozent. Die Lieferzeiten für nachgelagerte Materialien wie kupferkaschierte Laminate haben sich von normalerweise 8 bis 10 Wochen auf über 20 gestreckt. "Da das T-Glass-Angebot jetzt noch knapper ist, nennen die Lieferanten gar keine Lieferzeiten mehr", sagte Bill Ho, Analyst bei Yuanta, in dem Artikel.
Nittobo verdreifacht die Kapazität in seinem Werk in Fukushima, doch das neue Angebot erreicht den Markt erst Mitte 2027. Zudem verdoppelt das Unternehmen die Rohgarn-Kapazität in seinem Werk in Taiwan und importiert Garn zurück nach Japan für die Gewebeherstellung. Mit Nanya Plastics hat es eine Kooperationsvereinbarung geschlossen, um einen Teil des Webens auszulagern. Bis 2027 sollen rund 20 Prozent von Nittobos Glasgewebe von Nanya gewebt werden, wie aus der Offenlegung des Unternehmens hervorgeht. Eine Partnerschaft mit einem Wettbewerber ist selbst ein Signal dafür, wie eng der Markt ist.
Bilal Hachemi, Analyst bei der Yole Group, der die IC-Substrat-Lieferkette verfolgt, sagte gegenüber Tom's Hardware Premium, T-Glass zu ersetzen sei nicht einfach. Es "hat spezifische Dielektrikum- und CTE-Werte, die für die KI-Chips besser funktionieren, besonders für den organischen Kern." Er verwies auch auf die dünnen Branchenmargen. "Jeder Anstieg der Nachfrage nach Build-up-Materialien, ABF-Material oder T-Glass kann eine mögliche Knappheit auslösen, weil das den Grundlagen dieser Branche widerspricht", sagte er.
Die Bank of America schätzt, dass Nittobos Segment für elektronische Materialien den Umsatz von 40.900.000.000 ¥ (266.000.000 $) im Jahr 2025 auf 87.700.000.000 ¥ bis März 2028 fast verdoppeln wird. Die operative Marge liegt bei nahezu 48 Prozent. "Die Nachfrage nach T-Glass-Gewebe dürfte stärker wachsen als ursprünglich erwartet", sagte Takashi Enomoto, Research-Analyst bei der Bank of America, im selben Beitrag.
Das auffälligste Detail ist womöglich, wer jetzt anklopft. Hachemi sagte, dass Nvidia sich direkt an einen vorgelagerten Materiallieferanten wie Nittobo wendet, sei beispiellos. "Zum ersten Mal sehen wir, dass Nvidia, der Endkunde, auf die vorgelagerten Materiallieferanten zugeht, um sich die Kapazität zu sichern und sicherzustellen, dass sie sie bekommen", sagte er. Die Sorge folgt unmittelbar. Hat der größte Abnehmer seinen Anteil erst festgeschrieben, konkurrieren die rivalisierenden Chipkäufer um das, was übrig bleibt.
Speicher ist die andere Wand
Der zweite Engpass liegt im Inneren des Beschleuniger-Packages. Auf den Hot Chips 2026 stellte d-Matrix seinen Raptor-3D-DRAM-Beschleuniger für generative Inferenz vor. Der Bericht von ServeTheHome legt die Kompromisse sauber dar. Die Modellgewichte wachsen weiter, und der KV-Cache skaliert mit der Kontextlänge multipliziert mit der Batch-Größe. ServeTheHome nennt das Beispiel von 64 Nutzern bei 1.000.000 Kontext, was rund 935 GB KV-Cache bedeuten kann. Das ist zugleich ein Kapazitäts- und ein Bandbreitenproblem.
SRAM erreicht die Bandbreitenvorgabe, hält aber fast nichts. Ein Paar SRAM-Beschleunigerkarten von Corsair kommt auf rund 300 TB/s bei etwa 1 ns Latenz, fasst aber nur etwa 4 GB. HBM löst das Kapazitätsproblem, tut sich aber bei der Bandbreite schwer. d-Matrix nennt eine praktische Obergrenze von rund 20 TB/s für HBM4-Packages wie Nvidias Vera Rubin und AMDs Instinct MI455. 100 TB/s über HBM bei 2,4 pJ/bit würden laut ServeTheHome etwa 1,92 kW verbrauchen, bevor überhaupt Fabric-Verkehr anfällt.
d-Matrixs Antwort besteht darin, Recheneinheiten direkt auf die DRAM-Dies zu stapeln. Vertikales 3D-IO kommt auf rund 0,3 bis 0,4 pJ, etwa 10-mal weniger als HBM. Es ist ein Pfad im Millimetermaßstab statt einer Interposer-Route im Zentimetermaßstab. Das Unternehmen nutzt einen TSMC-N4-Logik-Die, der auf einem 3D-DRAM-Die mit 36 um Face-to-Face-Stapelung sitzt. Jede Karte fasst 32.000.000.000 Byte, mit 4-Bit-Gewichten und einem 8-Bit-KV-Cache. Ein Scale-up mit 72 Karten kann laut ServeTheHome ein Frontier-Modell wie Kimi K3 bei 1.000.000 Kontext beherbergen.
Das alles gibt es nicht umsonst. d-Matrix zufolge lässt sich ein 1-Hi-Logik-oben-Stapel mit höchstens 0,5 W/mm² flüssig kühlen und hält den DRAM unter 100 C. Auch ein unangenehmes Rechenproblem musste gelöst werden. Jede Tensor-Engine braucht pro Zugriff ein 128B-Flit. Der Die hat 840 Bänke, nach 72 Reservespeichern 768, verteilt auf 256 Kanäle, was 3 Bänken pro Kanal entspricht. Ein einzelner Zugriff liefert 96.000.000.000 Byte, ein 128B-Flit braucht also zwei Zugriffe und holt 192.000.000.000 Byte, wodurch nahe 33 TB/s etwa 33 Prozent der Bandbreite verschwendet werden. Die Lösung, Stream Blocking, teilt einen partiellen 32B-Zugriff auf drei Flits auf. So speisen 4 Zugriffe à 96.000.000.000 Byte drei Flits à 128.000.000.000 Byte.
Die Design-Schleife selbst wird automatisiert
Der dritte Engpass ist kein Material und kein Speichertyp, sondern der Entwicklungsprozess. The Next Platform berichtete am 27. Juli, dass Nvidia KI-Agenten in die Chip-Entwicklung drängt. Zitiert wird Tim Costa, Vice President und General Manager of Computational Engineering bei Nvidia. Er sagte gegenüber Journalisten, die Branche werde bis 2030 voraussichtlich 2.000.000.000.000 Chips produzieren und etwa 41.000.000 Wafer pro Monat verarbeiten. Einzelne Packages würden sich einer Billion Transistoren nähern.
"Der entscheidende Punkt ist keine einzelne Zahl; es ist das Zusammenspiel von Skalierung, Architektur, Verpackung und Systemkomplexität", sagte Costa. "Der traditionelle Designprozess kann mit diesem Ausmaß an Herausforderung einfach nicht Schritt halten."
Nvidia setzt seine Arm-basierte Vera CV100 CPU in den EDA-Workflows ein, mit denen seine künftigen CPUs und GPUs entstehen. Zu diesen Workflows gehören Simulation, formale Verifikation und physische Implementierung. Laut Costa zeigen frühe Engineering-Tests, dass Vera auf Synopsys' VCS- und Cadence' Jasper-Plattformen 1,5-mal die Leistung von AMDs Epyc-Torrent-Systemen liefert. Vera hat 88 eigene Olympus-CPU-Kerne und ein LPDDR5X-Speichersubsystem mit 1,2 TB/sec. Nvidias nächste CPU-Generation Rosa soll 2028 als Teil der Feynman-Datacenter-Plattform kommen.
Die Werkzeughersteller erheben ihre eigenen Ansprüche. Cadence erklärte, seine AI Super Agents könnten Hunderte Simulationen in weniger als einem Tag umsetzen, eine Arbeit, die derzeit fünf Wochen dauert. Das ergebe 40-mal schnellere Register-Transfer-Level-Validierungszyklen. Synopsys demonstrierte auf der Design Automation Conference einen vollständig autonomen Design-Verification-Workflow. Der Workflow liefere validiertes RTL 50-mal schneller als andere Plattformen.
Diese Vielfachen sind mit Vorsicht zu behandeln. Sie stammen von den Anbietern, die die Werkzeuge verkaufen. The Next Platform verweist auf die breitere Branchenherausforderung von Orchestrierung, Integration und Leitplanken. KI-generierte Ergebnisse müssen vor der Freigabe weiterhin verifiziert werden.
Microsofts Maia 200, vorgestellt auf den Hot Chips 2026 und von ServeTheHome behandelt, zeigt, wie die daraus entstehenden Designs aussehen. Es ist ein 3nm-Chip mit 140.000.000.000 Transistoren, 6 Stapeln HBM3e, 7TB/second HBM-Bandbreite, einer 750 Watt TDP, 10.000 TFLOPS FP4-Leistung und einem 820mm² SoC-Die. Microsoft nutzt eine vollständig verbundene Quad-Topologie ohne Scale-out-Netzwerk, nur Scale-up. Die Folie zeigt 128 Racks mit 6.000 Chips. Das Unternehmen hat auch den Software-Stack mitentwickelt, mit der Microsoft Collective Communication Library im Kern. Der softwaredefinierte Datenfluss der Hardware verlangt darauf abgestimmte Kernel.
Fügt man die drei Geschichten zusammen, ergibt sich ein stimmiges Bild. Der Beschleuniger ist kein Chip mehr. Er ist ein Package, das von einem nahezu monopolistischen Materiallieferanten abhängt. Er braucht eine Speicherarchitektur, die mit der Arbeitslast mitentwickelt wird. Und er braucht eine Design-Pipeline, die mit KI neu gebaut wird, um mit ihrer eigenen Komplexität Schritt zu halten. Jede Ebene hat ihre eigenen Lieferzeiten, und die langsamste gibt das Tempo vor.
Quellen
4- 01Shortages of crucial chip packaging material threatens AI accelerator supply chainsEN
- 02d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026EN
- 03Microsoft's Maia 200 AI Accelerator at Hot Chips 2026EN
- 04Nvidia Accelerates Chip Engineering With AI AgentsEN
Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.
Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.
Kommentare
0- Noch keine Kommentare — seien Sie der Erste.