Jak powstają akceleratory AI: opakowanie, pamięć i wąskie gardła projektowania
Wyścig o akceleratory AI to już nie tylko pytanie, kto wydrukuje najszybszy układ logiczny. Trzy historie z łańcucha dostaw z 2026 roku pokazują, że ograniczenia siedzą w materiale, w stosie pamięci i w procesie inżynierskim wokół chipu.

Akceleratory AI zwykle opisuje się przez moc obliczeniową. GPU Nvidii, Maia Microsoftu, Raptor d-Matrix: podawane liczby to teraflopy, liczba tranzystorów i przepustowość pamięci. Trudniejsza historia jest w tym, co otacza krzem. W 2026 roku ta historia zrobiła się gęsta.
Trzy osobne publikacje, z Tom's Hardware, ServeTheHome i The Next Platform, opisują trzy różne wąskie gardła. W każdym zaawansowanym opakowaniu siedzi specjalistyczna tkanina szklana. Pewna architektura pamięci wymienia pojemność na przepustowość. A proces inżynierski sam jest przebudowywany wokół agentów AI.
90% udziału w materiale, o którym mało kto słyszał
Pierwszym wąskim gardłem jest materiał zwany T-glass. Według Tom's Hardware japońska firma Nittobo kontroluje około 90% światowych dostaw. T-glass to tkanina z włókna szklanego o niskim CTE, używana w organicznym rdzeniu podłoży IC. To warstwa połączeń między chipem a jego płytką drukowaną. Utrzymuje stabilność wymiarową dużych, mocno grzejących się opakowań, gdy gęstość rośnie.
To ma większe znaczenie, gdy procesory AI rosną. Tom's Hardware przytacza dane Nvidii, z których wynika, że rozmiar interposerów rósł z 814mm² dla Hoppera do 1,700mm² dla Blackwella, czyli o 109%. Nadchodzące generacje Rubin i Feynman skalują się jeszcze dalej. Każda generacja zużywa więcej T-glassu na jednostkę. A nowej linii T-glassu nikt nie uruchomi w pośpiechu. Potrzebuje specjalistycznych elektrycznych pieców do topienia pracujących w temperaturze od 1,600 do 1,700°C. Potrzebuje też lat inwestycji i wiedzy, żeby stopić szkło bogate w krzemionkę, prząść je w przędzę i utkać w ultracytką tkaninę.
Liczby już pokazują zacisk. Tom's Hardware podaje, że ceny wzrosły o 20 do 30%. Terminy dostaw materiałów w dalszej części łańcucha, takich jak laminaty pokryte miedzią, wydłużyły się z normalnych 8 do 10 tygodni do ponad 20. "Ponieważ podaż T-glassu jest teraz jeszcze bardziej ograniczona, dostawcy nie podają już terminów dostaw" - powiedział w artykule Bill Ho, analityk z Yuanta.
Nittobo potraja moce w zakładzie w Fukushimie, ale nowa podaż trafi na rynek dopiero w połowie 2027 roku. Firma podwaja też moce produkcji surowej przędzy w zakładzie na Tajwanie i importuje przędzę z powrotem do Japonii, gdzie tka się z niej tkaninę. Zawarła umowę o współpracy z Nanya Plastics, żeby część tkania zlecić na zewnątrz. Według ujawnionych przez firmę danych do 2027 roku około 20% tkaniny szklanej Nittobo ma tkać Nanya. Współpraca z konkurentem sama w sobie pokazuje, jak napięty jest rynek.
Bilal Hachemi, analityk z Yole Group, który śledzi łańcuch dostaw podłoży IC, powiedział Tom's Hardware Premium, że zastąpienie T-glassu nie jest łatwe. Materiał "ma określone wartości przenikalności elektrycznej i CTE, które lepiej działają w chipach AI, zwłaszcza w organicznym rdzeniu". Wskazał też na cienkie marże w branży. "Każdy wzrost popytu na materiały do budowy warstw, materiał ABF czy T-glass może wywołać potencjalny niedobór, bo to stoi w sprzeczności z podstawami tej branży" - powiedział.
Bank of America szacuje, że segment materiałów elektronicznych Nittobo prawie podwoi sprzedaż z 40,9 mld jenów (266 mln dolarów) w 2025 roku do 87,7 mld jenów do marca 2028 roku. Marże operacyjne sięgają 48%. "Popyt na tkaninę T-glass prawdopodobnie wzrośnie bardziej, niż początkowo oczekiwano" - powiedział w tym samym tekście Takashi Enomoto, analityk badawczy Bank of America.
Najbardziej uderzający szczegół to może to, kto teraz puka do drzwi. Hachemi powiedział, że Nvidia zwracająca się bezpośrednio do dostawcy materiału na tak wczesnym etapie, jak Nittobo, to rzecz bez precedensu. "Po raz pierwszy widzimy, jak Nvidia, końcowy klient, zwraca się do dostawców materiałów wyżej w łańcuchu, żeby zabezpieczyć moce i mieć pewność, że je dostanie" - powiedział. Zmartwienie przychodzi zaraz potem. Gdy największy kupujący zablokuje swoją część, rywale walczą o to, co zostało.
Pamięć to druga ściana
Drugie wąskie gardło jest wewnątrz opakowania akceleratora. Na Hot Chips 2026 d-Matrix pokazał swój akcelerator Raptor z pamięcią 3D-DRAM do wnioskowania generatywnego. Tekst ServeTheHome porządkuje kompromisy. Wagi modeli ciągle rosną, a pamięć KV rośnie wraz z długością kontekstu pomnożoną przez rozmiar partii. ServeTheHome podaje przykład 64 użytkowników przy kontekście 1 000 000, co może oznaczać około 935 GB pamięci KV. To problem i pojemności, i przepustowości.
SRAM osiąga zakładaną przepustowość, ale prawie nic nie mieści. Para kart akceleratora Corsair SRAM dochodzi do około 300 TB/s przy opóźnieniu około 1 ns, a mieści tylko około 4 GB. HBM rozwiązuje pojemność, ale ma kłopot z przepustowością. d-Matrix podaje praktyczny sufit około 20 TB/s dla pakietów HBM4, takich jak Vera Rubin Nvidii i Instinct MI455 AMD. Przepchnięcie 100 TB/s przez HBM przy 2,4 pJ/bit zużyłoby około 1,92 kW, zanim dojdzie jakikolwiek ruch w sieci, według ServeTheHome.
Odpowiedzią d-Matrix jest ułożenie obliczeń bezpośrednio na warstwach DRAM. Pionowe 3D IO kosztuje około 0,3 do 0,4 pJ, czyli około 10 razy mniej niż HBM. To ścieżka w skali milimetrów, a nie trasa przez interposer w skali centymetrów. Firma używa układu logicznego TSMC N4 ułożonego na warstwie 3D DRAM, z układaniem twarzą do twarzy o odstępie 36 um. Każda karta mieści 32 000 000 000 bajtów, z wagami 4-bitowymi i 8-bitową pamięcią KV. Skala 72 kart może pomieścić model frontier, taki jak Kimi K3 przy kontekście 1 000 000, według ServeTheHome.
Nic z tego nie jest darmowe. d-Matrix twierdzi, że stos z logiką na górze w konfiguracji 1-Hi przy nie więcej niż 0,5 W/mm² da się chłodzić cieczą i utrzymać DRAM poniżej 100 C. Firma musiała też rozwiązać niewygodny problem arytmetyczny. Każdy silnik tensorowy potrzebuje flitu 128 000 000 000 bajtów na dostęp. Jej układ ma 840 banków, 768 po odjęciu 72 zapasowych, rozłożonych na 256 kanałów, co daje 3 banki na kanał. Pojedynczy dostęp zwraca 96 000 000 000 bajtów, więc flit 128 000 000 000 bajtów wymaga dwóch dostępów i pobiera 192 000 000 000 bajtów, marnując około 33% przepustowości przy około 33 TB/s. Rozwiązaniem jest blokowanie strumieni, które dzieli jeden częściowy dostęp 32 000 000 000 bajtów między trzy flity. Dzięki temu 4 dostępy po 96 000 000 000 bajtów zasilają 3 flity po 128 000 000 000 bajtów.
Sam cykl projektowania jest automatyzowany
Trzecim wąskim gardłem nie jest materiał ani typ pamięci, ale proces inżynierski. The Next Platform napisał 27 lipca, że Nvidia wciska agentów AI do inżynierii chipów. Cytuje Tima Costę, wiceprezesa i dyrektora generalnego ds. inżynierii obliczeniowej w Nvidii. Powiedział dziennikarzom, że do 2030 roku branża ma wyprodukować 2 000 000 000 000 chipów i przetwarzać około 41 000 000 wafli miesięcznie. Pojedyncze opakowania zbliżą się do biliona tranzystorów.
"Kluczowy punkt to nie jedna liczba, ale wzajemne oddziaływanie skali, architektury, opakowania i złożoności systemu" - powiedział Costa. "Tradycyjny proces projektowania po prostu nie nadąża za taką skalą wyzwania".
Nvidia wdraża swój procesor Vera CV100 oparty na architekturze Arm w procesach EDA, których używa do tworzenia przyszłych CPU i GPU. Te procesy obejmują symulację, weryfikację formalną i implementację fizyczną. Według Costy wczesne testy inżynierskie pokazują, że Vera na platformach VCS firmy Synopsys i Jasper firmy Cadence daje 1,5 razy większą wydajność niż systemy Epyc Torrent AMD. Vera ma 88 własnych rdzeni Olympus i podsystem pamięci LPDDR5X o przepustowości 1,2 TB/s. Następny procesor Nvidii, Rosa, ma się pojawić w 2028 roku jako część platformy centrów danych Feynman.
Dostawcy narzędzi mają własne twierdzenia. Cadence twierdzi, że jego AI Super Agents potrafią wykonać setki symulacji w mniej niż dzień, a dziś zajmuje to pięć tygodni. To daje 40 razy szybsze cykle walidacji na poziomie RTL. Synopsys pokazał na Design Automation Conference w pełni autonomiczny proces weryfikacji projektu. Firma twierdzi, że proces dostarcza zweryfikowany RTL 50 razy szybciej niż inne platformy.
Do tych mnożników trzeba podchodzić ostrożnie. Pochodzą od dostawców, którzy sprzedają narzędzia. The Next Platform zwraca uwagę na szersze wyzwanie branży: orkiestrację, integrację i zabezpieczenia. Wyniki generowane przez AI nadal wymagają weryfikacji przed zatwierdzeniem.
Maia 200 Microsoftu, pokazana na Hot Chips 2026 i opisana przez ServeTheHome, pokazuje, jak wyglądają gotowe projekty. To chip w technologii 3nm ze 140 000 000 000 tranzystorów, 6 stosami HBM3e, przepustowością HBM 7TB/s, TDP 750 watów, wydajnością 10 000 TFLOPS w FP4 i układem SoC o powierzchni 820mm². Microsoft używa w pełni połączonej topologii poczwórnej bez sieci do skalowania na zewnątrz, tylko skalowanie w górę. Jego slajd pokazuje 128 szaf z 6 000 chipów. Firma zaprojektowała też wspólnie stos oprogramowania, z Microsoft Collective Communication Library w środku. Sterowany programowo przepływ danych w sprzęcie wymaga dostrojonych do niego jąder.
Złóż te trzy historie razem, a obraz jest spójny. Akcelerator to już nie chip. To opakowanie, które zależy od dostawcy materiału będącego niemal monopolistą. Potrzebuje architektury pamięci zaprojektowanej wspólnie z obciążeniem. I potrzebuje procesu projektowania przebudowanego z AI, żeby nadążyć za własną złożonością. Każda warstwa ma swoje terminy dostaw, a najwolniejsza wyznacza tempo.
Źródła
4- 01Shortages of crucial chip packaging material threatens AI accelerator supply chainsEN
- 02d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026EN
- 03Microsoft's Maia 200 AI Accelerator at Hot Chips 2026EN
- 04Nvidia Accelerates Chip Engineering With AI AgentsEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.