Walka o centra danych przenosi się do łańcucha dostaw podłoży układów
Producenci akceleratorów AI przeprojektowują sposób, w jaki układ obliczeniowy rozmawia z pamięcią. Głębsze wąskie gardło leży wcześniej: japoński wytwórca tkaniny ze szkła włóknistego kontroluje około 90% materiału, którego potrzebuje każde zaawansowane upakowanie, a nowe moce pojawią się dopiero w połowie 2027 r.

Każda dyskusja o akceleratorach AI w 2026 r. prędzej czy później trafia na tę samą ścianę: przepustowość pamięci. Moc obliczeniowa jest droga, ale dostępna. Przerzucanie wag i KV cache do pamięci i z powrotem decyduje o budżecie energetycznym, rozmiarze upakowania i dacie wysyłki. Dlatego SiFive, d-Matrix i Rebellions pokazały w tym cyklu projekty, które atakują interfejs pamięci, a nie macierz mnożenia i akumulacji.
The Register poinformował 19 września 2024 r., że SiFive, od lat dostarczający rdzenie RISC-V do krzemu AI innych firm, zaczął licencjonować własny akcelerator. Klaster Intelligence XM łączy cztery rdzenie Intelligence X RISC-V z własnym silnikiem matematyki macierzowej. Każdy klaster obsługuje do 1 TB/s przepustowości pamięci. Producent podaje do 16 TOPS w INT8 lub 8 teraFLOPS w BF16 na gigaherc. John Ronco z SiFive powiedział redakcji, że większość układów zbudowanych na tym projekcie użyje od czterech do ośmiu klastrów. To daje od 4 do 8 TB/s szczytowej przepustowości pamięci i do 32 do 64 teraFLOPS w BF16 przy 1 GHz.
Te liczby są skromne przy Nvidii H100.
Ciekawsze jest to, komu SiFive to sprzedaje. Ronco powiedział, że część klientów nadal chce budować własny sprzęt, ale inni woleli gotowy zestaw. SiFive nie celuje w Google ani Tenstorrent, które same projektują akceleratory. Celuje w organizacje, które chcą gotowy blok do dostosowania i wysłania do fabryki.
Sufit nie jest jasny. Ronco nie chciał powiedzieć, jak daleko skaluje się ten projekt, choć slajdy produktowe sugerują, że 512 klastrów XM jest w zasięgu możliwości. Przy zegarze 1 GHz dałoby to około czterech petaFLOPS obliczeń macierzowych w BF16. Najwyżej taktowane GPU Blackwell Nvidii sięgają 2,5 petaFLOPS. SiFive zapowiedział też otwartą implementację referencyjną swojej biblioteki SiFive Kernel Library.
DRAM układany na warstwie logicznej
Serwis ServeTheHome, relacjonując Hot Chips 2026, opisuje inną drogę d-Matrix: położenie logiki bezpośrednio na DRAM. Projekt Raptor tej firmy układa układ logiczny z litografii TSMC N4 na warstwie 3D DRAM, łącząc je twarzą do twarzy w technologii 36 mikronów. d-Matrix przekonuje, że SRAM trafia w cel przepustowości, około 300 TB/s przy opóźnieniu około 1 ns dla pary kart akceleratora Corsair SRAM, ale mieści tylko około 4 GB. Komórka SRAM 6T jest też około dziesięć razy większa od komórki DRAM. HBM rozwiązuje problem pojemności, ale d-Matrix wskazuje praktyczny sufit przepustowości około 20 TB/s dla pakietów HBM4, takich jak Nvidia Vera Rubin i AMD Instinct MI455.
Powód jest energetyczny. Przy 2,4 pJ/bit przepchnięcie 100 TB/s przez HBM zużywa około 1,92 kW, zanim dojdzie jakikolwiek ruch w tkaninie. Pionowe 3D IO kosztuje natomiast około 0,3 do 0,4 pJ, około dziesięć razy mniej niż HBM. To ścieżka milimetrowej skali bez PHY, a nie centymetrowa trasa przez interposer. Ceną jest termika: d-Matrix twierdzi, że stos z logiką na wierzchu o wysokości 1-Hi i mocy nie większej niż 0,5 W/mm2 da się chłodzić cieczą i utrzymać DRAM poniżej 100C.
Szczegół inżynierski sprawia, że te twierdzenia da się sprawdzić. Każdy silnik tensorowy potrzebuje na dostęp flitu o rozmiarze 128 000 000 000 bajtów. Ponieważ dostęp kolumnowy z banków dostarcza 32 000 000 000 bajtów, potrzeba czterech banków na kanał. Układ d-Matrix ma 840 banków, 768 po odjęciu 72 zapasowych, w 256 kanałach: trzy banki na kanał. Pojedynczy dostęp zwraca 96 000 000 000 bajtów, więc dostarczenie flitu 128 000 000 000 bajtów wymaga dwóch dostępów i pobiera 192 000 000 000 bajtów, marnując około 33% przepustowości przy blisko 33 TB/s. Poprawka d-Matrix, blokowanie strumieni, dzieli jeden częściowy dostęp 32 000 000 000 bajtów na trzy flity, więc cztery dostępy po 96 000 000 000 bajtów zasilają trzy flity po 128 000 000 000 bajtów. Nadmiarowe pobieranie spada do zera. Drugi trik, odwracanie strumieni, odwraca każdy flit względem poprzedniego, żeby ograniczyć przełączanie. Odzyskuje około 20% mocy I/O bez pinu sideband, którego wymaga konwencjonalna inwersja bitu danych.
Przy 32 GB na kartę, z wagami 4-bitowymi i 8-bitowym KV cache, d-Matrix dobiera skalę 72 kart, by pomieścić model frontier, taki jak Kimi K3, przy kontekście 1 000 000 tokenów. ServeTheHome odnotowuje, że firma pokazała tę pracę na Hot Chips 2026.
UCIe dociera na działającą płytę
Rebellions pokazał coś rzadszego niż slajd: działający krzem. ServeTheHome relacjonował 25 sierpnia 2025 r., że Rebellions REBEL-Quad zademonstrowano na Hot Chips 2025 na płycie deweloperskiej, uruchamiając Llama 3.3 70B, model o 70 000 000 000 parametrów, ze średnim czasem 35,5 ms na token wyjściowy. Pakiet powstaje w litografii Samsung SF4X i CoWoS-S, z czterema układami ASIC obliczeniowymi, czterema miejscami HBM3E na 144 GB pamięci i czterema wbudowanymi kondensatorami krzemowymi. Jako łącze chipletów wykorzystuje UCIe-A, a kartę oparto na podwójnym interfejsie PCIe Gen5 x16.
ServeTheHome wskazał wybór PCIe jako możliwy błąd, skoro GB300 Nvidii wprowadza PCIe Gen6. To uczciwa krytyka części nastawionej na wnioskowanie w skali. Ale demonstracja znaczy więcej niż karta katalogowa. O UCIe mówi się od lat, a producenci niechętnie chwalili się jego użyciem, bo łącze siedzi wewnątrz pakietu. Rebellions, który złożył tyle kawałków krzemu w jednym dużym pakiecie i pokazał, że to działa, dostarczył punktu odniesienia, którego ekosystem chipletów potrzebował.
Nie każdy akcelerator potrzebuje szafy w centrum danych. Draw Things opublikował 11 listopada 2025 r. wyniki Metal FlashAttention v2.5 z Neural Accelerators na Apple M5. Firma twierdzi, że w jej własnej aplikacji do generowania obrazów i wideo uzyskuje do 4,6x poprawy względem M4. Podaje 3,6x do 5,5x surowego wzrostu wydajności względem iPada z M4 i 3,3x do 4,6x end-to-end. iPad z M5 wypada w okolicach M2 Max i często około 80% wolniej niż M3 Ultra (60c). Zdaniem firmy iPad z M5 i 16 GiB pamięci potrafi wygenerować pięciosekundowe wideo 480p z modelami Wan 2.2 A14B, liczącymi 14 000 000 000 parametrów. Wydanie ma status podglądu: Draw Things podaje, że obsługa BF16 była początkowo wyłączona z powodu nierozwiązanych błędów i wróciła w kompilacji z 17 listopada. Firma dodaje, że nietypowe długości sekwencji uwagi i duże wymiary głów nadal powodują spadki wydajności.
Materiał, o którym nie słyszał nikt poza branżą upakowania
Cała ta praca projektowa trafia na problem w łańcuchu dostaw, który nie ma nic wspólnego z architekturą. Tom's Hardware poinformował 9 marca 2026 r., że Nittobo kontroluje około 90% światowych dostaw T-glass. To tkanina ze szkła włóknistego o niskim CTE, używana w organicznym rdzeniu podłoży układów scalonych, czyli warstwie łączącej chip z płytką drukowaną. T-glass utrzymuje wymiary dużych, gorących pakietów. E-glass jest tańszy, ale trafia głównie do prostszych układów, takich jak mikrokontrolery i starsze procesory mobilne; przy masywnym upakowaniu 2.5D i 3D wybiera się T-glass.
Nittobo potraja moce w zakładzie w Fukushimie, ale nowa podaż trafi na rynek dopiero w połowie 2027 r. Ceny wzrosły o 20% do 30%. Czasy dostaw materiałów w dalszej części łańcucha, takich jak laminaty miedziane, wydłużyły się z normalnych 8 do 10 tygodni do ponad 20. Analityk Yuanta Bill Ho powiedział Tom's Hardware, że dostawcy przestali podawać terminy. Bilal Hachemi z Yole Group stwierdził, że T-glass nie jest łatwy do zastąpienia, bo ma konkretne wartości przenikalności i CTE, które lepiej pasują do układów AI, zwłaszcza w organicznym rdzeniu. Dodał, że historycznie niskie marże w branży podłoży sprawiają, że nawet umiarkowany skok popytu wywołuje niedobory.
Popyt napędza rozmiar pakietu. Według danych Nvidii, na które powołuje się Tom's Hardware, rozmiar interposera wzrósł z 814 mm2 w Hopperze do 1 700 mm2 w Blackwellu, o 109%, a Rubin i Feynman mają rosnąć dalej. Bank of America szacuje, że segment materiałów elektronicznych Nittobo niemal podwoi sprzedaż z 40,9 mld jenów w 2025 r. do 87,7 mld jenów do marca 2028 r., przy marży operacyjnej zbliżającej się do 48%. Nittobo podwaja moce przędzenia surowca w zakładzie na Tajwanie. Firma zawarła też umowę o współpracy z Nanya Plastics, której powierzy część tkania. Do 2027 r. około 20% tkaniny szklanej Nittobo ma pochodzić z Nanyi.
Nittobo łączy siły z jednym ze swoich największych konkurentów, żeby rozluźnić wąskie gardło. To najwyraźniejszy sygnał, gdzie leży ograniczenie. Architekci akceleratorów mogą dalej ciąć pikożule na bit. Ale jeśli tkanina wewnątrz podłoża jest rozdzielana z wieloletnim wyprzedzeniem, o dacie wysyłki decyduje się gdzie indziej.
Źródła
5- 01SiFive shifts from RISC-V cores for AI chips to designing its own acceleratorEN
- 02d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026EN
- 03Rebellions REBEL-Quad UCIe and 144GB HBM3E Accelerator at Hot Chips 2025EN
- 04Metal FlashAttention v2.5 with Neural Accelerators on the Apple M5 ChipEN
- 05Shortages of crucial chip packaging material threatens AI accelerator supply chainsEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.