Jak naprawdę działają akceleratory AI i z czego składa się klaster
SiFive zaczęło licencjonować gotowy klaster akceleratora AI zbudowany z czterech rdzeni RISC-V i własnego silnika do obliczeń macierzowych, podał The Register 19 września 2024 r.

SiFive od lat projektuje rdzenie CPU RISC-V dla układów AI innych firm. Teraz sprzedaje kompletny projekt akceleratora. Każdy klaster Intelligence XM łączy cztery rdzenie RISC-V z serii X z własnym silnikiem do obliczeń macierzowych, podał The Register.
To zmiana. Jednostki TPU Google'a korzystają z rdzeni X280 SiFive, żeby dostarczać dane jednostkom mnożenia macierzy. John Ronco z SiFive UK powiedział The Register, że projekty firmy są też podstawą rdzeni CPU w akceleratorze Blackhole Tenstorrent. Różnica polega na tym, że SiFive dokłada własny silnik macierzowy, a nie podłącza rdzenie do silnika innej firmy.
Co mówią liczby, a czego nie mówią
Każdy klaster obsługuje do 1 TB/s przepustowości pamięci przez spójny interfejs huba i ma dawać do 16 TOPS w INT8 albo 8 teraFLOPS w BF16 na gigaherc. Przeliczanie na gigaherc ma sens, bo klaster to nie układ. Wydajność zależy od tego, ile klastrów klient umieści na matrycy, jak je połączy, co postawi obok i z jakim taktowaniem pracuje gotowy chip.
Ronco spodziewa się, że większość projektów użyje od czterech do ośmiu klastrów. Przy 1 GHz dałoby to od 4 do 8 TB/s szczytowej przepustowości pamięci i od 32 do 64 teraFLOPS w BF16. Slajdy produktowe SiFive sugerują, że możliwych jest 512 klastrów. Przy 1 GHz byłoby to około czterech petaFLOPS w BF16, więcej niż 2,5 petaFLOPS, które Nvidia podaje dla swoich najlepszych GPU Blackwell. Dla porównania Nvidia H100 daje blisko petaFLOPS gęstego BF16.
Problem jest w fizyce. Utrzymanie 1 GHz na 512 klastrach bez uderzenia w limity cieplne i energetyczne pozostaje pytaniem otwartym, a Ronco nie chciał powiedzieć, jak daleko skaluje się ten projekt. Spodziewa się też, że klastry nie będą szeroko używane do trenowania modeli AI. SiFive zapowiada publikację referencyjnej implementacji swojej biblioteki SiFive Kernel Library na licencji open source.
Wąskim gardłem jest przepustowość pamięci
Akceleratory buduje się w ten sposób, bo wnioskowanie, zwłaszcza faza dekodowania, jest ograniczone pamięcią. d-Matrix na Hot Chips 2026 ujęła to wprost: 64 użytkowników przy kontekście 1 000 000 tokenów to około 935 GB pamięci KV cache. Projekt Raptor tej firmy składa układ logiczny TSMC N4 na pamięci 3D DRAM, łącząc je twarzą w twarz w technologii 36 mikrometrów, po 32 GB na kartę, a szafa na 72 karty jest przewidziana dla modeli frontier.
Rebellions pokazała inne podejście na Hot Chips 2025. Jej REBEL-Quad mieści cztery układy ASIC obliczeniowe i cztery miejsca HBM3E, co daje 144 GB pamięci na pakiecie Samsung SF4X i CoWoS-S, a jako łącze chipletów wykorzystuje UCIe-A. ServeTheHome widział, jak działa na płytce deweloperskiej z modelem Llama 3.3 o 70 000 000 000 parametrów, ze średnim czasem 35,5 milisekundy na token wyjściowy.
Dostawcy, pakowanie i wąskie gardło na początku łańcucha
Nic z tego nie wyjedzie z fabryki bez materiałów do pakowania. Tom's Hardware podał w marcu 2026 r., że Nittobo kontroluje około 90% światowych dostaw tkaniny T-glass, używanej w rdzeniach podłoży IC, a ceny wzrosły o 20 do 30%, podczas gdy czas dostawy laminatów pokrytych miedzią wydłużył się z normalnych 8 do 10 tygodni do ponad 20. Nittobo potraja moce w zakładzie w Fukushimie, ale nowa podaż trafi na rynek dopiero w połowie 2027 r. Bank of America szacuje, że sprzedaż segmentu materiałów elektronicznych niemal się podwoi, z 40,9 mld jenów w 2025 r. do 87,7 mld jenów do marca 2028 r.
Warstwa polityczna jest równie zawiła. TSMC miało w październiku 2024 r. odciąć chińskiego projektanta Sophgo, po tym jak klient zamówił układ przypominający Huawei Ascend 910 000 000 000. Sophgo zaprzeczyło jakimkolwiek związkom z Huawei i podało, że przekazało TSMC raport z dochodzenia.
Źródła
5- 01SiFive shifts from RISC-V cores for AI chips to designing its own acceleratorEN
- 02Shortages of crucial chip packaging material threatens AI accelerator supplyEN
- 03d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026EN
- 04Rebellions REBEL-Quad UCIe and 144GB HBM3E Accelerator at Hot Chips 2025EN
- 05TSMC reportedly cuts off RISC-V chip designer linked to Huawei acceleratorsEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.