Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Wie KI-Beschleuniger wirklich funktionieren: Kerne, Cluster-Bausteine und Speicher

SiFive lizenziert jetzt einen fertigen KI-Beschleuniger-Cluster, der auf vier RISC-V-CPU-Kernen und einer eigenen Matrix-Recheneinheit aufbaut. Das berichtete The Register am 19. September 2024.

TechnologieErklärtKatrin HoffmannVeröffentlicht: 27. September 20263 Min. LesezeitQuellen 5
Wie KI-Beschleuniger wirklich funktionieren: Kerne, Cluster-Bausteine und Speicher

SiFive hat jahrelang RISC-V-CPU-Kerne für die KI-Chips anderer Firmen entworfen. Jetzt verkauft das Unternehmen ein komplettes Beschleuniger-Design. Jeder Cluster der Reihe Intelligence XM kombiniert vier eigene RISC-V-CPU-Kerne der X-Serie mit einer selbst entwickelten Matrix-Recheneinheit, schreibt The Register.

Das ist eine Verschiebung. Googles Tensor Processing Units setzen bereits SiFive-Kerne vom Typ X280 ein, damit die Matrix-Multiplikationseinheiten gefüttert werden. John Ronco von SiFive UK sagte gegenüber The Register, die Designs des Unternehmens steckten auch in den CPU-Kernen von Tenstorrents Beschleuniger Blackhole. Der Unterschied ist nun, dass SiFive eine eigene Matrix-Einheit mitbringt und die Kerne nicht mehr an die Hardware eines Dritten anschließt.

Was die Zahlen sagen und was nicht

Jeder Cluster unterstützt über eine kohärente Hub-Schnittstelle bis zu 1TB/sec Speicherbandbreite. Pro Gigahertz soll er bis zu 16 TOPS bei INT8 oder 8 teraFLOPS bei BF16 liefern. Die Angabe pro Gigahertz ist wichtig, weil ein Cluster kein Chip ist. Wie schnell das fertige Bauteil am Ende rechnet, hängt davon ab, wie viele Cluster ein Kunde auf dem Die platziert, wie sie verdrahtet sind, was sonst noch daneben liegt und mit welchem Takt der finale Chip läuft.

Ronco rechnet damit, dass die meisten Designs vier bis acht Cluster nutzen. Bei 1GHz wären das 4 bis 8TB/sec Spitzenbandbreite beim Speicher und 32 bis 64 teraFLOPS bei BF16. Die Produktfolien von SiFive deuten an, dass 512 Cluster möglich sind. Bei 1GHz käme man damit auf rund vier PetaFLOPS bei BF16, mehr als die 2.5 petaFLOPS, die Nvidia für seine besten Blackwell-GPUs nennt. Eine Nvidia H100 liefert im Vergleich knapp ein PetaFLOPS bei dichtem BF16.

Der Haken ist die Physik. Ob sich 1GHz über 512 Cluster halten lassen, ohne an thermische oder Leistungsgrenzen zu stoßen, ist offen. Ronco wollte nicht sagen, wie weit das Design skaliert. Er erwartet außerdem, dass die Cluster beim KI-Training nicht breit zum Einsatz kommen. SiFive will eine Open-Source-Referenzimplementierung seiner SiFive Kernel Library veröffentlichen.

Speicherbandbreite bleibt der Engpass

Beschleuniger sind so gebaut, weil Inferenz, vor allem die Decode-Phase, speichergebunden ist. d-Matrix bezifferte das Problem auf dem Hot Chips 2026 deutlich: 64 Nutzer mit 1.000.000 Kontext können rund 935GB KV-Cache bedeuten. Das Design Raptor stapelt einen Logik-Die von TSMC in N4 auf 3D-DRAM, mit 36 Mikrometern Face-to-Face-Stapelung und 32GB pro Karte. Ein Rack mit 72 Karten ist für Frontier-Modelle ausgelegt.

Rebellions zeigte auf dem Hot Chips 2025 einen anderen Weg. REBEL-Quad vereint vier Rechen-ASICs und vier HBM3E-Stellen für 144GB Speicher auf einem Package aus Samsung SF4X und CoWoS-S, als Chiplet-Interconnect dient UCIe-A. ServeTheHome sah das System auf einem Entwicklungsboard mit Llama 3.3 70.000.000.000 laufen, im Schnitt 35.5 Millisekunden pro ausgegebenem Token.

Zulieferer, Packaging und der Druck von vorgelagert

Ohne Verpackungsmaterialien geht nichts davon in Serie. Tom's Hardware berichtete im März 2026, dass Nittobo rund 90% der weltweiten Versorgung mit T-Glass kontrolliert, dem Glasgewebe mit niedrigem CTE für die Kerne von IC-Substraten. Die Preise seien um 20 bis 30% gestiegen, die Lieferzeiten für kupferkaschierte Laminate von normal 8 bis 10 auf über 20 Wochen gewachsen. Nittobo verdreifacht die Kapazität im Werk Fukushima, doch neues Material kommt erst Mitte 2027 auf den Markt. Bank of America schätzt, dass das Segment elektronische Materialien den Umsatz von 40.900.000.000 Yen im Jahr 2025 auf 87.700.000.000 Yen bis März 2028 fast verdoppelt.

Auch die politische Ebene ist verwickelt. TSMC hat den chinesischen Designer Sophgo Berichten zufolge im Oktober 2024 abgeschnitten, nachdem ein Kunde einen Chip bestellt hatte, der Huaweis Ascend 910.000.000.000 ähnelte. Sophgo bestritt jede Verbindung zu Huawei und erklärte, einen Untersuchungsbericht an TSMC geschickt zu haben.

Kommentare 0

Quellen

5
  1. 01SiFive shifts from RISC-V cores for AI chips to designing its own acceleratorEN
  2. 02Shortages of crucial chip packaging material threatens AI accelerator supplyEN
  3. 03d-Matrix Raptor 3D-DRAM Accelerator for Generative Inference at Hot Chips 2026EN
  4. 04Rebellions REBEL-Quad UCIe and 144GB HBM3E Accelerator at Hot Chips 2025EN
  5. 05TSMC reportedly cuts off RISC-V chip designer linked to Huawei acceleratorsEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.