Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

GPU-Preise steigen, Cloud-Listenpreise fallen: Was Inferenz wirklich kostet

Der Börsenprospekt von Anthropic, über den Reuters am 28. September berichtete, nennt 518 Milliarden Dollar künftiger Cloud- und Rechenverpflichtungen und einen Nettoverlust von 42 Milliarden Dollar für 2025. Die Preisdaten, die diese Woche eintreffen, legen nahe, dass Käufer die zweite Zahl genauer lesen sollten.

KI & ModelleErklärtKatrin HoffmannVeröffentlicht: 29. September 20263 Min. LesezeitQuellen 7
GPU-Preise steigen, Cloud-Listenpreise fallen: Was Inferenz wirklich kostet

Das Geld steckt nicht in den Listenpreisen. Meetrix hat AWS und GCP verglichen, mit Preisen vom 28. September: Eine H100 auf Abruf kostet bei AWS 6,88 Dollar pro Stunde, bei GCP 10,98 Dollar. Diese 37 Prozent Unterschied sind real. Sie sind aber kleiner als der Sprung, den dieselbe Karte bei einem Viertel Auslastung macht. Meetrix rechnet mit einem Platzhalter-Durchsatz von 2.500 Token pro Sekunde: Bei voll beschäftigter GPU kostet eine Million Token 0,76 Dollar, bei 25 Prozent Auslastung 3,06 Dollar.

Damit ist das ganze Argument in einem Satz gesagt. Untätige Hardware kostet mehr als jede Anbieterwahl.

GPUAdvisor verfolgt 14 Anbieter und hat seine Daten zuletzt am 1. Oktober aktualisiert. Bei älteren Karten liegen Spezial-Clouds deutlich unter den Hyperscalern: eine A4000 für 0,15 Dollar pro GPU-Stunde bei Hyperstack, eine L40S für 0,38 Dollar bei Lium, eine RTX 4090 für 0,40 Dollar. Die Seite kennzeichnet diese Werte als erfasste Näherungen und rät Käufern, die Tarife auf der Anbieterseite zu prüfen. Das ist fair, denn dieselbe Seite listet eine RTX 4090 bei RunPod für 0,74 Dollar. Zwei Preise, dasselbe Modell, fast das Doppelte.

Die Token-Rechnung ist noch einmal eine andere Zahl

Artificial Analysis hat am 29. September seine Bewertung von Anthropics Claude Sonnet 5.5 veröffentlicht. Das Modell erreicht 56 Punkte im Intelligence Index, zwei Punkte hinter Opus 5.5 bei maximalem Aufwand, und verbraucht dabei rund 193.000 Ausgabe-Token pro Aufgabe. Das sind etwa 60 Prozent mehr als bei Opus 5.5 und rund siebenmal so viel wie GPT-6 Astra bei maximalem Aufwand, so das Labor. Anthropic ließ die Preise bei 2 Dollar pro Million Eingabe-Token und 10 Dollar pro Million Ausgabe-Token unverändert. Die Kosten pro Aufgabe liegen trotzdem bei 7,60 Dollar, rund 50 Prozent über Sonnet 5.

Gleiche Preisliste. Andere Rechnung. Die Token richten den Schaden an.

AI Pricing Guru frischt die Tarife täglich auf und hat zuletzt am 1. Oktober aktualisiert. Für allgemeine APIs gibt der Dienst eine nutzbare Spanne von 0,50 bis 15 Dollar pro Million Ausgabe-Token an. Eingabe ist typischerweise zwei- bis achtmal günstiger, und zwischengespeicherte Eingabe senkt die Kosten um weitere 75 bis 90 Prozent, wo der Anbieter das unterstützt. Der Rechner erfasst 154 aktive Modelle bei mehr als 10 Anbietern.

Retrieval verändert die Rechnung, bevor die Generierung überhaupt beginnt. Die Kostenaufstellung von Spheron vom 29. September merkt an, dass ein Standard-RAG-Aufbau mit fünf Blöcken zu je 500 Token pro Abfrage 2.500 Token Kontext hinzufügt. Eine Frage, die als einfacher Chat 100 bis 200 Eingabe-Token kosten würde, kann auf der Eingabeseite also 15- bis 20-mal teurer werden.

Unblocked beschrieb am 29. September seine eigene Routing-Arbeit. Der Verkehr von GLM 5.2 wechselte zwischen Baseten, Fireworks und CoreWeave nach einer Bewertung, die zu 70 Prozent auf Kosten und zu 30 Prozent auf Latenz gewichtet ist. Bei einer festen Reihenfolge zugunsten von Baseten bediente dieser Anbieter in der ersten vollen Woche 98,5 Prozent der Aufgaben. Das Unternehmen gibt an, die Listenpreise von CoreWeave hätten etwa 45 Prozent unter denen von Baseten gelegen. Es habe aber keine Leistungsdaten gehabt, um den Anbieter einzuordnen. So steht es um die Beschaffung: Die günstigste Option ist oft die, die niemand gemessen hat.

Kommentare 0

Quellen

7
  1. 01Anthropic's IPO prospectus shows sweeping AI vision, surging costs: ReutersEN
  2. 02GPU Costs for LLM Inference: AWS vs GCP (2026)EN
  3. 03Cloud GPU Pricing - Cost Intelligence for H100, A100 & B200EN
  4. 04Sonnet 5.5 has the heaviest token use we've measured; pricing matches GPT-6 SolEN
  5. 05AI Token Cost Calculator 2026: 154 Models by TierEN
  6. 06RAG Inference Cost Calculator: Cost Per Token, Broken Down (2026)EN
  7. 07Routing LLM traffic across inference providers with TCP-style congestion controlEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.