GPU-Preise steigen, Cloud-Listenpreise fallen: Was Inferenz wirklich kostet
Der Börsenprospekt von Anthropic, über den Reuters am 28. September berichtete, nennt 518 Milliarden Dollar künftiger Cloud- und Rechenverpflichtungen und einen Nettoverlust von 42 Milliarden Dollar für 2025. Die Preisdaten, die diese Woche eintreffen, legen nahe, dass Käufer die zweite Zahl genauer lesen sollten.

Das Geld steckt nicht in den Listenpreisen. Meetrix hat AWS und GCP verglichen, mit Preisen vom 28. September: Eine H100 auf Abruf kostet bei AWS 6,88 Dollar pro Stunde, bei GCP 10,98 Dollar. Diese 37 Prozent Unterschied sind real. Sie sind aber kleiner als der Sprung, den dieselbe Karte bei einem Viertel Auslastung macht. Meetrix rechnet mit einem Platzhalter-Durchsatz von 2.500 Token pro Sekunde: Bei voll beschäftigter GPU kostet eine Million Token 0,76 Dollar, bei 25 Prozent Auslastung 3,06 Dollar.
Damit ist das ganze Argument in einem Satz gesagt. Untätige Hardware kostet mehr als jede Anbieterwahl.
GPUAdvisor verfolgt 14 Anbieter und hat seine Daten zuletzt am 1. Oktober aktualisiert. Bei älteren Karten liegen Spezial-Clouds deutlich unter den Hyperscalern: eine A4000 für 0,15 Dollar pro GPU-Stunde bei Hyperstack, eine L40S für 0,38 Dollar bei Lium, eine RTX 4090 für 0,40 Dollar. Die Seite kennzeichnet diese Werte als erfasste Näherungen und rät Käufern, die Tarife auf der Anbieterseite zu prüfen. Das ist fair, denn dieselbe Seite listet eine RTX 4090 bei RunPod für 0,74 Dollar. Zwei Preise, dasselbe Modell, fast das Doppelte.
Die Token-Rechnung ist noch einmal eine andere Zahl
Artificial Analysis hat am 29. September seine Bewertung von Anthropics Claude Sonnet 5.5 veröffentlicht. Das Modell erreicht 56 Punkte im Intelligence Index, zwei Punkte hinter Opus 5.5 bei maximalem Aufwand, und verbraucht dabei rund 193.000 Ausgabe-Token pro Aufgabe. Das sind etwa 60 Prozent mehr als bei Opus 5.5 und rund siebenmal so viel wie GPT-6 Astra bei maximalem Aufwand, so das Labor. Anthropic ließ die Preise bei 2 Dollar pro Million Eingabe-Token und 10 Dollar pro Million Ausgabe-Token unverändert. Die Kosten pro Aufgabe liegen trotzdem bei 7,60 Dollar, rund 50 Prozent über Sonnet 5.
Gleiche Preisliste. Andere Rechnung. Die Token richten den Schaden an.
AI Pricing Guru frischt die Tarife täglich auf und hat zuletzt am 1. Oktober aktualisiert. Für allgemeine APIs gibt der Dienst eine nutzbare Spanne von 0,50 bis 15 Dollar pro Million Ausgabe-Token an. Eingabe ist typischerweise zwei- bis achtmal günstiger, und zwischengespeicherte Eingabe senkt die Kosten um weitere 75 bis 90 Prozent, wo der Anbieter das unterstützt. Der Rechner erfasst 154 aktive Modelle bei mehr als 10 Anbietern.
Retrieval verändert die Rechnung, bevor die Generierung überhaupt beginnt. Die Kostenaufstellung von Spheron vom 29. September merkt an, dass ein Standard-RAG-Aufbau mit fünf Blöcken zu je 500 Token pro Abfrage 2.500 Token Kontext hinzufügt. Eine Frage, die als einfacher Chat 100 bis 200 Eingabe-Token kosten würde, kann auf der Eingabeseite also 15- bis 20-mal teurer werden.
Unblocked beschrieb am 29. September seine eigene Routing-Arbeit. Der Verkehr von GLM 5.2 wechselte zwischen Baseten, Fireworks und CoreWeave nach einer Bewertung, die zu 70 Prozent auf Kosten und zu 30 Prozent auf Latenz gewichtet ist. Bei einer festen Reihenfolge zugunsten von Baseten bediente dieser Anbieter in der ersten vollen Woche 98,5 Prozent der Aufgaben. Das Unternehmen gibt an, die Listenpreise von CoreWeave hätten etwa 45 Prozent unter denen von Baseten gelegen. Es habe aber keine Leistungsdaten gehabt, um den Anbieter einzuordnen. So steht es um die Beschaffung: Die günstigste Option ist oft die, die niemand gemessen hat.
Quellen
7- 01Anthropic's IPO prospectus shows sweeping AI vision, surging costs: ReutersEN
- 02GPU Costs for LLM Inference: AWS vs GCP (2026)EN
- 03Cloud GPU Pricing - Cost Intelligence for H100, A100 & B200EN
- 04Sonnet 5.5 has the heaviest token use we've measured; pricing matches GPT-6 SolEN
- 05AI Token Cost Calculator 2026: 154 Models by TierEN
- 06RAG Inference Cost Calculator: Cost Per Token, Broken Down (2026)EN
- 07Routing LLM traffic across inference providers with TCP-style congestion controlEN
Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.
Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.
Kommentare
0- Noch keine Kommentare — seien Sie der Erste.