Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

AWS hat die günstigere H100, doch die Auslastung entscheidet über die Inferenzrechnung

AWS listet eine H100 mit 6,88 Dollar pro Stunde, Google Cloud mit 10,98 Dollar, eine Lücke von 37 Prozent, laut Preisen, die am 28. September geprüft wurden. Diese Lücke wiegt weit weniger als der Faktor vier zwischen einer ausgelasteten und einer leerlaufenden GPU.

KI & ModelleErklärtLena BrandtVeröffentlicht: 29. September 20265 Min. LesezeitQuellen 6
AWS hat die günstigere H100, doch die Auslastung entscheidet über die Inferenzrechnung

AWS listet eine H100 mit 6,88 Dollar pro Stunde, Google Cloud mit 10,98 Dollar, eine Lücke von 37 Prozent, laut Preisen, die am 28. September geprüft wurden. Diese Lücke wiegt weit weniger als der Faktor vier zwischen einer ausgelasteten und einer leerlaufenden GPU.

Der Vergleich stammt von meetrix.io. Die Seite gibt an, am 28. September die On-Demand-Listenpreise für US East bei AWS und us-central1 bei Google Cloud geprüft zu haben. Auf derselben Seite steht klar, dass eine H100 bei 25 Prozent Auslastung pro Token viermal teurer ist als unter Volllast, bei beiden Clouds. Der Autor warnt außerdem, dass die Tokens-pro-Sekunde-Zahl im Rechenbeispiel ein Platzhalter ist und kein Benchmark.

Die Tabelle und wer darin am günstigsten ist

Meetrix setzt AWS pro H100 etwa 37 Prozent günstiger an als Google Cloud und pro A100 25 Prozent günstiger, jeweils auf Abruf. Nur bei der kleinen L4-Karte gewinnt Google. Die g2-standard-4 liegt bei rund 0,70 Dollar pro Stunde gegenüber 0,805 Dollar für die g6.xlarge von AWS, ein Unterschied, den der Artikel selbst mit ungefähr 75 Dollar im Monat beziffert.

In der A100-Zeile steckt ein Haken. AWS verkauft die A100 nur in Achter-Formen: p4d.24xlarge mit 40-GB-Karten und p4de.24xlarge mit 80 GB. Sie kosten 2,75 Dollar pro GPU-Stunde und 21,96 Dollar für den Knoten. Wer eine einzelne A100 braucht, ist mit Googles a2-highgpu-1g für 3,67 Dollar pro Stunde praktisch bedient, obwohl jede GPU dort mehr kostet.

Bei den Quellen ist meetrix ungewöhnlich offen. Die AWS-Zahlen stammen laut Seite aus dem EC2-Tracker von Vantage, aktualisiert am 28. September 2026. Googles eigene GPU-Preisseite rendert ihre Tabelle im Browser, deshalb ließ sie sich nicht programmatisch auslesen. Die GCP-Werte sind also solche, die Preistracker veröffentlichen. Drei davon stimmten bei 87,83 Dollar für die a3-highgpu-8g überein, ein vierter nannte 88,49 Dollar. Das ist ein kleiner Widerspruch, aber ein Widerspruch, und es lohnt zu wissen, auf welcher Seite davon das eigene Budget liegt.

Auslastung schlägt Preisvergleich

Die Rechnung im meetrix-Beitrag geht von 2.500 Ausgabe-Tokens pro Sekunde auf einer H100 aus. Der Autor bezeichnet das ausdrücklich als Annahme, nicht als Messung. Bei 100 Prozent Auslastung kommt AWS auf 0,76 Dollar pro Million Tokens und GCP auf 1,22 Dollar. Bei 50 Prozent werden daraus 1,53 und 2,44 Dollar. Bei 25 Prozent 3,06 und 4,88 Dollar.

Lies eine Spalte nach unten, nicht quer, rät der Beitrag.

Das ist die richtige Anweisung. Ein Cloudwechsel spart 37 Prozent auf dieselbe H100. Lässt man die Karte drei Viertel der Zeit leerlaufen, kostet das viermal so viel. Das eine ist eine Beschaffungsentscheidung, das andere eine Frage der Zeitplanung, und nur die zweite summiert sich täglich.

GPUAdvisor gibt an, 14 Anbieter zu verfolgen, und hat seine tägliche Prüfung zuletzt am 1. Oktober 2026 ausgeführt. Die Listen zeigen, wohin die Logik des Preisvergleichs führt. Lium bietet die L40S für 0,38 Dollar pro GPU-Stunde, gekennzeichnet als 89 Prozent unter AWS. Thunder Compute nennt für die RTX A6000 0,35 Dollar, Hyperstack für die A4000 0,15 Dollar. Dieselbe Seite merkt an, dass GPU-Spezialisten zwei- bis viermal niedrigere Preise pro GPU bieten als Hyperscaler, und dass die Preise ungefähr sind und je nach Region schwanken. Spezialisten sind nicht dasselbe Produkt wie ein Hyperscaler, aber die Spanne ist auch kein Rauschen.

Auch Rabatte für Laufzeit verschieben die Zahl, und sie wirken in beide Richtungen. Meetrix berichtet von einer dreijährigen AWS-Reservierung mit 54 bis 57 Prozent Ersparnis, mit dem Hinweis, dass GPUs schnell veralten. GPUAdvisor setzt Ein-Jahres-Bindungen bei 35 bis 40 Prozent an für dauerhaft laufende Inferenz-Endpunkte. Für GCP Spot nennt er bis zu 70 Prozent Nachlass auf A100- und H100-Instanzen. Meetrix ergänzt, dass Spot bei AWS derzeit 53 bis 62 Prozent auf H100 und A10G bringt, bei der L40S aber nur 1 Prozent.

Das Kapazitätsprodukt, das sich anders entwickelte

Nicht jeder Preis ist gefallen. Meetrix zitiert den Bericht von The Register über einen Anstieg um etwa 15 Prozent im Januar 2026 bei EC2 Capacity Blocks for ML. Die p5e stieg von 34,61 auf 39,80 Dollar pro Stunde. Meetrix merkt an, dass dies ein anderes Produkt ist als die On-Demand-Sätze in der Vergleichstabelle. Genau solche Unterschiede gehen verloren, wenn Teams in einer Planungsrunde eine einzige GPU-Zahl zitieren.

Der Hintergrund all dessen ist eine Verknappung, die weit über GPUs hinausreicht. Yahoo Finance berichtete am 30. September, dass der neue Apple-Chef John Ternus kleine Entlassungswellen und Projektstreichungen plant, unter Berufung auf einen Bloomberg-Bericht, während die Speicherkosten steigen. Der Beitrag zitiert den früheren CEO Tim Cook, der in seiner letzten Telefonkonferenz zu den Quartalszahlen von einer Jahrhundertflut bei den Speicherpreisen sprach. Er merkt an, dass SK Hynix, Samsung und Micron ihre Premium-Kapazität für KI-Speicher einen Großteil des Jahres 2026 weitgehend ausverkauft haben. Dieselben Käufer bieten auf Rechenleistung und Speicher.

Der IPO-Prospekt von Anthropic, den Reuters einsehen konnte und über den am 29. September berichtet wurde, beziffert diesen Appetit. Er weist für 2025 7.330.000.000 Dollar für Rechenleistung und Infrastruktur aus, eine Verdreifachung gegenüber 2024. Das sind mehr als die Hälfte von 12.650.000.000 Dollar gesamter Betriebsausgaben, bei 518.000.000.000 Dollar an Verpflichtungen für Cloud, Computing und Infrastruktur in den kommenden Jahren. Das ist die Vorausverpflichtung eines einzelnen Käufers, und sie ist größer als der jährliche GPU-Umsatz der meisten Clouds.

Unterdessen treibt die Softwareseite die Rechnung weiter. Artificial Analysis meldete am 29. September, dass Claude Sonnet 5.5 bei maximalem Aufwand rund 193.000 Ausgabe-Tokens pro Aufgabe im Intelligence Index verbraucht. Das sei der höchste Tokenverbrauch, den man gemessen habe, etwa siebenmal GPT-6 Astra bei maximalem Aufwand. Anthropic bepreist es identisch zu Sonnet 5 mit 2 zu 10 Dollar pro Million Eingabe- und Ausgabe-Tokens. Die Kosten stecken also in der Tokenzahl, nicht in der Preisliste, und Artificial Analysis kommt auf 7,60 Dollar pro Aufgabe, etwa 50 Prozent mehr als Sonnet 5.

Das Routing ist der andere Hebel, und es wird automatisiert. Unblocked beschrieb am 29. September einen adaptiven Router, der Anbieter nach Kosten und Geschwindigkeit bewertet, gewichtet mit 0,7 und 0,3, und den Verkehr verlagert, wenn einer schlechter wird. Davor schickte Round-Robin 51 Prozent der GLM-5.2-Aufgaben an Fireworks, zu Preisen 25 Prozent über Baseten. Nach einer festen Reihenfolge bediente Baseten 98,5 Prozent. Das Unternehmen gibt an, ein dritter Anbieter, CoreWeave, habe Preise etwa 45 Prozent unter denen von Baseten gelistet, doch es habe keine Leistungsdaten gegeben, um ihn einzuordnen.

Nichts davon macht die Frage AWS gegen GCP falsch. Es macht sie zur zweiten Frage. Erst die Auslastung messen, dann über den Stundensatz streiten.

Kommentare 0

Quellen

6
  1. 01GPU Costs for LLM Inference: AWS vs GCP (2026)EN
  2. 02Cloud GPU Pricing — Cost Intelligence for H100, A100 & B200EN
  3. 03New Apple CEO John Ternus is reportedly planning layoffs as memory chip costs riseEN
  4. 04Anthropic's IPO prospectus shows sweeping AI vision, surging costs: ReutersEN
  5. 05Sonnet 5.5 has the heaviest token use we've measured; pricing matches GPT-6 SolEN
  6. 06Routing LLM traffic across inference providers with TCP-style congestion controlEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.