Claude Haiku 5.5 senkt API-Preise um 90 Prozent, während Inferenzkosten sich verschieben

Anthropic hat Claude Haiku 5.5 am 8. Oktober veröffentlicht. Es ist das schnellste und günstigste kleine Modell des Unternehmens. Die Veröffentlichung zielt auf Aufgaben mit hohem Durchsatz wie Datenabfragen und Kundensupport.

Laut The Decoder kostet das Modell rund 75 Prozent weniger als sein Vorgänger Haiku 4.5. Anthropic gibt an, dass Prompts mit bis zu 100.000 Token etwa 90 Prozent der früheren Haiku-Anfragen ausmachen. Für diese Anfragen sinken die Preise um bis zu 90 Prozent. Input-Token kosten jetzt 0,10 Dollar pro Million, vorher 1,00 Dollar. Output-Token fallen von 5,00 auf 0,50 Dollar pro Million.

Die Preissenkung kommt, während der Rest des Stacks teurer wird. Pavan Davuluri, Windows-Chef bei Microsoft, räumte im Podcast Inside Windows ein, dass steigende Speicherkosten das Unternehmen dazu treiben, Windows 11 mit weniger RAM auskommen zu lassen. Davuluri nannte den Speicher ein Thema, das die Branche "ganz oben auf dem Zettel" habe. Er merkte an, dass OEMs wieder Laptops mit 8 GB auf den Markt bringen. Microsoft machte "Speicheroptimierung für 8 GB und mehr" laut Windows Latest zu einer offiziellen Priorität für den Rest von 2026.

Niedrigere Preise pro Token bedeuten nicht immer niedrigere Gesamtrechnungen. Artificial Analysis führt Haiku 5.5 mit einem Wert von 43 im Intelligence Index als führendes Modell der kleinen Klasse. Die Plattform meldet jedoch einen deutlich höheren Token-Verbrauch. Auf der höchsten Aufwandsstufe verbraucht Haiku 5.5 etwa 162.000 Output-Token pro Aufgabe. Das ist rund dreimal so viel wie die 50.000 Token, die OpenAIs GPT-6 Luna benötigt.

Der Kompromiss bei der Effizienz

Selbst bei vergleichbarer Leistung bleibt die Lücke bestehen. Auf der Stufe "high" erreicht Haiku 5.5 einen Wert von 38 bei etwa 55.000 Token pro Aufgabe. GPT-6 Luna kommt mit rund 50.000 Token auf denselben Wert. Bei der Pareto-Effizienz, dem Verhältnis von Leistung zu Ressourceneinsatz, liegt das Modell von OpenAI vorn. Der Sprung von "xhigh" auf "max" bei GPT-6 Luna bringt nur zwei Punkte mehr und erhöht den Token-Verbrauch um das 1,8-Fache.

Anthropic weist darauf hin, dass Haiku 5.5 einen überarbeiteten Tokenizer nutzt, der pro Aufgabe etwas mehr Token verbraucht als der Vorgänger. Dasselbe passierte bei den Opus-4.x-Modellen, wo der Token-Verbrauch allein durch die Tokenizer-Änderung um etwa 30 Prozent stieg. Die tatsächlichen Einsparungen dürften kleiner ausfallen, als es die Preise pro Token nahelegen. Diese Nuance macht die Erzählung von einem reinen Preiskrieg kompliziert.

Druck auf Hardware und Infrastruktur

Während die API-Anbieter über den Preis konkurrieren, bleibt die physische Infrastruktur, die diese Modelle bedient, ein Engpass. HPCwire merkt an, dass Inferenzsysteme für KI anders ausfallen als klassische Webdienste. Die durchschnittliche Latenz kann gut aussehen, während Nutzer bereits unzufrieden sind, weil Anfragen in Warteschlangen liegen und auf die Bildung von Batches warten. Auch das Kaltstartverhalten ist ein Problem. Einen Inferenz-Worker zu starten heißt, Modelle herunterzuladen, Gewichte in den Speicher zu laden und den Zustand der Beschleuniger zu initialisieren. Kubernetes zeigt einen Pod möglicherweise als laufend an, doch das heißt nicht, dass das System schon tatsächlich Kapazität zum Bedienen hat.

Diese Komplexität treibt die Nachfrage nach spezialisierter Hardware und Softwareoptimierungen. Magnitude, eine im September gestartete Open-Source-Inferenz-Engine, will Kernel für bestimmte Hardware optimieren und offene Modelle bis zu zweimal schneller laufen lassen als llama.cpp. Das Werkzeug kompiliert und stimmt Kernel auf dem Gerät des Nutzers ab, für Apple Silicon, NVIDIA, AMD oder reine CPU-Umgebungen. Es soll den Speicherverbrauch pro Agent um 27 Prozent senken, ein entscheidender Faktor, während die RAM-Kosten steigen.

Auch der Standort zählt. Data Center Knowledge berichtet über ein geplantes 20-stöckiges Rechenzentrum im Zentrum von Kansas City, das dichte Carrier-Konnektivität für Inferenz mit niedriger Latenz nutzen soll. Steve Austin, Gründer von Revitalization Unlimited, argumentiert, dass Inferenz nahe beim Nutzer stattfinden muss, weil die Latenz zählt. Das Projekt hat höhere Baukosten, geschätzt auf 183.000.000 Dollar oder rund 1.300 Dollar pro Quadratfuß, verglichen mit Anlagen am Stadtrand. Dieser Aufpreis ist nur für bestimmte Arbeitslasten gerechtfertigt, etwa Finanztransaktionen oder KI-Interaktionen in Echtzeit.

Auch die Aufsicht über Preispraktiken wird strenger. Die FTC verschickte am 5. Oktober Briefe an 24 große Unternehmen im Gesundheitswesen und warnte sie vor irreführender Preisgestaltung. Das hat zwar nichts direkt mit KI zu tun, signalisiert aber ein breiteres Regierungsinteresse an Preistransparenz. Ebenso wurde McDonald's am 2. Oktober verklagt, weil das Unternehmen angeblich ein KI-Werkzeug einsetzte, um Preise über Franchises hinweg festzulegen. Die Kläger behaupten, das verstoße gegen Kartellrecht, weil es algorithmische Preisabsprachen ermögliche.

Der breitere Marktkontext

Der Druck zu günstigerer Inferenz beschränkt sich nicht auf Anthropic. Forscher veröffentlichen bei arXiv Arbeiten zur Eindämmung übermäßigen Vertrauens in Inferenzzeit und zur effizienten Bewertung von Strategien. Ein am 7. Oktober eingereichtes Papier schlägt einen rein stichprobenbasierten Rahmen zur Bewertung von Best-of-N-Strategien vor. Er hilft, die wirksamsten Sampling-Budgets auszuwählen, ohne vollen Zugriff auf die Likelihood zu brauchen. Diese akademische Arbeit bildet die Grundlage für die technischen Bemühungen, Inferenz billiger und zuverlässiger zu machen.

Auch Cloud-Anbieter passen ihre Strategien an. AWS hob die Preise für GPU-Kapazität Ende September Berichten zufolge um 15 Prozent an, ein Schritt, der im Gegensatz zu Anthropics API-Senkungen steht. Diese Divergenz deutet darauf hin, dass die Anbieter bei steigenden reinen Rechenkosten auf Anwendungsebene nach Effizienzen an anderer Stelle suchen müssen. Das Ergebnis ist ein Markt, in dem die Kosten der Intelligenz von den Kosten des Siliziums entkoppelt werden, das sie antreibt.

Für Entwickler ist die Lehre klar: Das billigste Token ist nicht immer die wirtschaftlichste Lösung. Die Gesamtbetriebskosten hängen jetzt von der Token-Effizienz, der Hardware-Auslastung und den konkreten Latenzanforderungen der Arbeitslast ab. Während Inferenz zum Hauptschlachtfeld der KI wird, verschiebt sich der Fokus von der reinen Modellfähigkeit auf die Ökonomie der Bereitstellung.