Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Inferenzkosten-Rechner nehmen zu, während GPU-Preise undurchsichtig bleiben

Ein Rechner im Browser, am 23. September veröffentlicht, vergleicht die Inferenzkosten von 27 Modellen. Sein Autor warnt selbst: Das Ergebnis ist eine Planungsschätzung, kein Angebot eines Anbieters. Wenige Tage später rückte ein separates Benchmark die Kosten für eine Stunde Betrieb eines Modells in dasselbe Licht.

KI & ModelleAnalyseKatrin HoffmannVeröffentlicht: 28. September 20263 Min. LesezeitQuellen 5
Inferenzkosten-Rechner nehmen zu, während GPU-Preise undurchsichtig bleiben

Der jüngste Beitrag zur Debatte über Inferenzkosten ist keine Preisankündigung, sondern ein Rechner. Flavio Copes veröffentlichte am 23. September einen Inference Cost Calculator. Er vergleicht 27 Modelle von OpenAI, Anthropic, Google, xAI, Mistral, OpenRouter und Workers AI unter identischen Annahmen.

Der Nutzer gibt täglich aktive Nutzer, Aufrufe pro Nutzer, Eingabe- und Ausgabe-Token pro Aufruf sowie optional eine Trefferquote beim Prompt-Caching ein. Der Rechner liefert eine Monatsrechnung. Er weist auch darauf hin, dass die Zahlen aus veröffentlichten API-Tarifen stammen. Batch-Preise, Unternehmensrabatte, Zuschläge für Bilder oder Tools und jede selbst gebaute Caching-Schicht bleiben außen vor.

Dieser Vorbehalt wiegt schwerer als das Ranking.

Das Benchmark, das eine Stunde Denken bepreist

Am 26. September veröffentlichte StarSkirmish einen andersartigen Kostenvergleich. Jedes LLM bekommt eine Stunde Zeit, einen Protoss-Bot in C++ für StarCraft: Brood War zu schreiben. Danach treten die Bots gegeneinander und gegen von Menschen geschriebene Gegner an. Das Feld umfasst 50 LLM-Bots aus 10 Modellen, dazu 3 Demo-Bots und 9 konkurrenzfähige, von Menschen geschriebene Bots. Das sind 62 Teilnehmer, ausgeführt auf Prime-Intellect-Sandboxes.

GPT-6 Astra und Claude Opus 5.5 liegen laut der eigenen Auswertung des Projekts funktional gleichauf an der Spitze. GPT-6 Sol steht zusammen mit ihnen einen klaren Schritt über dem Rest. Das Benchmark trägt außerdem den Score gegen die durchschnittlichen API-Kosten eines einstündigen Laufs auf einer logarithmischen Skala ab. Es stellt fest, dass GPT-6 Sol in diesem Vergleich ein einzigartig gutes Preis-Leistungs-Verhältnis bietet.

Das ist eine Betrachtung der Kosten pro Fähigkeit, nicht der Kosten pro Token. Sie räumt auch eine Grenze ein: Die Autoren schreiben, dass modernste Reasoning-Modelle inzwischen deutlich von Denkphasen profitieren, die länger als eine Stunde dauern. Längere Varianten sind geplant.

Warum öffentlichen Zahlen schwer zu trauen ist

Keine dieser beiden Quellen nennt einen GPU-Preis. Dafür liefert das Dossier eine Übersicht, die Nexlab am 20. September veröffentlichte. Sie vergleicht selbst gehostete Orchestratoren wie LocalAI, exo, GPUStack, vLLM, Ollama, Xinference und CoderAI. Die Sternzahlen stammen aus der GitHub-API vom 20. September. Der Autor schreibt ausdrücklich, dass die Tabelle dies vermerkt, wo ein Merkmal nicht bestätigt werden konnte, statt zu raten.

Die nützlichen Unterscheidungen dieser Übersicht betreffen gar nicht den Preis. Sie trennt, ob ein Modell über mehr als eine Maschine laufen kann, ob eine Folgerunde dorthin geleitet wird, wo ihr KV- oder Prefix-Cache bereits liegt, und ob der Server selbst eine GPU mieten kann. vLLM unterstützt bei 92.000 Sternen in diesem Stand Tensor- und Pipeline-Parallelität über Ray sowie Prefix-Caching pro Instanz. Ollama ist bei 181.000 Sternen auf eine Maschine und ein Modell zur Zeit beschränkt. Eine Cluster-Lösung gibt es nicht, außer dem Round-Robin mehrerer URLs hinter Open WebUI.

Das Geld steckt in der Hardware, nicht in der Software. Brasiliens PV-Markt ist keine KI-Geschichte, doch pv magazine berichtete am 26. September, dass die durchschnittlichen Preise für PV-Anlagen im Land zwischen Januar und Juni 2026 bei Projekten bis 300 kW um 7% stiegen. Das geht aus der Studie Distributed Energy Solutions von Greener hervor. Die Kosten für Bausätze von 4-kW-Anlagen stiegen um 18,3%, von BRL 1,42/W auf BRL 1,68/W.

Andere Ware, dasselbe Problem: Die Schlagzeile bewegt sich, weil sich die Komponenten bewegen.

Was die Forschung zur Ausgabeseite sagt

Ein weiterer Teil des Kostenbildes liegt auf der Nachfrageseite. Ein am 14. September bei arXiv eingereichtes und am 17. September überarbeitetes Paper, SlopShape, beschreibt ein Instrument mit 214 Merkmalen. Es erkennt KI-generierte kommerzielle Webinhalte allein anhand struktureller Signaturen. Angewandt durch ein LLM und gegen menschliche Annotation validiert, erreichte es 98,0 Macro-F1 bei zurückgehaltenen Unternehmen und 98,1, als jeder KI-Beitrag von seinem eigenen Modell umformuliert wurde. Der Autor ist Jochen Madler von Sitefire.

Günstigere Inferenz erzeugt mehr Text. Diesen Text zu erkennen, ist inzwischen eine messbare Aufgabe mit veröffentlichter Genauigkeit. Das ist selbst eine Art Infrastrukturkosten.

Keine dieser Quellen stimmt darin überein, was Inferenz kosten sollte, weil keine dasselbe misst. Der Rechner misst eine hypothetische Rechnung. Das Benchmark misst Fähigkeit pro Stunde API-Ausgaben. Die Orchestrator-Übersicht misst Merkmale, keine Rechnungen. Jede einzelne Zahl ist als Ausgangsannahme zu behandeln.

Kommentare 0

Quellen

5
  1. 01Inference Cost CalculatorEN
  2. 02StarSkirmish BenchEN
  3. 03Self-hosted inference orchestrators compared: LocalAI, exo, GPUStack, vLLMEN
  4. 04PV system costs increase by 7% in Brazil in H1EN
  5. 05SlopShape: Identifying AI-Generated Commercial Web ContentEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.