Hosting von Open-Weight-Tokens rechnet sich erst auf B300 ab einem Drittel Auslastung

Wer Tokens aus Open-Weight-Modellen verkaufen will, für den zählt die GPU-Karte mehr als die Inference-Engine. Ein 8xB300-Knoten mit 50% bis 70% Auslastung bringt eine Bruttomarge von 31% bis 51%. H200 erreicht bei keiner Auslastung die Gewinnschwelle. Ob diese Margen den Preiskampf auf OpenRouter überstehen, ist offen. Dort verkaufen 29 Anbieter dasselbe Modell. Der günstigste Eingabepreis liegt bei 0,056 US-Dollar pro Million Tokens, die meisten verlangen etwa 0,30 US-Dollar.

Der Profitabilitätstest

Die Analyse stammt von userecurrence.ai. Sie legt ein Modell, ein Verkehrsmuster, ein Geschwindigkeitsversprechen, einen Preis und eine Miete fest und ändert dann nur die Karte. H200 verliert Geld, selbst wenn die Karte voll ausgelastet ist. B300 wirft ab 35% Auslastung Gewinn ab.

Der Test fährt DeepSeek V4.1 Flash bei zugesagten 100 Ausgabe-Tokens pro Sekunde und Nutzer gegen öffentliche GPU-Mietpreise. Der Verkehr stammt aus der AgentX-Arbeitslast von SemiAnalysis: 393 wiederabgespielte Claude-Code-Sitzungen. Der Median der Eingabe liegt bei 142.000 Tokens, der Median der Ausgabe bei 444. Etwa 95% der Eingabe kommen aus dem Cache. Ein Lager sagt, DeepSeek verdiene 38 US-Dollar pro GPU-Stunde, das andere, alle auf OpenRouter verlören Geld. Die Analyse meint, sie messen unterschiedliche Dinge.

Warum die Karte mehr zählt als die Engine

Open-Source-Inference-Engines sind nicht mehr der Schwachpunkt. vLLM und SGLang sind produktionsreif, und DeepSeek hat DeepInfer als Open Source veröffentlicht, die Engine hinter der eigenen API. Das vLLM-Team hat den Decode-Durchsatz von DeepInfer im Oktober 2026 auf derselben Hardware bis auf 6% nachgebaut.

Die Engine ist also gelöst, egal wie man zu einer kommt. Eine selbst gebaute Engine kann dasselbe Niveau erreichen, heißt es in der Analyse. Was Gewinn von Verlust trennt, ist die gemietete Hardware und wie voll man sie hält. Die Latte bei der Geschwindigkeit liegt hoch: 100 Ausgabe-Tokens pro Sekunde und Nutzer, während der mediane OpenRouter-Anbieter etwa 35 liefert.

Der Preiskampf unterbietet das Modell bereits

OpenRouter listet 29 Anbieter, die dasselbe DeepSeek V4.1 Flash verkaufen. Der günstigste verlangt 0,056 US-Dollar pro Million Eingabe-Tokens, die meisten etwa 0,30 US-Dollar. Die Analyse nennt das nach jeder Rechnung einen Preis unter den Kosten. Volumen und Umsatz haben sich bereits voneinander gelöst: Das Token-Volumen von V4 hat sich in der ersten Hälfte von 2026 etwa verdoppelt, während sein Anteil an den Ausgaben kaum stieg.

DeepSeek V4.1 Flash holte in der Woche vom 19. bis 25. Oktober rund 30% aller Tokens auf OpenRouter, mit großem Abstand das führende Open-Weight-Modell. Der Verkehr kommt nicht von Chatbots. Agentischer Verkehr läuft mit dem 7-fachen des menschlichen Verkehrs, und etwa 87% der Tokens kommen aus dem Cache.

Open Source als Vertrieb

Dieselbe Logik zieht sich durch den Rest des Open-Source-Geschäfts. Im Oktober 2026 hat NVIDIA die gesamte HeavyAI-Plattform als Open Source unter Apache 2.0 freigegeben, einschließlich der Visualisierungsoberfläche Immerse, HeavyRF und HeavyConnect. Das Repository hatte lange nur eine eingeschränkte Open-Source-Version der HeavyDB im Kern enthalten.

Anderswo wirkt Open Source als Marketing. Higgsfield kündigte an, seine Plattform als Open Source zu öffnen, und ComfyUI eröffnete einen zweiwöchigen Hackathon, um seine beliebtesten Apps neu zu bauen. Der beste Gesamtpreis beträgt 10.000 US-Dollar, Einsendungen schlossen am 3. November. CaseCite, eine selbst gehostete Plattform für juristische Recherche unter Apache 2.0, wird als Open-Source-Antwort auf Harvey vermarktet, das 500.000.000 US-Dollar für juristische KI eingesammelt hat. Dokumente, Suchindex und Chatverlauf bleiben auf den Servern des Betreibers, und die KI-Funktionen laufen über dessen eigene API-Schlüssel.

Auf der Käuferseite drückt es in dieselbe Richtung. Enterprise-KI-Teams produzieren inzwischen mehr Code, als sie prüfen können. Dadurch werden Review, Sicherheit und Governance zum Engpass, nicht die Generierung.

Was als Nächstes passiert

ComfyUI gibt die Gewinner des Hackathons am 10. November bekannt. HeavyAIs vollständige Plattform ist jetzt unter Apache 2.0 verfügbar. CaseCite-Versionen bis 1.3.0 bleiben unter der Elastic License 2.0, aktuelle Releases nutzen Apache 2.0. Ob die B300-Margen halten, während die Preise auf OpenRouter weiter fallen, ist die offene Frage.