Hosting tokenów z modeli z otwartymi wagami opłaca się tylko na B300 powyżej jednej trzeciej obciążenia

Dla każdego, kto planuje sprzedawać tokeny z modeli z otwartymi wagami, karta GPU liczy się bardziej niż silnik wnioskowania. Węzeł 8xB300 pracujący przy obciążeniu od 50% do 70% daje 31% do 51% marży brutto. H200 nie wychodzi na zero przy żadnym obciążeniu. Nie wiadomo, czy te marże przetrwają wojnę cenową na OpenRouterze. Ten sam model sprzedaje tam 29 dostawców, a najtańsza cena tokenów wejściowych wynosi 0,056 dol. za milion tokenów wobec około 0,30 dol. u większości.

Test rentowności

Analizę opublikował userecurrence.ai. Autorzy ustalają jeden model, jeden wzorzec ruchu, jedno tempo odpowiedzi, jedną cenę i jedną stawkę najmu, a zmieniają tylko kartę. H200 traci pieniądze nawet przy pełnym obciążeniu. B300 zaczyna zarabiać, gdy jest zajęta w 35%.

Test dotyczy DeepSeek V4.1 Flash z obiecanymi 100 tokenami wyjścia na sekundę na użytkownika, w porównaniu z publicznymi cenami wynajmu GPU. Ruch pochodzi z obciążenia AgentX przygotowanego przez SemiAnalysis: 393 odtworzonych sesji Claude Code. Mediana wejścia to 142 000 tokenów, mediana wyjścia 444, a około 95% wejścia pochodzi z pamięci podręcznej. Jeden obóz twierdzi, że DeepSeek zarabia 38 dol. na godzinę GPU, drugi, że wszyscy na OpenRouterze tracą. Analiza mówi, że mierzą różne rzeczy.

Dlaczego karta waży więcej niż silnik

Silniki wnioskowania z otwartym kodem nie są już słabym punktem. vLLM i SGLang nadają się do produkcji, a DeepSeek udostępnił kod DeepInfer, silnika stojącego za jego własnym API. W październiku 2026 r. zespół vLLM odtworzył przepustowość dekodowania DeepInfer z dokładnością do 6% na tym samym sprzęcie.

Silnik przestał więc być problemem, niezależnie od tego, skąd go weźmiesz. Własna implementacja też może osiągnąć ten poziom, wynika z analizy. O zysku i stracie decyduje sprzęt, który wynajmujesz, i to, jak bardzo go obciążasz. Wymagania są ostre: 100 tokenów wyjścia na sekundę na użytkownika, podczas gdy przeciętny dostawca na OpenRouterze serwuje około 35.

Wojna cenowa już podkopuje model

OpenRouter wymienia 29 dostawców sprzedających ten sam DeepSeek V4.1 Flash. Najtańszy chce 0,056 dol. za milion tokenów wejścia wobec około 0,30 dol. u większości, co analiza nazywa ceną poniżej kosztów, jakkolwiek liczyć. Wolumen i przychody już się rozeszły: liczba tokenów V4 mniej więcej podwoiła się w pierwszej połowie 2026 r., a jego udział w wydatkach ledwo drgnął.

W tygodniu od 19 do 25 października DeepSeek V4.1 Flash zebrał około 30% wszystkich tokenów na OpenRouterze, z dużą przewagą nad innymi modelami z otwartymi wagami. To nie ruch z chatbotów. Ruch agentów jest 7 razy większy niż ruch ludzi, a około 87% tokenów pochodzi z pamięci podręcznej.

Otwarty kod jako dystrybucja

Ta sama logika rządzi resztą biznesu open source. W październiku 2026 r. NVIDIA udostępniła całą platformę HeavyAI na licencji Apache 2.0, wraz z interfejsem wizualizacji Immerse, HeavyRF i HeavyConnect. Repozytorium przez długi czas zawierało tylko ograniczoną wersję otwartego rdzenia HeavyDB.

Gdzie indziej otwarty kod działa jak marketing. Higgsfield zapowiedział, że otworzy kod swojej platformy, a ComfyUI ogłosiło dwutygodniowy hackathon na odbudowę najpopularniejszych aplikacji. Główna nagroda wynosi 10 000 dol., zgłoszenia zamknięto 3 listopada. CaseCite, samodzielnie hostowana platforma do badań prawnych na Apache 2.0, jest przedstawiana jako otwarta odpowiedź na Harvey, który zebrał 500 mln dol. na AI dla prawników. Dokumenty, indeks wyszukiwania i historia czatu zostają na serwerach operatora, a funkcje AI działają na jego własnych kluczach API.

Nacisk ze strony kupujących idzie w tym samym kierunku. Zespoły AI w firmach produkują dziś więcej kodu, niż są w stanie ocenić, więc wąskim gardłem jest przegląd, bezpieczeństwo i nadzór, a nie generowanie.

Co dalej

ComfyUI ogłosi zwycięzców hackathonu 10 listopada. Pełna platforma HeavyAI jest już dostępna na Apache 2.0. CaseCite w wersjach do 1.3.0 zostaje na licencji Elastic License 2.0, a bieżące wydania używają Apache 2.0. Otwarte pozostaje pytanie, czy marże na B300 utrzymają się, gdy ceny na OpenRouterze dalej spadają.