Ceny GPU rosną, a cenniki chmur spadają: ile naprawdę kosztuje inferencja
Prospekt emisyjny Anthropica, o którym Reuters pisał 28 września, wykazuje 518 mld dolarów przyszłych zobowiązań wobec chmur i dostawców mocy obliczeniowej przy 42 mld dolarów straty netto za 2025 rok. Dane cenowe z tego tygodnia podpowiadają, żeby tę drugą liczbę czytać uważnie.

Stawki z cennika nie mówią, gdzie naprawdę idą pieniądze. Meetrix porównał AWS i GCP, sprawdzając ceny 28 września. H100 na żądanie kosztuje tam 6,88 dolara za godzinę w AWS i 10,98 dolara w GCP. Ta 37-procentowa różnica jest prawdziwa. Jest jednak mniejsza niż skok, jaki daje uruchomienie tej samej karty przy jednej czwartej obciążenia. Meetrix przyjmuje umowne 2 500 tokenów na sekundę. Przy takim tempie koszt wynosi 0,76 dolara za milion tokenów, gdy GPU pracuje pełną mocą, i 3,06 dolara przy wykorzystaniu 25%.
Cały spór sprowadza się do jednego zdania. Bezczynna krzemowa maszyna kosztuje więcej niż jakikolwiek wybór dostawcy.
GPUAdvisor śledzi 14 dostawców i podaje, że ostatnio aktualizował dane 1 października. Z jego liczb wynika, że wyspecjalizowane chmury mocno zaniżają ceny starszych kart względem hiperskalerów: A4000 za 0,15 dolara za godzinę GPU na Hyperstacku, L40S za 0,38 dolara na Lium, RTX 4090 za 0,40 dolara. Serwis oznacza te stawki jako przybliżone i radzi kupującym potwierdzić je na stronie dostawcy. Słusznie, bo ta sama strona podaje RTX 4090 za 0,74 dolara na RunPod. Dwie ceny, ten sam model, prawie dwa razy drożej.
Rachunek za tokeny to znowu inna liczba
Artificial Analysis opublikowało 29 września swoją ocenę Claude Sonnet 5.5 od Anthropica. Model osiąga 56 punktów w ich Intelligence Index, o dwa punkty mniej niż Opus 5.5 przy maksymalnym wysiłku. Zużywa około 193 000 tokenów wyjściowych na zadanie. To około 60% więcej niż Opus 5.5 i mniej więcej siedem razy więcej niż GPT-6 Astra przy maksymalnym wysiłku, jak podaje laboratorium. Anthropic nie zmienił cennika: 2 dolary za milion tokenów wejściowych i 10 dolarów za milion wyjściowych. Koszt jednego zadania wychodzi jednak 7,60 dolara, około 50% więcej niż w Sonnet 5.
Ten sam cennik. Inny rachunek. Szkodę robią tokeny.
AI Pricing Guru odświeża stawki codziennie i ostatnią aktualizację zrobił 1 października. Użyteczny przedział dla ogólnych API wyznacza na 0,50 do 15 dolarów za milion tokenów wyjściowych. Wejście kosztuje zwykle dwa do ośmiu razy mniej, a buforowane wejście obniża cenę o kolejne 75% do 90%, jeśli dostawca to obsługuje. Kalkulator serwisu obejmuje 154 aktywne modele u ponad 10 dostawców.
Wyszukiwanie zmienia arytmetykę, jeszcze zanim ruszy generowanie. Spheron w rozbiciu kosztów z 29 września zauważa, że standardowy układ RAG pobierający pięć fragmentów po 500 tokenów dokłada 2 500 tokenów kontekstu na zapytanie. Pytanie, które jako zwykły czat kosztowałoby 100 do 200 tokenów wejściowych, może po stronie wejścia podrożeć 15 do 20 razy.
Unblocked opisało 29 września własne prace nad routingiem. Firma kierowała ruch do GLM 5.2 między Baseten, Fireworks i CoreWeave według oceny ważonej w 70% kosztem i w 30% opóźnieniem. Przy stałej kolejności faworyzującej Baseten ten dostawca obsłużył 98,5% zadań w pierwszym pełnym tygodniu. Firma podaje, że cenniki CoreWeave były około 45% niższe niż u Baseten, ale nie miała danych o wydajności, żeby go uwzględnić. Tak wygląda zakup mocy obliczeniowej: najtańsza opcja to często ta, której nikt nie zmierzył.
Źródła
7- 01Anthropic's IPO prospectus shows sweeping AI vision, surging costs: ReutersEN
- 02GPU Costs for LLM Inference: AWS vs GCP (2026)EN
- 03Cloud GPU Pricing - Cost Intelligence for H100, A100 & B200EN
- 04Sonnet 5.5 has the heaviest token use we've measured; pricing matches GPT-6 SolEN
- 05AI Token Cost Calculator 2026: 154 Models by TierEN
- 06RAG Inference Cost Calculator: Cost Per Token, Broken Down (2026)EN
- 07Routing LLM traffic across inference providers with TCP-style congestion controlEN
Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.
Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.
Komentarze
0- Brak komentarzy — bądź pierwszy.