Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Przeliczenie podnosi przychód DeepSeeka z wnioskowania do 39,10 dol. za godzinę GPU

Analiza opublikowana 9 listopada przelicza ujawniony przez DeepSeeka przychód z wnioskowania na około 39,10 dol. za godzinę GPU. Firma podała 38 dol. 20 października. Różnica jest mała, a cena bierze się stąd, że 96% tokenów wejściowych trafia w pamięć podręczną.

AI i modeleWyjaśnienieAnna KaczmarekOpublikowano: 9 listopada 20263 min czytaniaŹródła 18
Przeliczenie podnosi przychód DeepSeeka z wnioskowania do 39,10 dol. za godzinę GPU

Co DeepSeek opublikował i co wyszło z kontroli

DeepSeek opublikował 20 października 2026 r. część DeepInfer, swojego frameworka do wnioskowania.

Kto porównuje ceny API za token, ten porównuje po części to, jak dobrze każdy dostawca wykorzystuje kontekst z pamięci podręcznej, a nie tylko to, jak szybko pracują jego GPU. Obciążenie krótkimi, niepowtarzającymi się promptami wyceniono by zupełnie inaczej niż średnie zapytanie do DeepSeeka. Firma twierdzi, że jeden klaster przetwarza 155 bln tokenów dziennie.

Analiza Yukio Takagiego z 9 listopada odtwarza te 38 dol. z ujawnionej przepustowości i publicznego cennika. Jeden GPU liczący prefill i drugi liczący dekodowanie przynoszą razem 78,19 dol. na godzinę, czyli po 39,10 dol. To nie jest niezależne potwierdzenie: obie liczby opierają się na pomiarach samego DeepSeeka.

To pamięć podręczna sprawia, że cena się spina

Wejście z pamięci podręcznej kosztuje 0,003 dol. za milion tokenów poza godzinami szczytu. Wejście bez trafienia w pamięć kosztuje 0,15 dol., pięćdziesiąt razy więcej, a wyjście 0,60 dol.

Średnie zapytanie niesie 77 000 tokenów wejściowych. Około 95% przetwarzanych tokenów to wejście z pamięci podręcznej. Daje ono tylko około 20% przychodu, a wejście bez trafienia i wyjście przynoszą około 80%. Pojedyncze krótkie pytanie w niewielkiej części korzysta z własnego wejścia, więc ten sam GPU zarobiłby na takim ruchu mniej na godzinę.

Trafienia w pamięć zmieniają też przepustowość. GPU liczący prefill przerabia 1,5 mln tokenów na sekundę, gdy trafienia są liczone, i 60 000 bez nich. Różnica wynosi 25 razy. DeepSeek trzyma pamięć podręczną na około 100 PiB dysków SSD, przez trzy dni dla obciążeń agentowych i siedem dni dla czatu.

Czego marża nie obejmuje

DeepSeek nie ujawnia, ile płaci za GPU. Każda marża zależy więc od założenia. Przy 2 dol. za godzinę GPU, czyli stawce, której DeepSeek użył w rachunku z lutego 2025 r., marża brutto na czasie GPU wynosi około 95%. Przy 7 dol., stawce cytowanej z wpisu Yuchen Jina na X, to około 82%.

Rachunek pomija też koszt przechowywania pamięci podręcznej, przepustowość między węzłami oraz koszty badań i personelu.

Szerszy spadek cen w tle

Epoch AI szacuje, że cena stałego poziomu wydajności AI spada o około 47% na kwartał od 2023 r. To mniej więcej 13 razy w roku.

Gdy DeepSeek publikował dane V3 i R1 w lutym 2025 r., jego wskaźnik trafień w pamięć podręczną wynosił około 56%. Obecny poziom może dotyczyć innego modelu i innego pomiaru.

Together podaje, że jego Compiler osiągnął 1 205 tokenów na sekundę na DeepSeek v4.1-Flash, co jest częścią 2,6-krotnego wzrostu wśród czołowych modeli z otwartymi wagami w ciągu niespełna 24 godzin. Edoardo Vacchi z Red Hat twierdzi, że zwykłe balansery obciążenia w Kubernetesie psują wydajność LLM, bo ignorują kontekst rozmowy z pamięci podręcznej.

Komentarze 0

Źródła

18
  1. 01Reading DeepSeek's Inference through Resource Allocation and Pricing Systems: A Verification of DisclosuresEN
  2. 02Together Compiler: Continual Compilation for AI InferenceEN
  3. 03Podcast: Distributed LLM Inference on Kubernetes with llm-d, Wasm, & TornadoVMEN
  4. 04AI Model Cost Statistics: Training, Inference and Token PricingEN
  5. 05Musk's Starlink Embraces 'Dynamic Pricing,' Further Jacking Up CostsEN
  6. 06GPU Infrastructure: Cloud Costs and Scaling for AIEN
  7. 07Can Optical AI Cut Data Center Inference Power Use?EN
  8. 08Green Hydrogen: India’s Big Ambitions, Costly RealitiesEN
  9. 09Anthropic's FlashProve proves which model wrote a reply, and its 72x costEN
  10. 10AWS Adds NVIDIA GPU Partitioning to SageMaker Inference EndpointsEN
  11. 11Gemini Omni 1.2 Flash: Fast and cost-effective with longer clipsEN
  12. 12E2E Networks Launches Blaze to Offer Pay-Per-Token AI Inference ServicesEN
  13. 13VMO2 to axe 30% staff costs, halt fiber build in £800M savings planEN
  14. 14Optimizing Reference Deletions in GitEN
  15. 15Launch HN: Rivet (YC W23) – Scale and Orchestrate Agents on S3EN
  16. 16Launch HN: Momentic (YC W24) – Agents that catch bugs by using your appEN
  17. 17Rivian, Ford and GM are using 3D printing to reduce costsEN
  18. 18Here's how much Trump's Iran war has added to Americans' fuel costsEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Anna Kaczmarek

Anna Kaczmarek

AI, modele i technologie

Anna Kaczmarek pisze o technologiach, AI i modelach oraz mediach i internecie, opierając się na dokumentacji, repozytoriach i danych źródłowych, a nie na komunikatach prasowych. Przy testach modeli sprawdza karty techniczne, parametry wejściowe i liczy wyniki na tych samych zbiorach, zamiast powtarzać liczby od producentów. Czeka na premiery API i aktualizacje wag, rozmawia z inżynierami oraz porównuje wersje modeli pod kątem kosztów i opóźnień. Prywatnie self-hostuje usługi i konfiguruje sieci domowe, więc do redakcji wnosi praktykę z własnego serwera. Nie publikuje zapowiedzi ani parametrów, których nie może odtworzyć na własnym środowisku.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.