Il ricalcolo porta i ricavi dell'inferenza di DeepSeek a 39,10 dollari per GPU-ora contro i 38 dichiarati
Un'analisi pubblicata il 9 novembre ricalcola i ricavi dichiarati da DeepSeek per l'inferenza a circa 39,10 dollari per GPU-ora, contro i 38 che l'azienda aveva comunicato il 20 ottobre. La differenza è piccola, e il prezzo così basso dipende dal fatto che il 96% dei token di input sono cache hit.

Cosa ha pubblicato DeepSeek e cosa ha rilevato la verifica
DeepSeek ha pubblicato una parte di DeepInfer, il suo framework di inferenza, il 20 ottobre 2026.
Chi confronta i prezzi API per token confronta in parte anche quanto bene ogni fornitore riutilizza il contesto in cache, non solo la velocità delle sue GPU. Un carico di prompt brevi e non ripetuti avrebbe un prezzo molto diverso dalla richiesta media di DeepSeek. L'azienda dice che un solo cluster elabora 155.000.000.000.000 di token al giorno.
L'analisi di Yukio Takagi, pubblicata il 9 novembre, ricostruisce quei 38 dollari partendo dal throughput dichiarato e dal listino pubblico. Una GPU per il prefill e una per il decode insieme generano 78,19 dollari l'ora, cioè 39,10 ciascuna. Non è una conferma indipendente: entrambi i numeri si basano sulle misurazioni fornite da DeepSeek stessa.
È la cache a rendere sostenibile il prezzo
L'input in cache costa 0,003 dollari per milione di token fuori dalle ore di punta. L'input non in cache costa 0,15 dollari, cinquanta volte tanto, e l'output costa 0,60 dollari.
La richiesta media porta con sé 77.000 token di input. Circa il 95% dei token elaborati è input in cache. Questi producono solo circa il 20% dei ricavi, mentre l'input non in cache e l'output ne portano circa l'80%. Una singola domanda breve riutilizza poco del proprio input, quindi la stessa GPU guadagnerebbe meno all'ora su quel traffico.
I cache hit cambiano anche il throughput. Una GPU per il prefill gestisce 1.500.000 token al secondo contando i cache hit e 60.000 senza, una differenza di 25 volte. DeepSeek tiene la cache su circa 100 PiB di SSD, per tre giorni sui carichi degli agenti e per sette giorni sulle chat.
Cosa resta fuori dal margine
DeepSeek non pubblica quanto paga le GPU. Qualsiasi margine dipende quindi da un'ipotesi. A 2 dollari per GPU-ora, la cifra usata da DeepSeek in un calcolo del febbraio 2025, il margine lordo sul tempo GPU è di circa il 95%. A 7 dollari, tariffa citata da un post di Yuchen Jin su X, è di circa l'82%.
Il calcolo lascia fuori anche lo spazio di archiviazione per la cache, la banda tra i nodi, la ricerca e i costi del personale.
Il crollo dei prezzi che sta dietro a tutto questo
Epoch AI stima che il prezzo di un livello fisso di prestazioni AI sia calato di circa il 47% a trimestre dal 2023. Vuol dire circa 13 volte l'anno.
Il tasso di cache hit di DeepSeek era intorno al 56% quando l'azienda ha pubblicato i dati di V3 e R1 nel febbraio 2025. Il valore attuale potrebbe riflettere un modello e una misurazione diversi.
Together dice che il suo Compiler ha raggiunto 1.205 token al secondo su DeepSeek v4.1-Flash, parte di un guadagno di 2,6 volte sui modelli aperti di frontiera in meno di 24 ore. Edoardo Vacchi di Red Hat afferma che i normali load balancer Kubernetes rompono l'efficienza degli LLM perché ignorano il contesto conversazionale in cache.
Fonti
18- 01Reading DeepSeek's Inference through Resource Allocation and Pricing Systems: A Verification of DisclosuresEN
- 02Together Compiler: Continual Compilation for AI InferenceEN
- 03Podcast: Distributed LLM Inference on Kubernetes with llm-d, Wasm, & TornadoVMEN
- 04AI Model Cost Statistics: Training, Inference and Token PricingEN
- 05Musk's Starlink Embraces 'Dynamic Pricing,' Further Jacking Up CostsEN
- 06GPU Infrastructure: Cloud Costs and Scaling for AIEN
- 07Can Optical AI Cut Data Center Inference Power Use?EN
- 08Green Hydrogen: India’s Big Ambitions, Costly RealitiesEN
- 09Anthropic's FlashProve proves which model wrote a reply, and its 72x costEN
- 10AWS Adds NVIDIA GPU Partitioning to SageMaker Inference EndpointsEN
- 11Gemini Omni 1.2 Flash: Fast and cost-effective with longer clipsEN
- 12E2E Networks Launches Blaze to Offer Pay-Per-Token AI Inference ServicesEN
- 13VMO2 to axe 30% staff costs, halt fiber build in £800M savings planEN
- 14Optimizing Reference Deletions in GitEN
- 15Launch HN: Rivet (YC W23) – Scale and Orchestrate Agents on S3EN
- 16Launch HN: Momentic (YC W24) – Agents that catch bugs by using your appEN
- 17Rivian, Ford and GM are using 3D printing to reduce costsEN
- 18Here's how much Trump's Iran war has added to Americans' fuel costsEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.