Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

Il ricalcolo porta i ricavi dell'inferenza di DeepSeek a 39,10 dollari per GPU-ora contro i 38 dichiarati

Un'analisi pubblicata il 9 novembre ricalcola i ricavi dichiarati da DeepSeek per l'inferenza a circa 39,10 dollari per GPU-ora, contro i 38 che l'azienda aveva comunicato il 20 ottobre. La differenza è piccola, e il prezzo così basso dipende dal fatto che il 96% dei token di input sono cache hit.

IA e modelliSpiegatoGiulia FerrariPubblicato: 9 novembre 20263 min di letturaFonti 18
Il ricalcolo porta i ricavi dell'inferenza di DeepSeek a 39,10 dollari per GPU-ora contro i 38 dichiarati

Cosa ha pubblicato DeepSeek e cosa ha rilevato la verifica

DeepSeek ha pubblicato una parte di DeepInfer, il suo framework di inferenza, il 20 ottobre 2026.

Chi confronta i prezzi API per token confronta in parte anche quanto bene ogni fornitore riutilizza il contesto in cache, non solo la velocità delle sue GPU. Un carico di prompt brevi e non ripetuti avrebbe un prezzo molto diverso dalla richiesta media di DeepSeek. L'azienda dice che un solo cluster elabora 155.000.000.000.000 di token al giorno.

L'analisi di Yukio Takagi, pubblicata il 9 novembre, ricostruisce quei 38 dollari partendo dal throughput dichiarato e dal listino pubblico. Una GPU per il prefill e una per il decode insieme generano 78,19 dollari l'ora, cioè 39,10 ciascuna. Non è una conferma indipendente: entrambi i numeri si basano sulle misurazioni fornite da DeepSeek stessa.

È la cache a rendere sostenibile il prezzo

L'input in cache costa 0,003 dollari per milione di token fuori dalle ore di punta. L'input non in cache costa 0,15 dollari, cinquanta volte tanto, e l'output costa 0,60 dollari.

La richiesta media porta con sé 77.000 token di input. Circa il 95% dei token elaborati è input in cache. Questi producono solo circa il 20% dei ricavi, mentre l'input non in cache e l'output ne portano circa l'80%. Una singola domanda breve riutilizza poco del proprio input, quindi la stessa GPU guadagnerebbe meno all'ora su quel traffico.

I cache hit cambiano anche il throughput. Una GPU per il prefill gestisce 1.500.000 token al secondo contando i cache hit e 60.000 senza, una differenza di 25 volte. DeepSeek tiene la cache su circa 100 PiB di SSD, per tre giorni sui carichi degli agenti e per sette giorni sulle chat.

Cosa resta fuori dal margine

DeepSeek non pubblica quanto paga le GPU. Qualsiasi margine dipende quindi da un'ipotesi. A 2 dollari per GPU-ora, la cifra usata da DeepSeek in un calcolo del febbraio 2025, il margine lordo sul tempo GPU è di circa il 95%. A 7 dollari, tariffa citata da un post di Yuchen Jin su X, è di circa l'82%.

Il calcolo lascia fuori anche lo spazio di archiviazione per la cache, la banda tra i nodi, la ricerca e i costi del personale.

Il crollo dei prezzi che sta dietro a tutto questo

Epoch AI stima che il prezzo di un livello fisso di prestazioni AI sia calato di circa il 47% a trimestre dal 2023. Vuol dire circa 13 volte l'anno.

Il tasso di cache hit di DeepSeek era intorno al 56% quando l'azienda ha pubblicato i dati di V3 e R1 nel febbraio 2025. Il valore attuale potrebbe riflettere un modello e una misurazione diversi.

Together dice che il suo Compiler ha raggiunto 1.205 token al secondo su DeepSeek v4.1-Flash, parte di un guadagno di 2,6 volte sui modelli aperti di frontiera in meno di 24 ore. Edoardo Vacchi di Red Hat afferma che i normali load balancer Kubernetes rompono l'efficienza degli LLM perché ignorano il contesto conversazionale in cache.

Commenti 0

Fonti

18
  1. 01Reading DeepSeek's Inference through Resource Allocation and Pricing Systems: A Verification of DisclosuresEN
  2. 02Together Compiler: Continual Compilation for AI InferenceEN
  3. 03Podcast: Distributed LLM Inference on Kubernetes with llm-d, Wasm, & TornadoVMEN
  4. 04AI Model Cost Statistics: Training, Inference and Token PricingEN
  5. 05Musk's Starlink Embraces 'Dynamic Pricing,' Further Jacking Up CostsEN
  6. 06GPU Infrastructure: Cloud Costs and Scaling for AIEN
  7. 07Can Optical AI Cut Data Center Inference Power Use?EN
  8. 08Green Hydrogen: India’s Big Ambitions, Costly RealitiesEN
  9. 09Anthropic's FlashProve proves which model wrote a reply, and its 72x costEN
  10. 10AWS Adds NVIDIA GPU Partitioning to SageMaker Inference EndpointsEN
  11. 11Gemini Omni 1.2 Flash: Fast and cost-effective with longer clipsEN
  12. 12E2E Networks Launches Blaze to Offer Pay-Per-Token AI Inference ServicesEN
  13. 13VMO2 to axe 30% staff costs, halt fiber build in £800M savings planEN
  14. 14Optimizing Reference Deletions in GitEN
  15. 15Launch HN: Rivet (YC W23) – Scale and Orchestrate Agents on S3EN
  16. 16Launch HN: Momentic (YC W24) – Agents that catch bugs by using your appEN
  17. 17Rivian, Ford and GM are using 3D printing to reduce costsEN
  18. 18Here's how much Trump's Iran war has added to Americans' fuel costsEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Giulia Ferrari

Giulia Ferrari

IA, modelli e tecnologie

Giulia Ferrari scrive di tecnologia, IA e modelli e media e internet per FLASH24, partendo da dataset pubblici, preprint e registri di versioni dei modelli. Controlla ogni numero confrontando benchmark dichiarati e risultati riproducibili, e scarta le stime senza fonte. Segue le audizioni in calendario, parla con ricercatori e ingegneri, e mette a confronto release e changelog prima di pubblicare. Fuori dalla redazione smonta stampanti 3D, recupera vecchi computer e studia come i modelli imparano dai rifiuti del web. Non pubblica un dato se non può ricostruirne il percorso.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.