重新核算后,DeepSeek推理收入为每GPU小时39.10美元,公司披露为38美元
11月9日发布的一份分析重新核算了DeepSeek披露的推理收入,得出每GPU小时约39.10美元,而公司10月20日给出的数字是38美元。两者差距很小。价格之所以这么低,是因为96%的输入token来自缓存命中。

DeepSeek公布了什么,复核发现了什么
DeepSeek于2026年10月20日公开了其推理框架DeepInfer的一部分。
比较各家API每token价格时,人们其实也在比较各家复用缓存上下文的能力,而不只是GPU跑得多快。如果负载是大量简短、不重复的提示词,定价会与DeepSeek的平均请求相差很远。公司称,一个集群每天处理155万亿个token。
Yukio Takagi的分析于11月9日发布。他用披露的吞吐量和公开价目表重建了那38美元:一个prefill GPU加一个decode GPU每小时合计带来78.19美元收入,平均每个39.10美元。这算不上独立验证,因为两个数字都建立在DeepSeek自己的测量之上。
让这个价格成立的是缓存
非高峰时段,缓存输入每百万token收费0.003美元。未命中缓存的输入是0.15美元,贵了五十倍;输出则是0.60美元。
平均每个请求带有77000个输入token。处理过的token里大约95%是缓存输入,它们只贡献约20%的收入;未命中缓存的输入和输出带来约80%。一个简短的问题能复用的输入很少,同样的GPU处理这类流量时每小时赚到的钱会更少。
缓存命中还改变了吞吐量。计入命中时,一个prefill GPU每秒处理150万个token;不计入时只有6万个,相差25倍。DeepSeek把缓存放在约100 PiB的SSD上,agent负载保留三天,聊天保留七天。
利润率没有算进去的部分
DeepSeek没有公布自己为GPU付了多少钱,所以任何利润率都取决于一个假设。按每GPU小时2美元计算,也就是DeepSeek在2025年2月一次测算中用的数字,GPU时间的毛利率约为95%。按7美元计算,这个价格引自Yuchen Jin在X上的一篇帖子,毛利率约为82%。
这项计算同样没有计入缓存存储、节点间带宽、研究和人员成本。
背后更大的价格崩塌
Epoch AI估计,自2023年以来,固定AI性能水平的价格每季度下降约47%,一年大约下降13倍。
DeepSeek在2025年2月公布V3和R1数据时,缓存命中率约为56%。目前的命中率可能来自不同的模型和不同的测量方式。
Together称,其Compiler在DeepSeek v4.1-Flash上达到每秒1205个token,属于前沿开源模型在不到24小时内整体提升2.6倍的一部分。Red Hat的Edoardo Vacchi表示,普通的Kubernetes负载均衡器会破坏LLM的效率,因为它们忽略缓存的对话上下文。
资料来源
18- 01Reading DeepSeek's Inference through Resource Allocation and Pricing Systems: A Verification of DisclosuresEN
- 02Together Compiler: Continual Compilation for AI InferenceEN
- 03Podcast: Distributed LLM Inference on Kubernetes with llm-d, Wasm, & TornadoVMEN
- 04AI Model Cost Statistics: Training, Inference and Token PricingEN
- 05Musk's Starlink Embraces 'Dynamic Pricing,' Further Jacking Up CostsEN
- 06GPU Infrastructure: Cloud Costs and Scaling for AIEN
- 07Can Optical AI Cut Data Center Inference Power Use?EN
- 08Green Hydrogen: India’s Big Ambitions, Costly RealitiesEN
- 09Anthropic's FlashProve proves which model wrote a reply, and its 72x costEN
- 10AWS Adds NVIDIA GPU Partitioning to SageMaker Inference EndpointsEN
- 11Gemini Omni 1.2 Flash: Fast and cost-effective with longer clipsEN
- 12E2E Networks Launches Blaze to Offer Pay-Per-Token AI Inference ServicesEN
- 13VMO2 to axe 30% staff costs, halt fiber build in £800M savings planEN
- 14Optimizing Reference Deletions in GitEN
- 15Launch HN: Rivet (YC W23) – Scale and Orchestrate Agents on S3EN
- 16Launch HN: Momentic (YC W24) – Agents that catch bugs by using your appEN
- 17Rivian, Ford and GM are using 3D printing to reduce costsEN
- 18Here's how much Trump's Iran war has added to Americans' fuel costsEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。