跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

重新核算后,DeepSeek推理收入为每GPU小时39.10美元,公司披露为38美元

11月9日发布的一份分析重新核算了DeepSeek披露的推理收入,得出每GPU小时约39.10美元,而公司10月20日给出的数字是38美元。两者差距很小。价格之所以这么低,是因为96%的输入token来自缓存命中。

人工智能与模型解释林晓雯发布: 2026年11月9日3 分钟阅读资料来源 18
重新核算后,DeepSeek推理收入为每GPU小时39.10美元,公司披露为38美元

DeepSeek公布了什么,复核发现了什么

DeepSeek于2026年10月20日公开了其推理框架DeepInfer的一部分。

比较各家API每token价格时,人们其实也在比较各家复用缓存上下文的能力,而不只是GPU跑得多快。如果负载是大量简短、不重复的提示词,定价会与DeepSeek的平均请求相差很远。公司称,一个集群每天处理155万亿个token。

Yukio Takagi的分析于11月9日发布。他用披露的吞吐量和公开价目表重建了那38美元:一个prefill GPU加一个decode GPU每小时合计带来78.19美元收入,平均每个39.10美元。这算不上独立验证,因为两个数字都建立在DeepSeek自己的测量之上。

让这个价格成立的是缓存

非高峰时段,缓存输入每百万token收费0.003美元。未命中缓存的输入是0.15美元,贵了五十倍;输出则是0.60美元。

平均每个请求带有77000个输入token。处理过的token里大约95%是缓存输入,它们只贡献约20%的收入;未命中缓存的输入和输出带来约80%。一个简短的问题能复用的输入很少,同样的GPU处理这类流量时每小时赚到的钱会更少。

缓存命中还改变了吞吐量。计入命中时,一个prefill GPU每秒处理150万个token;不计入时只有6万个,相差25倍。DeepSeek把缓存放在约100 PiB的SSD上,agent负载保留三天,聊天保留七天。

利润率没有算进去的部分

DeepSeek没有公布自己为GPU付了多少钱,所以任何利润率都取决于一个假设。按每GPU小时2美元计算,也就是DeepSeek在2025年2月一次测算中用的数字,GPU时间的毛利率约为95%。按7美元计算,这个价格引自Yuchen Jin在X上的一篇帖子,毛利率约为82%。

这项计算同样没有计入缓存存储、节点间带宽、研究和人员成本。

背后更大的价格崩塌

Epoch AI估计,自2023年以来,固定AI性能水平的价格每季度下降约47%,一年大约下降13倍。

DeepSeek在2025年2月公布V3和R1数据时,缓存命中率约为56%。目前的命中率可能来自不同的模型和不同的测量方式。

Together称,其Compiler在DeepSeek v4.1-Flash上达到每秒1205个token,属于前沿开源模型在不到24小时内整体提升2.6倍的一部分。Red Hat的Edoardo Vacchi表示,普通的Kubernetes负载均衡器会破坏LLM的效率,因为它们忽略缓存的对话上下文。

评论 0

资料来源

18
  1. 01Reading DeepSeek's Inference through Resource Allocation and Pricing Systems: A Verification of DisclosuresEN
  2. 02Together Compiler: Continual Compilation for AI InferenceEN
  3. 03Podcast: Distributed LLM Inference on Kubernetes with llm-d, Wasm, & TornadoVMEN
  4. 04AI Model Cost Statistics: Training, Inference and Token PricingEN
  5. 05Musk's Starlink Embraces 'Dynamic Pricing,' Further Jacking Up CostsEN
  6. 06GPU Infrastructure: Cloud Costs and Scaling for AIEN
  7. 07Can Optical AI Cut Data Center Inference Power Use?EN
  8. 08Green Hydrogen: India’s Big Ambitions, Costly RealitiesEN
  9. 09Anthropic's FlashProve proves which model wrote a reply, and its 72x costEN
  10. 10AWS Adds NVIDIA GPU Partitioning to SageMaker Inference EndpointsEN
  11. 11Gemini Omni 1.2 Flash: Fast and cost-effective with longer clipsEN
  12. 12E2E Networks Launches Blaze to Offer Pay-Per-Token AI Inference ServicesEN
  13. 13VMO2 to axe 30% staff costs, halt fiber build in £800M savings planEN
  14. 14Optimizing Reference Deletions in GitEN
  15. 15Launch HN: Rivet (YC W23) – Scale and Orchestrate Agents on S3EN
  16. 16Launch HN: Momentic (YC W24) – Agents that catch bugs by using your appEN
  17. 17Rivian, Ford and GM are using 3D printing to reduce costsEN
  18. 18Here's how much Trump's Iran war has added to Americans' fuel costsEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。