GPU价格上涨而云端标价下降:推理到底花多少钱
路透社9月28日报道的Anthropic招股书显示,公司未来云与算力义务达5180亿美元,而2025年净亏损为420亿美元。本周公布的价格数据说明,买家该仔细看的其实是后一个数字。

钱并不花在标价上。Meetrix对比了AWS和GCP,价格核查日期为9月28日:按需H100在AWS上每小时6.88美元,在GCP上为10.98美元。37%的差距确实存在。但它小于同一张卡在四分之一负载下运行带来的波动:GPU满负荷时每百万token 0.76美元,25%利用率时为3.06美元,依据是Meetrix设定的占位吞吐量每秒2500个token。
整件事一句话就能说清。闲置的芯片比选哪家供应商更贵。
GPUAdvisor追踪14家供应商,称数据最后更新于10月1日。它显示专业云商在老款卡上大幅低于超大规模云商:Hyperstack上的A4000每GPU小时0.15美元,Lium上的L40S为0.38美元,RTX 4090为0.40美元。该网站把这些标为跟踪估算值,并提醒买家到供应商页面确认价格,这很合理,因为同一页面显示RunPod上的RTX 4090为0.74美元。同一个型号,两个价格,差了近一倍。
token账单又是另一个数字
Artificial Analysis于9月29日发布对Anthropic Claude Sonnet 5.5的评测,发现该模型在智能指数上达到56,比最大努力模式下的Opus 5.5低两分,而每个任务约用193000个输出token。据该实验室称,这比Opus 5.5多约60%,约为最大努力模式下GPT-6 Astra的七倍。Anthropic保持价格不变,每百万输入token 2美元、每百万输出token 10美元,但每个任务的成本达到7.60美元,比Sonnet 5高约50%。
同一张价目表。不同的账单。问题出在token上。
AI Pricing Guru每天刷新价格,最后更新于10月1日。它给出的通用API可用区间是每百万输出token 0.50至15美元,输入通常便宜两到八倍,在供应商支持的情况下,缓存输入还能再降75%到90%。其计算器追踪10多家供应商的154个在用模型。
检索在生成开始之前就改变了账目。Spheron在9月29日发布成本拆解,指出标准RAG配置每次查询拉取五个500 token的片段,会增加2500个token的上下文。因此一个作为普通对话只需100到200个输入token的问题,在输入侧可能高出15到20倍。
Unblocked在9月29日介绍了自己的路由工作:在Baseten、Fireworks和CoreWeave之间调度GLM 5.2流量,评分权重为成本70%、延迟30%。在固定偏向Baseten的订单下,该供应商在第一个完整周承接了98.5%的任务。公司称CoreWeave的标价比Baseten低约45%,但它没有性能数据,无法将其纳入排序。采购的现状就是这样:最便宜的那家,往往没人测过。
资料来源
7- 01Anthropic's IPO prospectus shows sweeping AI vision, surging costs: ReutersEN
- 02GPU Costs for LLM Inference: AWS vs GCP (2026)EN
- 03Cloud GPU Pricing - Cost Intelligence for H100, A100 & B200EN
- 04Sonnet 5.5 has the heaviest token use we've measured; pricing matches GPT-6 SolEN
- 05AI Token Cost Calculator 2026: 154 Models by TierEN
- 06RAG Inference Cost Calculator: Cost Per Token, Broken Down (2026)EN
- 07Routing LLM traffic across inference providers with TCP-style congestion controlEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。