跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

GPU价格上涨而云端标价下降:推理到底花多少钱

路透社9月28日报道的Anthropic招股书显示,公司未来云与算力义务达5180亿美元,而2025年净亏损为420亿美元。本周公布的价格数据说明,买家该仔细看的其实是后一个数字。

人工智能与模型解释王雅琴发布: 2026年9月29日3 分钟阅读资料来源 7
GPU价格上涨而云端标价下降:推理到底花多少钱

钱并不花在标价上。Meetrix对比了AWS和GCP,价格核查日期为9月28日:按需H100在AWS上每小时6.88美元,在GCP上为10.98美元。37%的差距确实存在。但它小于同一张卡在四分之一负载下运行带来的波动:GPU满负荷时每百万token 0.76美元,25%利用率时为3.06美元,依据是Meetrix设定的占位吞吐量每秒2500个token。

整件事一句话就能说清。闲置的芯片比选哪家供应商更贵。

GPUAdvisor追踪14家供应商,称数据最后更新于10月1日。它显示专业云商在老款卡上大幅低于超大规模云商:Hyperstack上的A4000每GPU小时0.15美元,Lium上的L40S为0.38美元,RTX 4090为0.40美元。该网站把这些标为跟踪估算值,并提醒买家到供应商页面确认价格,这很合理,因为同一页面显示RunPod上的RTX 4090为0.74美元。同一个型号,两个价格,差了近一倍。

token账单又是另一个数字

Artificial Analysis于9月29日发布对Anthropic Claude Sonnet 5.5的评测,发现该模型在智能指数上达到56,比最大努力模式下的Opus 5.5低两分,而每个任务约用193000个输出token。据该实验室称,这比Opus 5.5多约60%,约为最大努力模式下GPT-6 Astra的七倍。Anthropic保持价格不变,每百万输入token 2美元、每百万输出token 10美元,但每个任务的成本达到7.60美元,比Sonnet 5高约50%。

同一张价目表。不同的账单。问题出在token上。

AI Pricing Guru每天刷新价格,最后更新于10月1日。它给出的通用API可用区间是每百万输出token 0.50至15美元,输入通常便宜两到八倍,在供应商支持的情况下,缓存输入还能再降75%到90%。其计算器追踪10多家供应商的154个在用模型。

检索在生成开始之前就改变了账目。Spheron在9月29日发布成本拆解,指出标准RAG配置每次查询拉取五个500 token的片段,会增加2500个token的上下文。因此一个作为普通对话只需100到200个输入token的问题,在输入侧可能高出15到20倍。

Unblocked在9月29日介绍了自己的路由工作:在Baseten、Fireworks和CoreWeave之间调度GLM 5.2流量,评分权重为成本70%、延迟30%。在固定偏向Baseten的订单下,该供应商在第一个完整周承接了98.5%的任务。公司称CoreWeave的标价比Baseten低约45%,但它没有性能数据,无法将其纳入排序。采购的现状就是这样:最便宜的那家,往往没人测过。

评论 0

资料来源

7
  1. 01Anthropic's IPO prospectus shows sweeping AI vision, surging costs: ReutersEN
  2. 02GPU Costs for LLM Inference: AWS vs GCP (2026)EN
  3. 03Cloud GPU Pricing - Cost Intelligence for H100, A100 & B200EN
  4. 04Sonnet 5.5 has the heaviest token use we've measured; pricing matches GPT-6 SolEN
  5. 05AI Token Cost Calculator 2026: 154 Models by TierEN
  6. 06RAG Inference Cost Calculator: Cost Per Token, Broken Down (2026)EN
  7. 07Routing LLM traffic across inference providers with TCP-style congestion controlEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

王雅琴

王雅琴

人工智能、模型与技术

王雅琴负责FLASH24的人工智能、模型与技术报道,覆盖科技、人工智能与模型、媒体与互联网领域。她习惯直接查阅技术文档、模型卡与官方博客,而非依赖新闻稿,对未经核实的参数和跑分数据一概不放行。每篇报道前,她会逐项核对基准测试结果,对照论文原文与开源代码,确认版本号、数据集和评测条件是否一致。她常联系开发者与研究人员求证细节,也盯着各大厂商的发布会和论文截稿日期,横向比较同类模型的实际表现。私下她自建服务、折腾家庭网络,这让她对部署成本和真实算力需求有直观判断。她的原则是:没有可复现来源的数字,不写进稿子。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。