跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

AWS 的 H100 更便宜,但利用率才决定你的推理账单

据 9 月 28 日核对的价格,AWS 的 H100 每小时 6.88 美元,谷歌云为 10.98 美元,相差 37%。但 GPU 满载与空转之间四倍的差距,比这点价差重要得多。

人工智能与模型解释林晓雯发布: 2026年9月29日5 分钟阅读资料来源 6
AWS 的 H100 更便宜,但利用率才决定你的推理账单

据 9 月 28 日核对的价格,AWS 的 H100 每小时 6.88 美元,谷歌云为 10.98 美元,相差 37%。但 GPU 满载与空转之间四倍的差距,比这点价差重要得多。

这组对比来自 meetrix.io。该网站称,它在 9 月 28 日核对了 AWS 美国东部区域和谷歌云 us-central1 区域的按需标价。同一页面明确写道,无论在哪家云上,25% 利用率下每 token 的成本都是满载时的四倍。作者还提醒,算例中每秒 token 数只是占位假设,并非实测基准。

价格表,以及谁最便宜

Meetrix 的结论是,按需价格下 AWS 的每块 H100 比谷歌云便宜约 37%,每块 A100 便宜 25%。谷歌唯一占优的是小卡 L4。g2-standard-4 每小时约 0.70 美元,AWS 的 g6.xlarge 为 0.805 美元,文章自己说这点差距大约是每月 75 美元。

A100 那一行藏着陷阱。AWS 只按八卡规格出售 A100:p4d.24xlarge 配 40GB 卡,p4de.24xlarge 配 80GB 卡。前者每 GPU 小时 2.75 美元,后者整节点 21.96 美元。如果你只需要一块 A100,谷歌的 a2-highgpu-1g 每小时 3.67 美元才是现实选择,尽管它单卡更贵。

在数据来源上,meetrix 少见地坦白。它说 AWS 的数字取自 Vantage 的 EC2 追踪器,更新于 2026 年 9 月 28 日。谷歌自家的 GPU 定价页在客户端渲染表格,无法用程序读取。因此 GCP 的数字来自价格追踪网站发布的数据。其中三家对 a3-highgpu-8g 的报价一致,都是 87.83 美元,第四家列出 88.49 美元。分歧不大,但确实是分歧,知道自己的预算落在哪一侧有价值。

利用率比货比三家更重要

meetrix 文章的算术以单块 H100 每秒 2500 个输出 token 为基础。作者标明这是假设,不是实测。满载时,AWS 折合每百万 token 0.76 美元,GCP 为 1.22 美元。50% 负载下变为 1.53 美元和 2.44 美元。25% 负载下则是 3.06 美元和 4.88 美元。

文章建议,要竖着读一列,不要横着读一行。

这个建议是对的。换一家云,同样的 H100 省下 37%。让卡在四分之三的时间里空转,成本翻四倍。前者是采购决策,后者是调度决策,只有后者会天天复利。

GPUAdvisor 称它追踪 14 家供应商,最近一次每日检查在 2026 年 10 月 1 日。它的列表显示了货比三家的逻辑会走到哪里。Lium 的 L40S 每 GPU 小时 0.38 美元,标注为比 AWS 低 89%。Thunder Compute 的 RTX A6000 为 0.35 美元,Hyperstack 的 A4000 为 0.15 美元。同一页面指出,专做 GPU 的云商单卡价格比大型云厂商低两到四倍,并注明价格是近似值,因区域而异。专业云商卖的并不是同一种产品,但这个价差也不是噪声。

承诺折扣也会改变数字,而且方向不一。Meetrix 报告称,AWS 三年期预留可省 54% 到 57%,但提醒 GPU 贬值很快。GPUAdvisor 给出的常开推理端点一年期承诺折扣为 35% 到 40%。它还说 GCP Spot 的 A100 和 H100 实例最高可省 70%。Meetrix 补充,AWS 的 Spot 目前对 H100 和 A10G 便宜 53% 到 62%,但 L40S 只便宜 1%。

反着走的那款容量产品

并非所有价格都在下降。Meetrix 引用 The Register 的报道称,2026 年 1 月 EC2 Capacity Blocks for ML 涨价约 15%。p5e 从每小时 34.61 美元涨到 39.80 美元。Meetrix 指出,这与对比表里的按需价格是两种不同产品。团队在规划会上只报一个 GPU 单价时,丢掉的恰恰是这类区分。

这一切的背景是一场远超 GPU 范围的供应紧缩。Yahoo Finance 在 9 月 30 日报道,援引彭博社消息称,苹果新任 CEO John Ternus 计划小规模裁员并取消部分项目,原因是内存成本上涨。文章引用前 CEO Tim Cook 在最后一次财报电话会上说的话,称内存定价正遭遇百年一遇的洪水。文章还提到,SK 海力士、三星和美光的高端 AI 内存产能在 2026 年大部分时间里基本售罄。同一批买家在同时争抢算力和内存。

路透社看到的 Anthropic IPO 招股书在 9 月 29 日被报道,给这种胃口标上了数字。文件显示,2025 年公司在算力和基础设施上花了 73.3 亿美元,比 2024 年增长两倍。这占 126.5 亿美元总运营开支的一半以上,而未来数年计划中的云、计算和基础设施义务高达 5180 亿美元。这只是一个买家的远期承诺,却已超过多数云厂商一年的 GPU 收入。

与此同时,软件侧还在把账单吹大。Artificial Analysis 在 9 月 29 日报道,Claude Sonnet 5.5 在最高强度下完成一项 Intelligence Index 任务约用 193000 个输出 token。它说这是其测得的最重 token 消耗,约为最高强度下 GPT-6 Astra 的 7 倍。Anthropic 给它的定价与 Sonnet 5 相同,每百万输入/输出 token 为 2 美元和 10 美元。所以成本落在 token 数量上,而不是价目表上,Artificial Analysis 算出每项任务 7.60 美元,比 Sonnet 5 高约 50%。

路由是另一个杠杆,而且正在自动化。Unblocked 在 9 月 29 日介绍了一个自适应路由器,按成本和速度给供应商打分,权重分别为 0.7 和 0.3,某家变差时就把流量移走。在此之前,轮询把 51% 的 GLM 5.2 任务发给了 Fireworks,而后者价格比 Baseten 高 25%。改为固定顺序后,Baseten 承接了 98.5%。该公司称,第三家供应商 CoreWeave 的标价比 Baseten 低约 45%,但它没有性能数据,无法为其排位。

这些都不说明 AWS 与 GCP 之问是错的。它只是第二个问题。先量利用率,再争每小时单价。

评论 0

资料来源

6
  1. 01GPU Costs for LLM Inference: AWS vs GCP (2026)EN
  2. 02Cloud GPU Pricing — Cost Intelligence for H100, A100 & B200EN
  3. 03New Apple CEO John Ternus is reportedly planning layoffs as memory chip costs riseEN
  4. 04Anthropic's IPO prospectus shows sweeping AI vision, surging costs: ReutersEN
  5. 05Sonnet 5.5 has the heaviest token use we've measured; pricing matches GPT-6 SolEN
  6. 06Routing LLM traffic across inference providers with TCP-style congestion controlEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。