AWS 开卖优先算力:租哪张卡,决定 GPU 托管赚不赚钱
11 月 3 日,亚马逊 Bedrock 价目表上出现了比标准价贵 75% 的优先档和便宜 50% 的弹性档。AWS 表示,2027 年的容量基本已经售罄。

AWS 卖优先通道,2027 年容量已售罄
Jassy 在 10 月 23 日说,AWS 2027 年的容量大部分已经卖出,2028 年的一部分也没了。11 月 3 日更新的 Bedrock 价目表,卖的就是这种紧缺。
优先档比标准价贵 75%。弹性档便宜 50%,部分模型的批量档是半价。靠这几档,AWS 把同一个模型卖给两类人:一类要保证速度,一类可以等。原因是需求。亚马逊财报显示,AWS 第三季度同比增长 39.3%,这是连续第六个季度加速,也是近五年来最快的增速。亚马逊为 2026 年计划了约 2200 亿美元的资本开支。10 月 30 日它说,大约每 14 秒就装上一块 AI 加速卡。
AWS 留了一部分容量给按需使用、EC2 和 Bedrock 推理。这部分留多少,它没有说。现在,价目表是外界判断容量有多紧的最清楚的公开信号。
租哪张卡,决定托管能不能赚钱
11 月 3 日发表的一份分析发现,H200 卡即便满负荷也在亏钱。B300 卡利用率到 35% 就开始赚钱。一个 8 张 B300 的节点,利用率在 50% 到 70% 时,毛利率落在 31% 到 51% 之间。这份分析认为,租哪张卡比跑哪个推理引擎更重要。OpenRouter 上列着 29 家供应商在卖 DeepSeek V4.1 Flash。最便宜的输入价是每百万 token 0.056 美元,多数供应商约 0.30 美元。怎么算都低于成本。仅这一个模型,在 10 月 19 日到 25 日那一周就占了 OpenRouter 全部 token 的约 30%。
买方看到的 token 价格一路往下
对买方来说,方向正相反。Epoch AI 测算,在 AI 性能不变的前提下,自 2023 年以来 token 价格每季度下降约 47%,一年大约降 13 倍。
斯坦福 2025 年 AI 指数把这条曲线拉得更长。2022 年 11 月,GPT-3.5 水平的查询每百万 token 要 20 美元。到 2024 年 10 月,同样的活 Gemini 1.5 Flash-8B 只要 0.07 美元,降了 280 多倍。10 月 26 日发布的 GPT-6.1 Terra,标价是每百万输入 token 1 美元、每百万输出 token 5 美元。与 GPT-5.6 Terra 相比,新输入便宜 50%,输出便宜 58%,缓存读取便宜 75%。在一次 1000 万输入 token、其中 97% 命中缓存、外加 20 万输出 token 的智能体会话里,Terra 花 1.79 美元,GPT-5.6 Terra 要 4.94 美元。
降价背后的毛利挤压
便宜的 token 不是一门轻松的生意。Citadel Securities 的 Tokenomics 2.0 指出,半年里 AI token 价格跌了约 50%,GPU 租金却往反方向走。
Modal 首席执行官 Erik Bernhardsson 说,90% 的毛利率已经没有了,Modal 的长期目标是 40% 到 60%。他的理由是,单卖 token 没有迁移成本。所以赢家会把沙箱、后训练和批量推理打包到计价器周围一起卖。投资人还在为增长付钱。Bernhardsson 说,Modal 在截至当时的十二个月里增长了 50 倍,随后融到 7.5 亿美元。
接下来:光计算试点与售罄的容量
答案有一部分要靠硬件,而不是定价。英国公共研发资助机构 ARIA 将在其 Scaling Inference Lab 部署 Lumai Iris 光推理服务器。这一计划附带的说法是,数据中心功耗降低 90%,总拥有成本约为传统 GPU 架构的十分之一。这些是机构和厂商自己的说法。测试放在真实的商业环境里,而不是实验室台面上。
需求这一侧,Jassy 说 AWS 在 2027 年和 2028 年都可能增长超过 40%。在新容量到位之前,最先体现这个预期的就是各档价格。
资料来源
19- 01Bedrock Priority Tier Costs 75% More, Flex 50% Less [2026]EN
- 02Is hosting an open-source inference engine profitable?EN
- 03AI Model Cost Statistics: Training, Inference and Token PricingEN
- 04The Economics of Continuous InferenceEN
- 05GPT-6.1 Terra's price cut, recomputed for a cache-heavy agent sessionEN
- 06Tokenomics 2.0 According to Citadel's Frank Flight: The AI Boom Has a Pricing ProblemEN
- 07Modal CEO: Who Wins the Inference Market | Has Open-Source LLM Inference Peaked?EN
- 08ARIA's Scaling Inference Lab Deploys Lumai's Optical Compute TechEN
- 09Apple faces unprecedented memory cost increases as RAM prices continue to surgeEN
- 10Solar PV cuts Spain’s electricity costs by €17.02 billion over 18 monthsEN
- 11As Diesel Costs Surge for Farmers & Rural Businesses, Solar Offers a LifelineEN
- 12VMO2 to axe 30% staff costs, halt fiber build in £800M savings planEN
- 13Fuel From Bamboo Costs Just $2.75 Per GallonEN
- 14Here's how much Trump's Iran war has added to Americans' fuel costsEN
- 15Global AI Inference Chip Market Size, Share, Trends and Forecast 2027-2037 | Token Economics, Custom ASICs and Edge AI Create Strategic Growth OpportunitiesEN
- 16LEAP: Efficient LLM Inference Scheduling with Generalizable Length PredictionEN
- 17Launch HN: Momentic (YC W24) – Agents that catch bugs by using your appEN
- 18I post trained a model on DemoscenesEN
- 19How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real ApplicationsEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。