推理成本分化:每月500美元的ChatGPT套餐、快2倍的开源引擎、每十亿token 6美分
据Business Insider报道,OpenAI于9月29日推出每月500美元的ChatGPT Pro套餐,这是其迄今最贵的方案,比此前的最高档贵了300美元;与此同时,更便宜的开源推理方案正在加速压低价格。

这一新方案在公司周二的DevDay上发布,捆绑了ChatGPT Work和Codex中GPT-6 Astra的“Ultrafast”算力访问权限。Business Insider报道称,该模式承诺Codex速度提升8倍。同一篇报道称,OpenAI正在重新开放每月200美元的Pro套餐,该套餐曾于9月10日暂停,但算力额度减半,从20倍于20美元Plus档降至10倍,GPT-6 Pro的聊天消息也从每周200条减到100条。
据Business Insider报道,Codex工程负责人Thibault Sottiaux周一在X上发帖称,与之前的方案相比,这些变化折算下来相当于API支出减半。
他写道:“我想提前把这一变化告诉大家,让你们在我们给你们带来好消息之前先弄明白。”
这是市场的顶端。底端变化得更快。
开源引擎与自调优内核
9月30日,获YC投资的Magnitude发布了一个开源推理引擎。它会在模型运行前在用户自己的硬件上编译并调优内核,并声称开源模型运行速度最高可达llama.cpp的2倍。GitHub README称,在Apple Silicon的Metal后端上解码快92%,在CUDA上快19%,每个agent的内存占用减少27%,并为并发会话提供共享前缀缓存。
它以Apache 2.0协议作为桌面应用发布,支持Apple Silicon、NVIDIA、AMD或纯CPU,并可连接Pi、OpenCode、Hermes、Codex等agent。两小时前,Modal与Full Stack Data Lab发布了一款名为Quail的SQL加推理联合引擎。Modal的文章称,Quail在一块H100 GPU上处理多连接查询时每分钟可处理超过十亿个token,在同一硬件上超过其vLLM基线的10倍以上,在Modal上每十亿token成本低于6美分。在该团队新的AI-SQL基准测试中,相对vLLM的几何平均加速为1.84倍,文章还点名了两个查询,用来展示该方法仍有不足的地方。
作者明确指出,通用引擎并不适合这类工作负载。在Full Stack Data Lab的文章中,Shreya Shankar、Charles Frye、Fergus Finn、Arnav Dhariya、Joseph Barrow和Meryem Arik写道,把数百万次相关的模型调用作为独立请求发送给vLLM这样的引擎,会带来很大的成本。他们举的例子是QUAIL-B基准中的BIO-4查询,它要用4,144个各使用两次的反应词过滤5,000份长篇医疗报告,因此一次朴素的执行会把一条SQL语句变成数量极大的模型调用。
价格下限已经公布,而且并不平坦
AICostBudget的9月定价指数以2026-09-30 UTC为截止时点冻结,覆盖11家供应商的81条公开记录。它给出的输入价格中位数为每百万token 1.32美元,输出价格中位数为6美元;在同时给出两个数字的69条记录中,输出价格中位数是输入的5.0倍。观测到的区间从每百万输入token 0.10美元到30美元,每百万输出token 0.10美元到180美元。
同一数据集还给出各供应商层面的中位数:OpenAI为输入2美元、输出11美元,共18条记录;Google Gemini为0.75美元和4.125美元,共14条;Anthropic为5美元和25美元,共13条;xAI为1.25美元和2.5美元,共9条;Mistral AI为0.20美元和0.60美元,共7条;DeepSeek为0.30美元和1.2美元,共3条;Moonshot AI为0.95美元和4美元,共3条。在58条可比的缓存输入记录中,折扣中位数为90%;在44条批量定价记录中,批量折扣中位数为50%。忽略这两种模式中任何一种的比较,比的是标价,不是账单。
硬件才是这场争论更难有定论的地方。9月28日在SOSP '26上发表的一篇论文EnerTune由Prasoon Sinha、Dimitrios Liakopoulos、Nathan Lemma和Neeraja J. Yadwadkar撰写,论文认为,纯粹为提高利用率而多路复用GPU可能会推高能耗。作者报告称,他们的能耗感知装箱系统在满足性能SLO的同时,相比最先进的基线将能耗降低1.4到2.3倍,功耗降低1.3到2.6倍。
本周的成本新闻并非都关于数据中心。Transport & Environment于9月29日分析的数据显示,电动汽车每公里运行成本不到柴油的一半;该分析基于柴油每100公里6.9升、纯电动车每100公里20.2 kWh,电价为每kWh 0.343欧元。据CleanTechnica援引的欧洲央行估算,柴油车主每加满50升油箱比年初多付32欧元,其中约16欧元是额外的炼油利润。
本周还有两条经验完全在AI之外。Pinecone创始人Greg Kogan称,该公司在一次A/B测试后发现,未看到定价计算器的访客注册可能性高16%,联系公司的可能性高90%,而定价支持工单没有增加,于是把计算器从定价页移除。电信方面,Light Reading于9月30日报道,新加坡的StarHub和M1正在洽谈合并,新西兰的2degrees和OneNZ则提议合并双方的无线接入网。
贯穿其中的一条线是:当一项工作的单位成本足够低时,买家就不再盯着计算器,而是开始看账单。
资料来源
9- 01ChatGPT's new plan costs $500 a monthEN
- 02Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agentsEN
- 03Hitting 1B tokens/minute on 1 GPU combining a query planner and inference engineEN
- 04Jointly optimizing SQL queries and LLM inference for up to 14x speedupsEN
- 05AI API pricing index - September 2026EN
- 06Beyond Utilization: Energy-Conscious GPU Sharing for Inference ServingEN
- 07Driving An EV Now Costs Half As Much As Diesel, New Analysis ShowsEN
- 08The pricing calculator made people more confused about pricingEN
- 09Singapore, New Zealand operators seek partnerships to cut costsEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。