跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

推理成本分化:每月500美元的ChatGPT套餐、快2倍的开源引擎、每十亿token 6美分

据Business Insider报道,OpenAI于9月29日推出每月500美元的ChatGPT Pro套餐,这是其迄今最贵的方案,比此前的最高档贵了300美元;与此同时,更便宜的开源推理方案正在加速压低价格。

人工智能与模型新闻林晓雯发布: 2026年9月30日5 分钟阅读资料来源 9
推理成本分化:每月500美元的ChatGPT套餐、快2倍的开源引擎、每十亿token 6美分

这一新方案在公司周二的DevDay上发布,捆绑了ChatGPT Work和Codex中GPT-6 Astra的“Ultrafast”算力访问权限。Business Insider报道称,该模式承诺Codex速度提升8倍。同一篇报道称,OpenAI正在重新开放每月200美元的Pro套餐,该套餐曾于9月10日暂停,但算力额度减半,从20倍于20美元Plus档降至10倍,GPT-6 Pro的聊天消息也从每周200条减到100条。

据Business Insider报道,Codex工程负责人Thibault Sottiaux周一在X上发帖称,与之前的方案相比,这些变化折算下来相当于API支出减半。

他写道:“我想提前把这一变化告诉大家,让你们在我们给你们带来好消息之前先弄明白。”

这是市场的顶端。底端变化得更快。

开源引擎与自调优内核

9月30日,获YC投资的Magnitude发布了一个开源推理引擎。它会在模型运行前在用户自己的硬件上编译并调优内核,并声称开源模型运行速度最高可达llama.cpp的2倍。GitHub README称,在Apple Silicon的Metal后端上解码快92%,在CUDA上快19%,每个agent的内存占用减少27%,并为并发会话提供共享前缀缓存。

它以Apache 2.0协议作为桌面应用发布,支持Apple Silicon、NVIDIA、AMD或纯CPU,并可连接Pi、OpenCode、Hermes、Codex等agent。两小时前,Modal与Full Stack Data Lab发布了一款名为Quail的SQL加推理联合引擎。Modal的文章称,Quail在一块H100 GPU上处理多连接查询时每分钟可处理超过十亿个token,在同一硬件上超过其vLLM基线的10倍以上,在Modal上每十亿token成本低于6美分。在该团队新的AI-SQL基准测试中,相对vLLM的几何平均加速为1.84倍,文章还点名了两个查询,用来展示该方法仍有不足的地方。

作者明确指出,通用引擎并不适合这类工作负载。在Full Stack Data Lab的文章中,Shreya Shankar、Charles Frye、Fergus Finn、Arnav Dhariya、Joseph Barrow和Meryem Arik写道,把数百万次相关的模型调用作为独立请求发送给vLLM这样的引擎,会带来很大的成本。他们举的例子是QUAIL-B基准中的BIO-4查询,它要用4,144个各使用两次的反应词过滤5,000份长篇医疗报告,因此一次朴素的执行会把一条SQL语句变成数量极大的模型调用。

价格下限已经公布,而且并不平坦

AICostBudget的9月定价指数以2026-09-30 UTC为截止时点冻结,覆盖11家供应商的81条公开记录。它给出的输入价格中位数为每百万token 1.32美元,输出价格中位数为6美元;在同时给出两个数字的69条记录中,输出价格中位数是输入的5.0倍。观测到的区间从每百万输入token 0.10美元到30美元,每百万输出token 0.10美元到180美元。

同一数据集还给出各供应商层面的中位数:OpenAI为输入2美元、输出11美元,共18条记录;Google Gemini为0.75美元和4.125美元,共14条;Anthropic为5美元和25美元,共13条;xAI为1.25美元和2.5美元,共9条;Mistral AI为0.20美元和0.60美元,共7条;DeepSeek为0.30美元和1.2美元,共3条;Moonshot AI为0.95美元和4美元,共3条。在58条可比的缓存输入记录中,折扣中位数为90%;在44条批量定价记录中,批量折扣中位数为50%。忽略这两种模式中任何一种的比较,比的是标价,不是账单。

硬件才是这场争论更难有定论的地方。9月28日在SOSP '26上发表的一篇论文EnerTune由Prasoon Sinha、Dimitrios Liakopoulos、Nathan Lemma和Neeraja J. Yadwadkar撰写,论文认为,纯粹为提高利用率而多路复用GPU可能会推高能耗。作者报告称,他们的能耗感知装箱系统在满足性能SLO的同时,相比最先进的基线将能耗降低1.4到2.3倍,功耗降低1.3到2.6倍。

本周的成本新闻并非都关于数据中心。Transport & Environment于9月29日分析的数据显示,电动汽车每公里运行成本不到柴油的一半;该分析基于柴油每100公里6.9升、纯电动车每100公里20.2 kWh,电价为每kWh 0.343欧元。据CleanTechnica援引的欧洲央行估算,柴油车主每加满50升油箱比年初多付32欧元,其中约16欧元是额外的炼油利润。

本周还有两条经验完全在AI之外。Pinecone创始人Greg Kogan称,该公司在一次A/B测试后发现,未看到定价计算器的访客注册可能性高16%,联系公司的可能性高90%,而定价支持工单没有增加,于是把计算器从定价页移除。电信方面,Light Reading于9月30日报道,新加坡的StarHub和M1正在洽谈合并,新西兰的2degrees和OneNZ则提议合并双方的无线接入网。

贯穿其中的一条线是:当一项工作的单位成本足够低时,买家就不再盯着计算器,而是开始看账单。

评论 0

资料来源

9
  1. 01ChatGPT's new plan costs $500 a monthEN
  2. 02Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agentsEN
  3. 03Hitting 1B tokens/minute on 1 GPU combining a query planner and inference engineEN
  4. 04Jointly optimizing SQL queries and LLM inference for up to 14x speedupsEN
  5. 05AI API pricing index - September 2026EN
  6. 06Beyond Utilization: Energy-Conscious GPU Sharing for Inference ServingEN
  7. 07Driving An EV Now Costs Half As Much As Diesel, New Analysis ShowsEN
  8. 08The pricing calculator made people more confused about pricingEN
  9. 09Singapore, New Zealand operators seek partnerships to cut costsEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。