推理成本信号两头拉扯:硬件押注与云端路线分道
Q/C Technologies 10月1日表示,正与桑迪亚国家实验室的集成纳米技术中心合作,为 AI 推理开发光学处理方案。同一天,MaxLinear 的 Puma 9 方案和每箱柴油 32 欧元的价差,让成本之争继续发酵。

10月1日,两项消息相隔数小时先后发布。两者都没有回答推理到底要花多少钱。据 HPCwire 报道,Q/C Technologies 表示将与桑迪亚国家实验室旗下的集成纳米技术中心(CINT)合作,为计划中的光学处理单元开发纳米光子组件,目标指向 AI 推理。
另一边,MaxLinear 于9月29日发布的新款 Puma 9 DOCSIS 芯片,宣称能把用户端设备成本降低 30% 到 50%。Q/C 与 CINT 的合作属于研究,还不是产品。公司称,该项目将确定哪些光学运算和器件技术对可扩展的 OPU 架构真正重要,并要处理非线性运算、内存、精度、光损耗以及与电子电路的集成问题。据 HPCwire 报道,运营 CINT 的桑迪亚国家实验室约有 17000 名员工,年度预算约 50亿。目前还没有任何机构公布过规模化光学推理芯片的基准测试结果。
更便宜的硅片,更便宜的机顶盒
MaxLinear 给出的数字更具体,但仍然出自厂商自己。Puma 9 支持 DOCSIS 3.1、D3.1+ 和 D4.0。公司称,D3.1+ 配置的下行速率可达 12 Gbit/s。MaxLinear 预计,采用该芯片的调制解调器和网关将在 2027 年上市。公司表示已拿到“多家客户的承诺”。这颗芯片从 Intel x86 架构转向 ARM。一位业内人士对 Light Reading 说,这会降低功耗,也能省下一部分授权费用。
“随着厂商有动力把产能转向 DDR5,我们认为 DDR5 生态、价格和供应会比现在 DDR4 承受的压力更宽松,”MaxLinear 网络基础设施与运营商业务部高级副总裁兼总经理 Puneet Sethi 说。
内存这件事的影响不止于有线电视。Dell'Oro Group 的 Jeff Heynen 对 Light Reading 说,多数厂商会为高端 Wi-Fi 8 设备改用 DDR5,因为这类设备需要板载内存。这是供应链信号,不是 AI 推理信号。但压力是同一个:产能向新一代内存转移,老型号越来越紧。
云端的情况更乱。材料里近期的标题提到 Nebius 收购 Inferize 并涨价、AWS 上调 GPU 容量价格、OpenAI 下调模型价格。这些说法指向相反方向,我们也不把它们当作可引用的事实。材料本身没有给出结论。
硬件押注与油费账单
Y Combinator S25 项目公司 Magnitude 于9月30日在 GitHub 上发布了一个开源推理引擎,称能在用户自己的设备上做内核调优。README 宣称性能最高比 llama.cpp 快 2 倍,Metal 上解码快 92%,CUDA 上快 19%,每个智能体内存占用少 27%。它可在 Apple Silicon、NVIDIA、AMD 或纯 CPU 上运行,并能接入 Pi、OpenCode、Hermes、Codex、Claude Code、Cline 等工具。这些数据都是公司自报,代码仓库采用 Apache 2.0 许可证。
这是本地硬件的思路。云端的思路不一样,而且是用价签来说的。Transport & Environment 9月29日由 CleanTechnica 发布的分析称,欧洲电动车司机每公里花费不到柴油车司机的一半。依据是柴油平均油耗 6.9 L/100 km、纯电动车平均电耗 20.2 kWh/100 km,电价按 €0.343/kWh 计算。据 T&E,柴油车司机现在每箱油比年初多付 €32,其中约 €16 是炼厂利润率的上升。欧盟 27 国加权平均零售油价取自欧盟委员会 2026年9月21日的每周石油公报。炼厂利润率数据来自欧洲央行估算,时间还要早一周。
这个比较和 GPU 定价并不是同一口径,T&E 也说自己的充电成本估算很可能偏高。但道理是同一个,只是换了个行业:把烧油的设备改成用电,单位成本就会降下来。
其他数字说明了什么
在电信行业,运营商靠共享而不是靠新芯片来压缩成本。StarHub 和 M1 正在新加坡洽谈合并,两家此前已通过合资公司 Antina 共享 5G 频谱和无线接入网。据 Light Reading,新加坡电信 6月在移动市场的份额为 43%,M1 为 22%,StarHub 为 21%,Simba 为 14%。在新西兰,2degrees 和 OneNZ 提议把各自的无线网络合并成一家共同持股的公司,商业委员会预计明年作出决定。
被引用得最多的例子是中国电信和中国联通的 5G 合作。Light Reading 称,双方共享 150万 个基站,节省资本开支 560亿。如果这个数字站得住,网络共享带来的成本下降,比这份材料里任何一项推理芯片的发布都更能算得清。
成本压力也出现在研发预算里。据本地媒体 36Kr 9月28日援引业内人士报道,小鹏把产品线从四条整合为两条。公司在 2026 年前八个月交付 243111 辆车,同比下降 10.49%。第二季度研发费用增长 32.1% 至 291000万 元。第二季度净亏损 134000万 元(19900万 美元),比去年同期的 48000万 元扩大,但比第一季度的 178000万 元收窄。整车毛利率为 12.1%,与上季度持平,低于去年同期的 14.3%。
通用汽车算的是另一笔账。它与 LG Energy Solution 的合资公司 Ultium Cells 周二表示,将在田纳西州斯普林希尔生产棱柱形富锂锰电芯,公司称这将是全球首家量产该电芯的工厂。通用汽车称,在成本相当的情况下,能量密度比 LFP 高 33%,电动皮卡和全尺寸 SUV 的续航计划超过 400 英里,首款车型预计 2028 年推出。工厂升级今年晚些时候动工,计划 2028 年前完成,新增 500 个岗位,员工总数将达 1700 人。
微软研究院 9月23日提出了相关看法:把物理 AI 推理完全放在板载 GPU 上运行,会限制机器人的性能和续航。把任务卸载到边缘或云端 GPU 后,任务成功率提高,在典型的移动操作负载上也能跑更大的模型。
这些内容拼不出一个统一的推理价格。材料给的是厂商说法、一项研究合作、一堆交付量和利润率数字,还有一个明确承认偏高的柴油对比。它真正说明的是,成本之争至少在四条战线上同时进行:本地内核、光学研究、云端定价和网络共享。其中最新的一条,也就是 Q/C 与桑迪亚的合作,离基准测试最远。
资料来源
10- 01Q/C Technologies Collaborates with Sandia on Optical Computing for AI InferenceEN
- 02MaxLinear claims new 'Puma 9' DOCSIS chip is a big cost-cutterEN
- 03Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agentsEN
- 04Driving An EV Now Costs Half As Much As Diesel, New Analysis ShowsEN
- 05Singapore, New Zealand operators seek partnerships to cut costsEN
- 06Xpeng reportedly consolidates product lines to cut R&D costsEN
- 07GM's new EV battery tech will cut costs without sacrificing performance or rangeEN
- 08Offloaded inference for real-world physical AI roboticsEN
- 09Is AI jacking up healthcare costs?EN
- 10The Human Cost Of Data Center PollutionEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。