跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

推理成本信号两头拉扯:硬件押注与云端路线分道

Q/C Technologies 10月1日表示,正与桑迪亚国家实验室的集成纳米技术中心合作,为 AI 推理开发光学处理方案。同一天,MaxLinear 的 Puma 9 方案和每箱柴油 32 欧元的价差,让成本之争继续发酵。

人工智能与模型分析王雅琴发布: 2026年10月1日6 分钟阅读资料来源 10
推理成本信号两头拉扯:硬件押注与云端路线分道

10月1日,两项消息相隔数小时先后发布。两者都没有回答推理到底要花多少钱。据 HPCwire 报道,Q/C Technologies 表示将与桑迪亚国家实验室旗下的集成纳米技术中心(CINT)合作,为计划中的光学处理单元开发纳米光子组件,目标指向 AI 推理。

另一边,MaxLinear 于9月29日发布的新款 Puma 9 DOCSIS 芯片,宣称能把用户端设备成本降低 30% 到 50%。Q/C 与 CINT 的合作属于研究,还不是产品。公司称,该项目将确定哪些光学运算和器件技术对可扩展的 OPU 架构真正重要,并要处理非线性运算、内存、精度、光损耗以及与电子电路的集成问题。据 HPCwire 报道,运营 CINT 的桑迪亚国家实验室约有 17000 名员工,年度预算约 50亿。目前还没有任何机构公布过规模化光学推理芯片的基准测试结果。

更便宜的硅片,更便宜的机顶盒

MaxLinear 给出的数字更具体,但仍然出自厂商自己。Puma 9 支持 DOCSIS 3.1、D3.1+ 和 D4.0。公司称,D3.1+ 配置的下行速率可达 12 Gbit/s。MaxLinear 预计,采用该芯片的调制解调器和网关将在 2027 年上市。公司表示已拿到“多家客户的承诺”。这颗芯片从 Intel x86 架构转向 ARM。一位业内人士对 Light Reading 说,这会降低功耗,也能省下一部分授权费用。

“随着厂商有动力把产能转向 DDR5,我们认为 DDR5 生态、价格和供应会比现在 DDR4 承受的压力更宽松,”MaxLinear 网络基础设施与运营商业务部高级副总裁兼总经理 Puneet Sethi 说。

内存这件事的影响不止于有线电视。Dell'Oro Group 的 Jeff Heynen 对 Light Reading 说,多数厂商会为高端 Wi-Fi 8 设备改用 DDR5,因为这类设备需要板载内存。这是供应链信号,不是 AI 推理信号。但压力是同一个:产能向新一代内存转移,老型号越来越紧。

云端的情况更乱。材料里近期的标题提到 Nebius 收购 Inferize 并涨价、AWS 上调 GPU 容量价格、OpenAI 下调模型价格。这些说法指向相反方向,我们也不把它们当作可引用的事实。材料本身没有给出结论。

硬件押注与油费账单

Y Combinator S25 项目公司 Magnitude 于9月30日在 GitHub 上发布了一个开源推理引擎,称能在用户自己的设备上做内核调优。README 宣称性能最高比 llama.cpp 快 2 倍,Metal 上解码快 92%,CUDA 上快 19%,每个智能体内存占用少 27%。它可在 Apple Silicon、NVIDIA、AMD 或纯 CPU 上运行,并能接入 Pi、OpenCode、Hermes、Codex、Claude Code、Cline 等工具。这些数据都是公司自报,代码仓库采用 Apache 2.0 许可证。

这是本地硬件的思路。云端的思路不一样,而且是用价签来说的。Transport & Environment 9月29日由 CleanTechnica 发布的分析称,欧洲电动车司机每公里花费不到柴油车司机的一半。依据是柴油平均油耗 6.9 L/100 km、纯电动车平均电耗 20.2 kWh/100 km,电价按 €0.343/kWh 计算。据 T&E,柴油车司机现在每箱油比年初多付 €32,其中约 €16 是炼厂利润率的上升。欧盟 27 国加权平均零售油价取自欧盟委员会 2026年9月21日的每周石油公报。炼厂利润率数据来自欧洲央行估算,时间还要早一周。

这个比较和 GPU 定价并不是同一口径,T&E 也说自己的充电成本估算很可能偏高。但道理是同一个,只是换了个行业:把烧油的设备改成用电,单位成本就会降下来。

其他数字说明了什么

在电信行业,运营商靠共享而不是靠新芯片来压缩成本。StarHub 和 M1 正在新加坡洽谈合并,两家此前已通过合资公司 Antina 共享 5G 频谱和无线接入网。据 Light Reading,新加坡电信 6月在移动市场的份额为 43%,M1 为 22%,StarHub 为 21%,Simba 为 14%。在新西兰,2degrees 和 OneNZ 提议把各自的无线网络合并成一家共同持股的公司,商业委员会预计明年作出决定。

被引用得最多的例子是中国电信和中国联通的 5G 合作。Light Reading 称,双方共享 150万 个基站,节省资本开支 560亿。如果这个数字站得住,网络共享带来的成本下降,比这份材料里任何一项推理芯片的发布都更能算得清。

成本压力也出现在研发预算里。据本地媒体 36Kr 9月28日援引业内人士报道,小鹏把产品线从四条整合为两条。公司在 2026 年前八个月交付 243111 辆车,同比下降 10.49%。第二季度研发费用增长 32.1% 至 291000万 元。第二季度净亏损 134000万 元(19900万 美元),比去年同期的 48000万 元扩大,但比第一季度的 178000万 元收窄。整车毛利率为 12.1%,与上季度持平,低于去年同期的 14.3%。

通用汽车算的是另一笔账。它与 LG Energy Solution 的合资公司 Ultium Cells 周二表示,将在田纳西州斯普林希尔生产棱柱形富锂锰电芯,公司称这将是全球首家量产该电芯的工厂。通用汽车称,在成本相当的情况下,能量密度比 LFP 高 33%,电动皮卡和全尺寸 SUV 的续航计划超过 400 英里,首款车型预计 2028 年推出。工厂升级今年晚些时候动工,计划 2028 年前完成,新增 500 个岗位,员工总数将达 1700 人。

微软研究院 9月23日提出了相关看法:把物理 AI 推理完全放在板载 GPU 上运行,会限制机器人的性能和续航。把任务卸载到边缘或云端 GPU 后,任务成功率提高,在典型的移动操作负载上也能跑更大的模型。

这些内容拼不出一个统一的推理价格。材料给的是厂商说法、一项研究合作、一堆交付量和利润率数字,还有一个明确承认偏高的柴油对比。它真正说明的是,成本之争至少在四条战线上同时进行:本地内核、光学研究、云端定价和网络共享。其中最新的一条,也就是 Q/C 与桑迪亚的合作,离基准测试最远。

评论 0

资料来源

10
  1. 01Q/C Technologies Collaborates with Sandia on Optical Computing for AI InferenceEN
  2. 02MaxLinear claims new 'Puma 9' DOCSIS chip is a big cost-cutterEN
  3. 03Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agentsEN
  4. 04Driving An EV Now Costs Half As Much As Diesel, New Analysis ShowsEN
  5. 05Singapore, New Zealand operators seek partnerships to cut costsEN
  6. 06Xpeng reportedly consolidates product lines to cut R&D costsEN
  7. 07GM's new EV battery tech will cut costs without sacrificing performance or rangeEN
  8. 08Offloaded inference for real-world physical AI roboticsEN
  9. 09Is AI jacking up healthcare costs?EN
  10. 10The Human Cost Of Data Center PollutionEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

王雅琴

王雅琴

人工智能、模型与技术

王雅琴负责FLASH24的人工智能、模型与技术报道,覆盖科技、人工智能与模型、媒体与互联网领域。她习惯直接查阅技术文档、模型卡与官方博客,而非依赖新闻稿,对未经核实的参数和跑分数据一概不放行。每篇报道前,她会逐项核对基准测试结果,对照论文原文与开源代码,确认版本号、数据集和评测条件是否一致。她常联系开发者与研究人员求证细节,也盯着各大厂商的发布会和论文截稿日期,横向比较同类模型的实际表现。私下她自建服务、折腾家庭网络,这让她对部署成本和真实算力需求有直观判断。她的原则是:没有可复现来源的数字,不写进稿子。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。