开放权重向上延伸:芯片设计、语音与表格模型一周内集中发布
9月30日,OpenAI与Synopsys签署多年协议,共同打造面向芯片设计的专用模型GPT-Synopsys。这只是9月最后几天里至少五项开放或公开描述的模型发布与合作之一。

开放模型领域最新的进展不是某个跑分成绩,而是一份合同。据The Decoder报道,9月30日,OpenAI与Synopsys宣布签署多年战略合作,共同打造一个名为GPT-Synopsys的芯片设计专用AI模型。Synopsys销售电子设计自动化工具,也就是工程师用来做芯片布局的软件。OpenAI为该项目授权使用这些工具。
双方给出的目标,是让模型能够“对芯片设计与验证进行推理,并直接操作Synopsys的工具”。两家公司表示,针对半导体客户的早期测试正在进行,客户数据不会用于训练,并将加密存储;产品由双方共同推广,收入分成。Synopsys首席执行官Sassine Ghazi称,AI可以显著加快设计流程。OpenAI联合创始人Greg Brockman则把这笔交易描述为通向更好芯片与更好AI的路径。
这是一个嵌在商业流水线里的闭源模型。同一周还出现了另一种完全不同的发布。
小模型、小文件、响亮的说法
9月30日,Fermion Research发布了Phonon-2,称其是900 MB以下最准确的开放语音识别模型。公司表示,这个164 MB的下载包在准确率上与其2.5 GB的全精度教师模型逐项持平,在会议和议会语音上还超过教师模型,并能在MacBook Air上把一小时音频在约20秒内转成文字。权重以CC-BY-4.0协议发布在Hugging Face上,该协议来自其衍生来源NVIDIA的Parakeet TDT 0.6B v3。
真正有意思的数字是5.21。根据公司的发布说明,在Open ASR Leaderboard的七个英语数据集上,Phonon-2平均词错误率为5.21%,而所有成绩更好的开放模型,体积至少是它的5.8倍。每个编码器权重被存为五个学习到的电平之一,以三进制数字打包,每字节五个,另外用一位标记非零权重的幅度。算下来每个存储权重约2.1比特。公司称,这一领先在噪声条件下依然成立,从安静房间到与说话人同样响的背景噪声,它都领先于Parakeet Redux。
这份材料里没有独立验证。在有人复现之前,榜单位置和抗噪说法都只能当作厂商数据。
同一天,NVIDIA也把它的表格基础模型放上了Hugging Face。NVIDIA Kumo Tabular是一个面向表格数据的开放基础模型,只需一次前向传播就能预测新行的标签,无需训练、无需调参、无需特征工程,分类和回归都支持。它仅用人工数据预训练,提供从28M到215M参数的三种规模,通过NVIDIA开源的结构化数据模型库运行,以OpenMDW-1.1协议发布,可商用。NVIDIA称它在四个基准上排名第一:TabArena、BeyondArena、TALENT和ScoringBench。
架构细节不如它的定位重要。表格任务二十年来一直由梯度提升树主导,而NVIDIA的卖点是:预训练Transformer可以在上下文中读取带标签的表格,跳过收集标签、构造特征、调超参数的逐任务流程。模型沿用TabICL和TabPFN的思路,使用列注意力、行注意力和上下文内注意力,并加入长度感知的注意力温度,使推理表远大于训练表时softmax注意力不会消散。缺失值无需插补。
来自志愿者和国家级机构的开放权重
9月30日的另外两项发布,背后要么完全没有公司,要么只有一家国家机构。Coop是一个由志愿者预训练的小型语言模型,没有服务器、没有资金、没有常驻进程。据其GitHub仓库介绍,训练循环跑在捐赠的消费级硬件以及Hugging Face和GitHub Actions的免费额度上。第二阶段正在进行:一个约145M参数的纯解码器Transformer,在FineWeb-Edu上从零开始预训练,12层、14个注意力头、d=896、1024 token上下文、32k字节级BPE词表。第一阶段是在TinyStories上训练的15M模型,已超出Chinchilla最优预算完成,六天内验证损失从9.01降到2.8。
机制本身才是故事。工作节点下载当前检查点,在本地数据分片上跑AdamW步,算出伪梯度,然后以pull request的形式提交到公开的Hugging Face数据集仓库。一个无状态的GitHub Actions定时任务每五分钟调度一次,实际间隔从几分钟到几小时不等。它读取检查点和开放的收件箱pull request,丢弃过期提交,对其余提交做裁剪和余弦门控,用截尾均值或几何中位数聚合,执行一次Nesterov外层步,上传新检查点,在账本中记录贡献者,并关闭已处理的pull request。
仓库在评估这件事上很坦诚。单看一个验证损失说明不了什么,因为外层步让它上升和下降的次数差不多。所以排行榜不是对外层步做拟合,而是对token序列拟合斜率,并给出标准误。“在下降”意味着斜率超过两个标准误。这比大多数有经费的实验室的报告规则更诚实。
同一天,英国AI安全研究所与Meridian Labs发布了Inspect,一个面向前沿AI评估的开源框架。Inspect覆盖编程、智能体任务、推理、知识、行为和多模态理解,自带200多项预置评估。它的构件是数据集、求解器和评分器。它支持工具调用,包括MCP工具以及内置的bash、python、网络搜索和计算机工具,可以运行Claude Code、Codex CLI、Gemini CLI等任意外部智能体,并通过扩展API把不受信任的模型代码沙箱化在Docker、Kubernetes、Modal、Proxmox和Vagrant中。时机很微妙:来自政府安全机构的评估工具,与美国监管机构对AI智能体失范行为启动全行业调查,落在同一周。
开放权重进入中国的芯片栈
据Deepseek官方微信公众号的一篇文章,Deepseek正在为华为的AI芯片发布开源编程工具,路透社报道了这次开源。核心是TileLang,一种面向AI芯片的开源编程语言,最初由北京大学的研究人员开发。Deepseek已使用约一年,如今称其为通用人工智能研究的主要工具,据《纽约时报》报道。
这套软件包括计算库和芯片间数据传输库。据Deepseek称,华为“全力支持”了这项工作,两家公司优化了一个超级节点,即由128颗昇腾950芯片组成的集群。Deepseek认为,想要为AI芯片建立独立软件生态,首先需要一种既容易编程、又能充分发挥硬件性能的通用语言,并称TileLang提供了比CUDA更简单的编程模型。
这与关于NVIDIA优势所在的更大讨论相连。研究机构SemiAnalysis在测试OpenAI的Jalapeno推理芯片后,称CUDA护城河“可能已死”,因为OpenAI能如此迅速地在自家硬件上跑起新模型,并称在多数测试场景中Jalapeno的每瓦性能优于NVIDIA的Blackwell。SemiAnalysis也附上了自己的保留意见:测试覆盖的是相对容易优化的场景,约8000输入token和1000输出token,而且尚未运行AgentX这个多步智能体任务基准。今年8月,SemiAnalysis发现NVIDIA在该基准上大幅领先,并表示即使AMD白送硬件,NVIDIA每token成本仍会更低,因为优势在于把许多芯片连成一个系统的软件。华为的芯片不在AgentX对比范围内。
还有国内需求这一压力点。华为承认在国内无法跟上需求,因此计划减少对外销售的芯片数量。谈到美国出口管制,华为现任轮值董事长徐直军表示,公司不能接受一个取决于别人是否愿意向中国出售芯片的未来。
值得关注什么
这些发布呈现出同一个模式:开放权重不再局限于聊天机器人检查点。它们正以笔记本就能跑的语音编码器、面向企业表格的表格预测器、国家级安全机构出的评估框架、跑在免费额度上的志愿者训练循环,以及如今面向非NVIDIA加速器栈的编程工具等形式出现。
有两件事仍未解决。第一,Phonon-2和Kumo Tabular的基准说法在这份材料中属于厂商或维护方说法,三项模型发布都没有附上独立复现。第二,监管方向与发布方向相反:据《卫报》9月30日报道,FTC对Anthropic、OpenAI和Metr的调查,是美国首起涉及失控AI智能体的官方执法行动。
开放权重解决不了其中任何一项。它们只是把争论搬到更多人跑得动的硬件上。
资料来源
7- 01OpenAI and Synopsys team up to build an AI model that designs chips like a seasoned engineerEN
- 02Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
- 03NVIDIA Kumo Tabular Sets a New Accuracy-Efficiency Frontier for Tabular PredictionEN
- 04Coop: A small language model pretrained by volunteersEN
- 05Inspect: An open-source framework for large language model evaluationsEN
- 06China's AI industry closes ranks as Deepseek ships open-source software for Huawei's Ascend chipsEN
- 07US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。