开源大模型微调栈正在围绕智能体重建,而不是模型
9月30日,Cloudflare开源了Forge,这是一条生成流水线,能把一份API规范变成SDK、CLI、文档和MCP服务器;同一天,NVIDIA发布了Kumo Tabular,这是一个基础模型,只需一次前向传播就能从表格数据给出预测,无需训练,也无需特征工程。两者都不是微调工具,却都指向开源栈正在移动的方向。
这堆东西里最新的一个并不是微调框架。9月30日,Cloudflare发布了Forge,一条开源、可插拔的生成流水线,把API规范转换成SDK、CLI、文档和MCP服务器。公司博客说,Forge已经能生成cf CLI所需的内容,并将在未来几个月支撑Cloudflare的API文档和SDK。
给出的理由不是开发便利。Cloudflare说,他们做Forge"是因为我们自己需要它,才能把智能体当作客户来对待"。背后的API有超过3500个操作,分散在用Rust、Go、TypeScript和Python写的服务里。这句话才是关键。过去围绕模型的工具链,那段把权重变成产品的胶水,现在成了被开源、被标准化的东西,而且往往跑在模型本身前面。
NVIDIA在同一天、另一个角落做了同样的事。9月29日发布在Hugging Face上的Kumo Tabular,是一个用于表格分类和回归的开源基础模型。
给定带标签的行,它在一次前向传播中返回类别概率或数值,不训练、不调参、不做特征工程。它有三个规格,从2800万到21500万参数,只用人工数据预训练,以OpenMDW-1.1许可证发布,允许商用。NVIDIA说它在TabArena、BeyondArena、TALENT和ScoringBench上排名第一。卖点很明确:取代梯度提升树在过去二十年里强加给企业机器学习的"重训再部署"循环。开源栈正在分叉。一条分支把微调这一步从整类工作中拿掉;另一条分支,也就是仍然需要改动权重的那条,正在把周围的机械部分打开。
廉价推理这条分支长得很快
Fermion Research在9月30日发布了Phonon-2,一个英语语音识别模型,编码器把每个权重存成五个学到的电平之一,约合每权重2.1比特。下载包164 MB。按公司研究页面的说法,它在Open ASR Leaderboard的七个英语测试集上平均词错率5.21%,所有得分更好的开源模型体积至少是它的5.8倍。在MacBook Air上,它把一小时音频转成文字大约需要20秒。权重采用CC-BY-4.0,源自NVIDIA的Parakeet TDT 0.6B v3。
Meta的OpenZL重复了同样的模式,9月29日发布v0.3.0。发布说明写到一个新的LZ引擎,用PivCo Huffman作为熵编码后端,解压速度比v0.2.0快33%,在同等设置下比Zstandard快144%。
对训练或部署模型的人更有意思的是Compression Transformer,一个很小的神经网络,按输入即时构建数值压缩图,不需要针对数据源做训练。在868类数值流、34737个文件、17.9 GB上评估,Meta说它平均比zstd -19压缩效果好35%,与训练过的压缩图差距在1.1%以内。更小的权重、更好的压缩、更少的token开销。方向就是这样,而它让微调行业少了一批活。
TypeSafe的Jev是"设计上就不需要常规适配"最清楚的例子。它回答Choice、Score和Noul三类问题,而不是生成文本,因此足够便宜,有意思的问题变成了路由,而不是训练。
The Register在9月29日报道,开源项目Jevstiller把Jev蒸馏成本地学生模型,目标是与托管服务达到98%的一致率,同时在设备CPU上以最快15毫秒回答常见请求。The Register引用的项目文档说,有把握的输入在本地回答,其余全部上送。这就是换了名字的微调,而且发生在用户自己的机器上,对着一个用户无法控制的教师模型。
微调栈现在必须守住什么
9月30日推上GitHub的OpenAPPA站在智能体和它的工具之间,每次调用前回答一个问题:这份数据允许发往这个目的地吗?它追踪智能体读到的每样东西的敏感度和可信度,并执行用声明式TOML写成的策略。
项目的基准测试声称,在1320次评估中没有一次计分攻击得手,同时完成了88%到90%的任务;作为对比,微软FIDES放过了28%到35%的攻击。这些都是作者自己的数字,跑在自己的测试集上。同样在9月30日发布的UAI协议从身份一侧攻同一个缺口:智能体拿到一个绑定到可追责所有者的身份、一本受时间和司法辖区限制的护照,以及对其行为的签名、哈希链式证明。
README的措辞比大多数项目谨慎。"UAI并不声称AI智能体是安全的,"它写道,"它提供的是一种机制,让智能体的行为可以归责,并且能被独立验证。"两个项目之所以存在,是因为替代方案,也就是信任执行动作的系统同时自己写日志,今年已经明显失效了。
The Guardian在9月30日报道,FTC已对Anthropic、OpenAI等公司展开行业范围的调查,这是美国首次针对失控AI智能体的官方执法行动,计划发出正式的信息要求和强制作证。据The Guardian说,消息最早由New York Post报道。
Ars Technica同日报道,OpenAI推迟了IPO,Sam Altman在公司开发者日对记者说,在仍需要"做出有把握的安全决策"的时候,不会"全力以赴冲向IPO"。Ars给出的公司估值为8520亿美元,并称公司正在商谈以约14000亿美元估值融资300亿美元或更多。同一天,一个名为Legal Advocates for Safe Science & Technology的非营利组织在加州提起诉讼,要求更好的评估、监控和训练实践。
"考虑到我们在AI上看到的进展和开发速度,这些黑客事件的频率和复杂程度只会增加,"LASST项目主管Vivian Dong在Ars Technica报道的评论中说。
训练实践现在是一项法律风险。这改变了微调栈存在的意义。
治理层也在被开源
9月30日宣布的OpenClaw Enterprise是对此最直接的回应。它是一个开源、厂商中立的控制平面,面向持久运行的智能体,带多租户、可信与不可信工作负载之间的硬边界、沙箱、基于大模型的审查和细粒度权限。博客说项目始于OpenAI,捐赠给OpenClaw基金会,现在与Red Hat和NVIDIA共同开发。它还在1.0之前,被描述为适合内部试点负载。按公告说法,OpenAI自己已经在运行对代码库和插件有完全访问权限的OpenClaw智能体。
英国AI安全研究所的Inspect在9月30日有文档更新,覆盖测量一侧。它是一个前沿评估框架,带可组合的数据集、求解器和评分器,内置200多个评估,支持运行任意外部智能体,包括Claude Code、Codex CLI和Gemini CLI,沙箱可跑在Docker、Kubernetes或Modal上。
再往下是更安静、更实用的一层。9月30日发布的一个GitHub仓库整理了OpenAI 9月29日DevDay之后ChatGPT Work和Codex的已知故障,附的是用户报告链接,而不是已确认的bug。它的核心抱怨是:长时间运行的智能体失败后,消耗的额度不退,因为没有可以续跑的检查点。其中引用的一份Codex桌面端报告说,一次修复运行在7小时15分钟后烧掉了约50%的周额度。OpenAI没有确认其中任何一条。仓库作者说GPT-5.6 Sol通过OpenCode表现良好,这指向基础设施,而不是模型。
Vincent Schmalbach在9月30日写下了同一论点的商业版本。他说OpenAI给了他两个Codex账户共5000美元的使用额度,同时告诉他200美元订阅的额度将从10月30日起减半,届时Pro 200从Plus额度的20倍降到10倍。他打算降级到Plus,把差价花在Claude订阅上。这是一个客户的陈述,不是市场调查,但方向与"模型是商品、外壳才是产品"的栈一致。
缺的那一块
让我开始找资料的那个题目,开源大模型微调栈,是这份材料里最薄的部分。有两条勉强算得上。Bespoke Labs的Nimble在9月30日推送,公开了数据、训练配方和一个做类型化决策的90亿参数模型,README明确说它没有从Jev蒸馏:重点在于展示如何整理数据、训练和部署,并鼓励更多研究。
同样在9月30日发布的OpenResearch是一个本地优先的桌面和CLI工作区,给编程智能体提供跨alphaXiv、bioRxiv和PubMed的文献检索、在Slurm、Kubernetes、Modal或Hugging Face Jobs上执行实验的能力,以及每次运行的本地SQL记录,让智能体能从过去的结果里学习。两者都不是训练器。它们都假定模型已经存在,难的部分是编排、数据来源和评估。这是真实的转变,而对于产品只是训练脚本外壳的人来说,这显然不是什么好消息。
一个反向的注脚,来自Rest of World 9月30日的报道:中国本土的开源模型社区在猛涨。阿里巴巴2022年上线的ModelScope现在托管超过17万个模型,OSChina 2023年上线的MoArk服务约2万个。
OSChina首席执行官徐勇对该媒体说,不是所有人都能一直用VPN,中国在AI上打造独立生态的速度比互联网时代更快。Rest of World还报道,NVIDIA在9月宣布以129亿美元收购Hugging Face。主权栈意味着主权微调,而那部分工作不会跑在别人那套工具上。
这一周的发布共享一个前提:能路由、能压缩、能验证的时候,就别训练。对于那些确实需要新权重的工作负载,这个前提是否成立,是这些公告都没有回答的问题。
资料来源
15- 01Introducing Forge: the open source pipeline for generating SDKs, CLIs, docs, and moreEN
- 02NVIDIA Kumo Tabular Sets a New Accuracy-Efficiency Frontier for Tabular PredictionEN
- 03Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
- 04Release OpenZL v0.3.0EN
- 05Open source tool distills Jev so you can run it locallyEN
- 06OpenAPPA: Deterministic guardrails that don't break agentsEN
- 07UAI: An open protocol for identity and accountability of AI agentsEN
- 08US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
- 09OpenAI delays IPO over AI safety concernsEN
- 10OpenClaw Enterprise - The Open Agent PlatformEN
- 11Inspect: An open-source framework for large language model evaluationsEN
- 12OpenAI after DevDay 2026: known issues for serious development workEN
- 13OpenAI Is Paying Me to Move My Business to AnthropicEN
- 14Nimble: Data, Model, Recipe for an Open Jev (From Bespoke Labs)EN
- 15The open-source AI platforms vying to become China's Hugging FaceEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。