跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

开源大模型微调栈正在围绕智能体重建,而不是模型

9月30日,Cloudflare开源了Forge,这是一条生成流水线,能把一份API规范变成SDK、CLI、文档和MCP服务器;同一天,NVIDIA发布了Kumo Tabular,这是一个基础模型,只需一次前向传播就能从表格数据给出预测,无需训练,也无需特征工程。两者都不是微调工具,却都指向开源栈正在移动的方向。

人工智能与模型分析林晓雯发布: 2026年9月30日9 分钟阅读资料来源 15
开源大模型微调栈正在围绕智能体重建,而不是模型

这堆东西里最新的一个并不是微调框架。9月30日,Cloudflare发布了Forge,一条开源、可插拔的生成流水线,把API规范转换成SDK、CLI、文档和MCP服务器。公司博客说,Forge已经能生成cf CLI所需的内容,并将在未来几个月支撑Cloudflare的API文档和SDK。

给出的理由不是开发便利。Cloudflare说,他们做Forge"是因为我们自己需要它,才能把智能体当作客户来对待"。背后的API有超过3500个操作,分散在用Rust、Go、TypeScript和Python写的服务里。这句话才是关键。过去围绕模型的工具链,那段把权重变成产品的胶水,现在成了被开源、被标准化的东西,而且往往跑在模型本身前面。

NVIDIA在同一天、另一个角落做了同样的事。9月29日发布在Hugging Face上的Kumo Tabular,是一个用于表格分类和回归的开源基础模型。

给定带标签的行,它在一次前向传播中返回类别概率或数值,不训练、不调参、不做特征工程。它有三个规格,从2800万到21500万参数,只用人工数据预训练,以OpenMDW-1.1许可证发布,允许商用。NVIDIA说它在TabArena、BeyondArena、TALENT和ScoringBench上排名第一。卖点很明确:取代梯度提升树在过去二十年里强加给企业机器学习的"重训再部署"循环。开源栈正在分叉。一条分支把微调这一步从整类工作中拿掉;另一条分支,也就是仍然需要改动权重的那条,正在把周围的机械部分打开。

廉价推理这条分支长得很快

Fermion Research在9月30日发布了Phonon-2,一个英语语音识别模型,编码器把每个权重存成五个学到的电平之一,约合每权重2.1比特。下载包164 MB。按公司研究页面的说法,它在Open ASR Leaderboard的七个英语测试集上平均词错率5.21%,所有得分更好的开源模型体积至少是它的5.8倍。在MacBook Air上,它把一小时音频转成文字大约需要20秒。权重采用CC-BY-4.0,源自NVIDIA的Parakeet TDT 0.6B v3。

Meta的OpenZL重复了同样的模式,9月29日发布v0.3.0。发布说明写到一个新的LZ引擎,用PivCo Huffman作为熵编码后端,解压速度比v0.2.0快33%,在同等设置下比Zstandard快144%。

对训练或部署模型的人更有意思的是Compression Transformer,一个很小的神经网络,按输入即时构建数值压缩图,不需要针对数据源做训练。在868类数值流、34737个文件、17.9 GB上评估,Meta说它平均比zstd -19压缩效果好35%,与训练过的压缩图差距在1.1%以内。更小的权重、更好的压缩、更少的token开销。方向就是这样,而它让微调行业少了一批活。

TypeSafe的Jev是"设计上就不需要常规适配"最清楚的例子。它回答Choice、Score和Noul三类问题,而不是生成文本,因此足够便宜,有意思的问题变成了路由,而不是训练。

The Register在9月29日报道,开源项目Jevstiller把Jev蒸馏成本地学生模型,目标是与托管服务达到98%的一致率,同时在设备CPU上以最快15毫秒回答常见请求。The Register引用的项目文档说,有把握的输入在本地回答,其余全部上送。这就是换了名字的微调,而且发生在用户自己的机器上,对着一个用户无法控制的教师模型。

微调栈现在必须守住什么

9月30日推上GitHub的OpenAPPA站在智能体和它的工具之间,每次调用前回答一个问题:这份数据允许发往这个目的地吗?它追踪智能体读到的每样东西的敏感度和可信度,并执行用声明式TOML写成的策略。

项目的基准测试声称,在1320次评估中没有一次计分攻击得手,同时完成了88%到90%的任务;作为对比,微软FIDES放过了28%到35%的攻击。这些都是作者自己的数字,跑在自己的测试集上。同样在9月30日发布的UAI协议从身份一侧攻同一个缺口:智能体拿到一个绑定到可追责所有者的身份、一本受时间和司法辖区限制的护照,以及对其行为的签名、哈希链式证明。

README的措辞比大多数项目谨慎。"UAI并不声称AI智能体是安全的,"它写道,"它提供的是一种机制,让智能体的行为可以归责,并且能被独立验证。"两个项目之所以存在,是因为替代方案,也就是信任执行动作的系统同时自己写日志,今年已经明显失效了。

The Guardian在9月30日报道,FTC已对Anthropic、OpenAI等公司展开行业范围的调查,这是美国首次针对失控AI智能体的官方执法行动,计划发出正式的信息要求和强制作证。据The Guardian说,消息最早由New York Post报道。

Ars Technica同日报道,OpenAI推迟了IPO,Sam Altman在公司开发者日对记者说,在仍需要"做出有把握的安全决策"的时候,不会"全力以赴冲向IPO"。Ars给出的公司估值为8520亿美元,并称公司正在商谈以约14000亿美元估值融资300亿美元或更多。同一天,一个名为Legal Advocates for Safe Science & Technology的非营利组织在加州提起诉讼,要求更好的评估、监控和训练实践。

"考虑到我们在AI上看到的进展和开发速度,这些黑客事件的频率和复杂程度只会增加,"LASST项目主管Vivian Dong在Ars Technica报道的评论中说。

训练实践现在是一项法律风险。这改变了微调栈存在的意义。

治理层也在被开源

9月30日宣布的OpenClaw Enterprise是对此最直接的回应。它是一个开源、厂商中立的控制平面,面向持久运行的智能体,带多租户、可信与不可信工作负载之间的硬边界、沙箱、基于大模型的审查和细粒度权限。博客说项目始于OpenAI,捐赠给OpenClaw基金会,现在与Red Hat和NVIDIA共同开发。它还在1.0之前,被描述为适合内部试点负载。按公告说法,OpenAI自己已经在运行对代码库和插件有完全访问权限的OpenClaw智能体。

英国AI安全研究所的Inspect在9月30日有文档更新,覆盖测量一侧。它是一个前沿评估框架,带可组合的数据集、求解器和评分器,内置200多个评估,支持运行任意外部智能体,包括Claude Code、Codex CLI和Gemini CLI,沙箱可跑在Docker、Kubernetes或Modal上。

再往下是更安静、更实用的一层。9月30日发布的一个GitHub仓库整理了OpenAI 9月29日DevDay之后ChatGPT Work和Codex的已知故障,附的是用户报告链接,而不是已确认的bug。它的核心抱怨是:长时间运行的智能体失败后,消耗的额度不退,因为没有可以续跑的检查点。其中引用的一份Codex桌面端报告说,一次修复运行在7小时15分钟后烧掉了约50%的周额度。OpenAI没有确认其中任何一条。仓库作者说GPT-5.6 Sol通过OpenCode表现良好,这指向基础设施,而不是模型。

Vincent Schmalbach在9月30日写下了同一论点的商业版本。他说OpenAI给了他两个Codex账户共5000美元的使用额度,同时告诉他200美元订阅的额度将从10月30日起减半,届时Pro 200从Plus额度的20倍降到10倍。他打算降级到Plus,把差价花在Claude订阅上。这是一个客户的陈述,不是市场调查,但方向与"模型是商品、外壳才是产品"的栈一致。

缺的那一块

让我开始找资料的那个题目,开源大模型微调栈,是这份材料里最薄的部分。有两条勉强算得上。Bespoke Labs的Nimble在9月30日推送,公开了数据、训练配方和一个做类型化决策的90亿参数模型,README明确说它没有从Jev蒸馏:重点在于展示如何整理数据、训练和部署,并鼓励更多研究。

同样在9月30日发布的OpenResearch是一个本地优先的桌面和CLI工作区,给编程智能体提供跨alphaXiv、bioRxiv和PubMed的文献检索、在Slurm、Kubernetes、Modal或Hugging Face Jobs上执行实验的能力,以及每次运行的本地SQL记录,让智能体能从过去的结果里学习。两者都不是训练器。它们都假定模型已经存在,难的部分是编排、数据来源和评估。这是真实的转变,而对于产品只是训练脚本外壳的人来说,这显然不是什么好消息。

一个反向的注脚,来自Rest of World 9月30日的报道:中国本土的开源模型社区在猛涨。阿里巴巴2022年上线的ModelScope现在托管超过17万个模型,OSChina 2023年上线的MoArk服务约2万个。

OSChina首席执行官徐勇对该媒体说,不是所有人都能一直用VPN,中国在AI上打造独立生态的速度比互联网时代更快。Rest of World还报道,NVIDIA在9月宣布以129亿美元收购Hugging Face。主权栈意味着主权微调,而那部分工作不会跑在别人那套工具上。

这一周的发布共享一个前提:能路由、能压缩、能验证的时候,就别训练。对于那些确实需要新权重的工作负载,这个前提是否成立,是这些公告都没有回答的问题。

评论 0

资料来源

15
  1. 01Introducing Forge: the open source pipeline for generating SDKs, CLIs, docs, and moreEN
  2. 02NVIDIA Kumo Tabular Sets a New Accuracy-Efficiency Frontier for Tabular PredictionEN
  3. 03Phonon-2: most accurate open speech recognition model in a 164 MB downloadEN
  4. 04Release OpenZL v0.3.0EN
  5. 05Open source tool distills Jev so you can run it locallyEN
  6. 06OpenAPPA: Deterministic guardrails that don't break agentsEN
  7. 07UAI: An open protocol for identity and accountability of AI agentsEN
  8. 08US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
  9. 09OpenAI delays IPO over AI safety concernsEN
  10. 10OpenClaw Enterprise - The Open Agent PlatformEN
  11. 11Inspect: An open-source framework for large language model evaluationsEN
  12. 12OpenAI after DevDay 2026: known issues for serious development workEN
  13. 13OpenAI Is Paying Me to Move My Business to AnthropicEN
  14. 14Nimble: Data, Model, Recipe for an Open Jev (From Bespoke Labs)EN
  15. 15The open-source AI platforms vying to become China's Hugging FaceEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。