Aleph Alpha 将 Kolibri 权重上传 Hugging Face,llama.cpp 学会不写字也能回答
Aleph Alpha 于 10 月 3 日发布 Kolibri,这是一个总参数 780亿、激活参数 30亿的开源权重模型。同一天,llama.cpp 加入对决策模型的支持,这类模型返回概率而不是文本。

Aleph Alpha 在 10 月 3 日公开了 Kolibri。模型是英德双语混合专家 Transformer,总参数 780亿,激活参数 300亿,公司把完整权重放上 Hugging Face,采用 Apache 2.0 许可。上下文窗口最长 100万 token。
对受监管行业的买家来说,发布时间很关键。Kolibri 面向公共管理、工业制造和航空航天,Aleph Alpha 表示客户可以在本地部署,内部数据不会进入第三方的推理服务。价格和客户数量都没有披露。
公司把这次发布放在供应链完整性上讲:从数据摄入、预训练和后训练一直到最终评估,每一步都能追溯。Kolibri 沿用此前 300亿参数的 Kolibri Origin 所用的同一条流水线。Aleph Alpha 称 Kolibri 的能力可以匹敌激活参数最多达到它四倍的模型,并点名 Nemotron 3 Super 作为例子,还说在英语和德语两种语言上,它都处在质量与推理成本权衡的帕累托前沿。这些都是厂商用自己的内部评估跑出的分数,不是独立评测。
权重发布越来越便宜,运行体积越来越小
同一个周末还出现了另一类开源发布,这一类更值得看。llama.cpp 项目在 10 月 2 日表示,它的服务器现在通过 /v1/systemone 端点支持决策模型,消息来自 Xuan-Son Nguyen 和 Victor Mustar 在 Hugging Face 社区发的帖子。你传入一个状态,可以是文本、JSON 或一张截图,再附上带类型的问题,模型在一次前向计算后为每个选项返回一个概率。整个过程不生成 token。已经支持 TypeSafe 的 Jev 格式的客户端,只需要换一个 base URL。
那篇帖子里的模型表最值得细看。Laya 是 42100万参数的英语模型,Apache 2.0 许可,在 NVIDIA RTX PRO 6000 上回答一个问题中位耗时 5 毫秒。Clef 是 270亿参数,能处理图像,同样 Apache 2.0。OpenJev 是 270亿参数、多语言,但采用 CC BY-NC 4.0 许可,不能商用。Kev-4B 的回答耗时是 12 毫秒,lev 是 36 毫秒。一个用来分流客服工单、或者检查智能体每一步的决策模型,不需要写出成段的文字,成本差距就来自这里。
在生产环境里跑 Jev 的 Kitsuno 在 10 月 3 日公布了自己的数据,这些数字对双方都不完全有利。从 9 月 23 日起,Jev 处理了 35812 次有记录的调用,消耗 7600万输入 token,总成本 3.68 美元。在同一天构建的测试集上,未经训练的 Laya 答对了 44% 的题目,Jev 是 94%。Kitsuno 说他们没有用 Jev 的输出训练 Laya,因为 TypeSafe 的客户协议第 2.3(b) 条在 9 月 23 日更新后,禁止用该服务的输出训练类似或竞争的产品。Kitsuno 强调这是他们对合同的解读,不是法律意见。
同时还有两个更小的开源发布。ZeroLeaks 在 10 月 2 日发布 Shield Small,这是一个 11800万参数的分类器,用于检测提示注入和越狱,int8 ONNX 权重为 118,445,560 字节,可以在 CPU 上运行。它的模型卡报告,配合 Shield rules v2 使用时,类别平衡平均准确率为 84.3%,攻击召回率为 71.8%,并说明这次对比覆盖了 35 个参与开发的公开数据集,而不是未见过的测试集。7.2% 的误报率也有同样的说明。
并非所有人都认同开源权重让事情更安全
Anthropic 用自己的报告论证了相反的方向。Tom's Hardware 在 10 月 3 日报道,Anthropic 称智谱 AI 的 GLM-5.3 能在防护薄弱的情况下生成恶意内容。在 Anthropic 的 Exploitbench 测试中,GLM-5.3 在 410 次尝试里生成了 50 次端到端的 Chrome 漏洞利用,Anthropic 尚未发布的 Mythos 模型是 56 次。在一项针对完整控制流劫持的内部基准上,GLM-5.3 得分 4%,Mythos 是 6%,Kimi K3 和 DeepSeek V4.1 Flash 都是 0%。Anthropic 称,一个欺骗性提示在 64% 的情况下绕过了防护栏,预填充思考 token 的手段有 92% 的成功率。这些是 Anthropic 关于竞争对手模型的数字,在本文查阅的材料中,智谱 AI 没有作出回应。
政策层面的争论同样没有定论。WIRED 在 10 月 3 日报道,Nathan Lambert 和 Tom Zick 成立了非营利机构 Trillium Labs,将公开递归自我改进和智能体等领域实验的细节。
资料来源
9- 01Kolibri Has Landed: A Sovereign Open-Weight ModelEN
- 02New in llama.cpp: Decision ModelsEN
- 03Laya in shadow: training an open decision model to replace JevEN
- 04Shield: A 118M model for detecting prompt injections and jailbreaksEN
- 05Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
- 06These AI Experts Want to Do High-Stakes Research Out in the OpenEN
- 07Anthropic's super bug-hunting model Mythos is hardcore good at mathEN
- 08As Part of Ongoing Investigation, Attorney General Bonta Serves Investigative Subpoena on OpenAIEN
- 09OpenAI safety leader David Robinson resignsEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。