跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

Aleph Alpha 将 Kolibri 权重上传 Hugging Face,llama.cpp 学会不写字也能回答

Aleph Alpha 于 10 月 3 日发布 Kolibri,这是一个总参数 780亿、激活参数 30亿的开源权重模型。同一天,llama.cpp 加入对决策模型的支持,这类模型返回概率而不是文本。

人工智能与模型分析王雅琴发布: 2026年10月3日4 分钟阅读资料来源 9
Aleph Alpha 将 Kolibri 权重上传 Hugging Face,llama.cpp 学会不写字也能回答

Aleph Alpha 在 10 月 3 日公开了 Kolibri。模型是英德双语混合专家 Transformer,总参数 780亿,激活参数 300亿,公司把完整权重放上 Hugging Face,采用 Apache 2.0 许可。上下文窗口最长 100万 token。

对受监管行业的买家来说,发布时间很关键。Kolibri 面向公共管理、工业制造和航空航天,Aleph Alpha 表示客户可以在本地部署,内部数据不会进入第三方的推理服务。价格和客户数量都没有披露。

公司把这次发布放在供应链完整性上讲:从数据摄入、预训练和后训练一直到最终评估,每一步都能追溯。Kolibri 沿用此前 300亿参数的 Kolibri Origin 所用的同一条流水线。Aleph Alpha 称 Kolibri 的能力可以匹敌激活参数最多达到它四倍的模型,并点名 Nemotron 3 Super 作为例子,还说在英语和德语两种语言上,它都处在质量与推理成本权衡的帕累托前沿。这些都是厂商用自己的内部评估跑出的分数,不是独立评测。

权重发布越来越便宜,运行体积越来越小

同一个周末还出现了另一类开源发布,这一类更值得看。llama.cpp 项目在 10 月 2 日表示,它的服务器现在通过 /v1/systemone 端点支持决策模型,消息来自 Xuan-Son Nguyen 和 Victor Mustar 在 Hugging Face 社区发的帖子。你传入一个状态,可以是文本、JSON 或一张截图,再附上带类型的问题,模型在一次前向计算后为每个选项返回一个概率。整个过程不生成 token。已经支持 TypeSafe 的 Jev 格式的客户端,只需要换一个 base URL。

那篇帖子里的模型表最值得细看。Laya 是 42100万参数的英语模型,Apache 2.0 许可,在 NVIDIA RTX PRO 6000 上回答一个问题中位耗时 5 毫秒。Clef 是 270亿参数,能处理图像,同样 Apache 2.0。OpenJev 是 270亿参数、多语言,但采用 CC BY-NC 4.0 许可,不能商用。Kev-4B 的回答耗时是 12 毫秒,lev 是 36 毫秒。一个用来分流客服工单、或者检查智能体每一步的决策模型,不需要写出成段的文字,成本差距就来自这里。

在生产环境里跑 Jev 的 Kitsuno 在 10 月 3 日公布了自己的数据,这些数字对双方都不完全有利。从 9 月 23 日起,Jev 处理了 35812 次有记录的调用,消耗 7600万输入 token,总成本 3.68 美元。在同一天构建的测试集上,未经训练的 Laya 答对了 44% 的题目,Jev 是 94%。Kitsuno 说他们没有用 Jev 的输出训练 Laya,因为 TypeSafe 的客户协议第 2.3(b) 条在 9 月 23 日更新后,禁止用该服务的输出训练类似或竞争的产品。Kitsuno 强调这是他们对合同的解读,不是法律意见。

同时还有两个更小的开源发布。ZeroLeaks 在 10 月 2 日发布 Shield Small,这是一个 11800万参数的分类器,用于检测提示注入和越狱,int8 ONNX 权重为 118,445,560 字节,可以在 CPU 上运行。它的模型卡报告,配合 Shield rules v2 使用时,类别平衡平均准确率为 84.3%,攻击召回率为 71.8%,并说明这次对比覆盖了 35 个参与开发的公开数据集,而不是未见过的测试集。7.2% 的误报率也有同样的说明。

并非所有人都认同开源权重让事情更安全

Anthropic 用自己的报告论证了相反的方向。Tom's Hardware 在 10 月 3 日报道,Anthropic 称智谱 AI 的 GLM-5.3 能在防护薄弱的情况下生成恶意内容。在 Anthropic 的 Exploitbench 测试中,GLM-5.3 在 410 次尝试里生成了 50 次端到端的 Chrome 漏洞利用,Anthropic 尚未发布的 Mythos 模型是 56 次。在一项针对完整控制流劫持的内部基准上,GLM-5.3 得分 4%,Mythos 是 6%,Kimi K3 和 DeepSeek V4.1 Flash 都是 0%。Anthropic 称,一个欺骗性提示在 64% 的情况下绕过了防护栏,预填充思考 token 的手段有 92% 的成功率。这些是 Anthropic 关于竞争对手模型的数字,在本文查阅的材料中,智谱 AI 没有作出回应。

政策层面的争论同样没有定论。WIRED 在 10 月 3 日报道,Nathan Lambert 和 Tom Zick 成立了非营利机构 Trillium Labs,将公开递归自我改进和智能体等领域实验的细节。

评论 0

资料来源

9
  1. 01Kolibri Has Landed: A Sovereign Open-Weight ModelEN
  2. 02New in llama.cpp: Decision ModelsEN
  3. 03Laya in shadow: training an open decision model to replace JevEN
  4. 04Shield: A 118M model for detecting prompt injections and jailbreaksEN
  5. 05Anthropic claims popular Chinese AI model has Mythos-class hacking abilitiesEN
  6. 06These AI Experts Want to Do High-Stakes Research Out in the OpenEN
  7. 07Anthropic's super bug-hunting model Mythos is hardcore good at mathEN
  8. 08As Part of Ongoing Investigation, Attorney General Bonta Serves Investigative Subpoena on OpenAIEN
  9. 09OpenAI safety leader David Robinson resignsEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

王雅琴

王雅琴

人工智能、模型与技术

王雅琴负责FLASH24的人工智能、模型与技术报道,覆盖科技、人工智能与模型、媒体与互联网领域。她习惯直接查阅技术文档、模型卡与官方博客,而非依赖新闻稿,对未经核实的参数和跑分数据一概不放行。每篇报道前,她会逐项核对基准测试结果,对照论文原文与开源代码,确认版本号、数据集和评测条件是否一致。她常联系开发者与研究人员求证细节,也盯着各大厂商的发布会和论文截稿日期,横向比较同类模型的实际表现。私下她自建服务、折腾家庭网络,这让她对部署成本和真实算力需求有直观判断。她的原则是:没有可复现来源的数字,不写进稿子。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。