跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

Kitsuno让开源Laya模型与闭源Jev API并行影子运行

Kitsuno已在生产环境的影子模式下测试开源权重决策模型Laya,准备用它替换闭源专有方案,理由是数据主权和成本可控。

人工智能与模型新闻林晓雯发布: 2026年10月3日4 分钟阅读资料来源 10
Kitsuno让开源Laya模型与闭源Jev API并行影子运行

10月3日,Kitsuno发布工程博客,说明为何要在现有闭源基础设施之外同时运行一个开源模型。公司正在评估Nandakishor Mukkunnoth与ConvAI Innovations推出的开源权重模型Laya,对照现有闭源工具Jev。这套双轨配置是一次围绕架构主权的刻意试验,并非简单的升级路径。团队想知道,开源模型能否处理欧洲劳动力市场数据的细节,同时不把敏感信息泄露到外部服务器。风险不小:现有系统能用,但它所在的司法辖区让合规变复杂。两套系统并行运行,工程师就能实时量出差距,又不打断每天处理职位匹配请求的线上服务。

推动这一决定的是公司内部一条硬性原则:数据必须留在欧洲的数据中心。

Jev运行在美国,且是闭源。Laya采用Apache 2.0许可证,可以本地部署。这符合Kitsuno的第九条原则,即数据不得离开欧洲。对一家处理欧盟个人数据的公司来说,这一区别带来的法律和运营影响很大。把查询发往美国API,就形成一种依赖,管理层想把它去掉。本地托管能确保模型权重和它们处理的数据都不跨境,这在受监管行业里正成为越来越普遍的要求。这相当于从租用智能,转向自己拥有产出智能的基础设施。

性能差距明显,但仍在可控范围。在一次小规模预发布测试中,未经训练的Laya正确识别出职位广告所在国家的比例为26%,正确判断工作模式的比例为50%。相比之下,Jev在同一指标上的准确率为89%。在更大的测试集上,Laya答对了44%的问题,Jev为94%。

影子模式的做法

Kitsuno没有立刻替换Jev,而是把Laya部署成“影子”配置。开源模型处理与Jev相同的真实请求,但它的输出不用于最终决策。团队因此能在真实环境中衡量性能,又不危及生产稳定性。目标是拿Kitsuno自己的数据专门训练Laya,直到它追平或超过闭源模型的表现。

这一过程中的关键限制,是禁止把Jev的输出当作训练标签。TypeSafe的客户协议于9月23日更新,明确禁止用Jev的输出做模型蒸馏,或训练模型模仿该服务。Kitsuno对此做了严格解读。Laya工作进程的数据库角色甚至读不到Jev的答案。这意味着团队必须从零搭建新的标注流程,工作因此变慢,但合规有了保障。

现有Jev方案在成本上很省。自9月23日以来,它处理了35812次记录的调用,消耗7600万输入token,总成本3.68美元。

在这个用量下,换模型的主要动机不是省钱,而是架构主权,以及按具体业务需求定制模型的能力。单次调用成本可以忽略,所以商业理由完全落在控制权上。只要团队能把开源模型做到足够准确,就能自由修改逻辑,不必等供应商更新。这种独立性正是项目的核心价值。它把AI组件从一项服务依赖,变成工程团队可以直接迭代的内部资产。

行业背景

用开源权重替换闭源API的趋势正在升温。Aleph Alpha于10月3日发布Kolibri,这是一个主权开源权重模型,总参数780亿,激活参数30亿。它面向受监管行业设计,支持最长100万token的上下文长度。与Laya一样,Kolibri采用Apache 2.0许可证,企业可以在本地运行,不必把内部数据发给第三方。

Meta AI Research也强调了开源模型在复杂任务上的用处。团队与数学家合作,用Muse Spark 1.1和1.2解决开放研究问题。论文清楚标出哪些段落由AI起草、哪些由研究人员撰写,展示出开源模型便于实现的透明工作流程。

对许多开发者来说,闭源与开源之间的选择已不只是准确率问题,还关乎控制、合规和迭代能力。正如Kitsuno所指出的,训练本身就是产品。开源模型是一个起点,可以教它回答特定问题;闭源API则是黑箱,无法为你的具体用例修改。

这个领域正走向混合做法:确定性检查与智能体式AI协同工作。开源社区正在提供在本地搭建这类技术栈的工具,减少对外部供应商的依赖,确保敏感数据不离开组织的基础设施。

评论 0

资料来源

10
  1. 01Training an open decision model to replace a closed one, in shadow on prodEN
  2. 02Kolibri: A Sovereign Open-Weight ModelEN
  3. 03Solving Open Research Problems TogetherEN
  4. 04AI Experts Want to Do High-Stakes Research Out in the OpenEN
  5. 05Open source SDK to build Muse gadgetsEN
  6. 06Open 10-player CS:GO dataset for multiplayer world modelsEN
  7. 07E2E: The open source AI testing frameworkEN
  8. 08Cloudflare opens more Enterprise-only features to all customersEN
  9. 09A modern open-source Amiga CDFileSystem replacementEN
  10. 10ThreeJS Port of OpenDLSS-NREN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。