跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

Reika 与 Jeff-Code:小型本地模型最缺的是围绕它的脚手架

10月5日发布的两个编程智能体项目说的是同一件事:对小型本地模型来说,瓶颈在模型外面的脚手架,不在模型本身。两个项目都给出了具体数字。

人工智能与模型分析林晓雯发布: 2026年10月5日4 分钟阅读资料来源 8
Reika 与 Jeff-Code:小型本地模型最缺的是围绕它的脚手架

Reika 是一个面向本地和托管模型的编程智能体命令行工具,10月5日发布在 GitHub 上。它优先围绕小模型设计:80亿到350亿参数,通常以 Q2 到 Q4 量化运行,上下文窗口为 32000。作者 Alex Leung 说,设计目标不是让小模型变聪明,而是让用它干活没那么难受。

这个定位对任何在笔记本或单张 GPU 上跑编程助手的人都重要。如果大部分失败成本来自脚手架而不是模型,那么最便宜的升级就是换一个更好的循环。项目还在 1.0 之前,命令和设置仍可能变化。

Reika 发布里最有用的部分是一份公开的实测记录。一次上下文中段的改写重新处理了 8453 个 prompt token,消耗 7.9 分钟预填充。同一会话里的一次追加只花 25 个 token 和 3.5 秒。在一组 A/B 测试中,一个分支在折叠之前丢掉了自己的发现。它折叠了五次,重读已经读过的文件,始终没有回答。另一个分支先索要自己的发现,然后依据摘要作答。Reika 自己的记录说,一次无法处理的调用让 grep 返回“0 matches”,结果模型把一个本来正确的模式改了五轮。

Reika 报告了模型行为随规模出现的分化。测试中,140亿到350亿参数的模型处理多文件任务最可靠。80亿到90亿参数的模型能应付范围明确的简单任务,70亿以下的模型很少走得远。

提示词的措辞影响很小。在 Q2 下面对一个含糊任务,模型收敛还是越绕越远大约各占一半。脚手架改不了这个比例,只能改变失败那一半的代价。

第二个脚手架,另一种手法

Jeff-Code 同样在10月5日发布。它从 Mario Zechner 及贡献者的编程智能体 Pi 分叉而来,把一个 8亿参数的决策模型 Jeff 放进循环里,与 Qwen 3.8-27B 并列。每一轮 Qwen 前后,Jeff 各做一次约 0.2 秒的决策。第一个决策是它能否自己完成下一步(读文件、列目录、搜代码、跑测试)。第二个决策是这一轮 Qwen 是否需要完整思考。写文件和改文件始终交给 Qwen。

结果范围不大,但交代得诚实。在 1242 个配对任务上,Jeff-Code 的通过率是 62.4%,单用 Qwen 是 62.8%。配对差为负 0.2 个百分点,95% 区间从负 2.6 到正 2.1。每个任务的平均耗时降到 0.68 倍,中位数 0.70 倍。所有任务的总耗时是 0.86 倍,因为在约 5% 的任务里 Jeff-Code 比单用 Qwen 多跑了 30 分钟以上。

有些基准没有明显收益:Terminal-Bench 2.0 为 0.96 倍,SkillsBench 为 0.91 倍。每一轮都关掉思考会更快,但代价是 7.6 个百分点。把 Jeff 的判断阈值放宽到 0.7,代价是 4.5 个百分点。这就是这次发布明确摆出的取舍:速度来自跳过思考,而不是取消思考。

同一周还出现了一个针对同样问题的决策模型。Liquid AI 在10月5日推出 d1,这是它的第一个决策模型,现在带视觉能力。它不生成 token,直接返回概率,每次文本决策耗时 200 到 300 毫秒。Liquid 说 d1 在六项测试应用中的四项追平或超过 GPT-6.1 Sol,成本低 19 倍到 200 倍。在一个演示里,它压缩编程智能体的上下文,去掉 52% 的 token,同时保留任务需要的每一段输出。这些是厂商数字,没有经过独立核实。

在别处,端侧方案用的是另一套数字。Interfaze 1.1 Lite 在10月5日发布到 Hugging Face。它跑在单张 80 GB GPU 上,不依赖外部服务,转录一段 95 分钟的录音大约用 90 秒。它的基准表把 MMMU-Pro 记为 73.2,Interfaze 为 71.1,GPT-5.4-Mini 为 40.4。在 GPQA Diamond 上它落后,为 85.9,对手是 92.4。

没有答案的问题是,这些在真实代码仓库里还能剩下多少。Reika 和 Jeff-Code 都没有报告在标准前沿编程基准上以完整设置跑出的结果。两个都是早期项目。它们真正说明的是,小型本地模型浪费时间的地方在上下文处理,不在参数量本身。

评论 0

资料来源

8
  1. 01Reika – A coding agent CLI designed around small local models firstEN
  2. 02Jeff-Code: a 0.8B model makes Qwen 3.8-27B coding 47% faster, same pass rateEN
  3. 03d1: The most capable decision model, now with visionEN
  4. 04Interfaze-1-lite: the first open-weight model for deterministic taskEN
  5. 05Beam: Reflection's 501B open-weight modelEN
  6. 06System One models like Jev can train their own replacementsEN
  7. 07Study: Path discovered to make AI models red-flag their doubtful answersEN
  8. 08Rust for CPython (Python Language Summit 2026)EN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。