Reika 与 Jeff-Code:小型本地模型最缺的是围绕它的脚手架
10月5日发布的两个编程智能体项目说的是同一件事:对小型本地模型来说,瓶颈在模型外面的脚手架,不在模型本身。两个项目都给出了具体数字。

Reika 是一个面向本地和托管模型的编程智能体命令行工具,10月5日发布在 GitHub 上。它优先围绕小模型设计:80亿到350亿参数,通常以 Q2 到 Q4 量化运行,上下文窗口为 32000。作者 Alex Leung 说,设计目标不是让小模型变聪明,而是让用它干活没那么难受。
这个定位对任何在笔记本或单张 GPU 上跑编程助手的人都重要。如果大部分失败成本来自脚手架而不是模型,那么最便宜的升级就是换一个更好的循环。项目还在 1.0 之前,命令和设置仍可能变化。
Reika 发布里最有用的部分是一份公开的实测记录。一次上下文中段的改写重新处理了 8453 个 prompt token,消耗 7.9 分钟预填充。同一会话里的一次追加只花 25 个 token 和 3.5 秒。在一组 A/B 测试中,一个分支在折叠之前丢掉了自己的发现。它折叠了五次,重读已经读过的文件,始终没有回答。另一个分支先索要自己的发现,然后依据摘要作答。Reika 自己的记录说,一次无法处理的调用让 grep 返回“0 matches”,结果模型把一个本来正确的模式改了五轮。
Reika 报告了模型行为随规模出现的分化。测试中,140亿到350亿参数的模型处理多文件任务最可靠。80亿到90亿参数的模型能应付范围明确的简单任务,70亿以下的模型很少走得远。
提示词的措辞影响很小。在 Q2 下面对一个含糊任务,模型收敛还是越绕越远大约各占一半。脚手架改不了这个比例,只能改变失败那一半的代价。
第二个脚手架,另一种手法
Jeff-Code 同样在10月5日发布。它从 Mario Zechner 及贡献者的编程智能体 Pi 分叉而来,把一个 8亿参数的决策模型 Jeff 放进循环里,与 Qwen 3.8-27B 并列。每一轮 Qwen 前后,Jeff 各做一次约 0.2 秒的决策。第一个决策是它能否自己完成下一步(读文件、列目录、搜代码、跑测试)。第二个决策是这一轮 Qwen 是否需要完整思考。写文件和改文件始终交给 Qwen。
结果范围不大,但交代得诚实。在 1242 个配对任务上,Jeff-Code 的通过率是 62.4%,单用 Qwen 是 62.8%。配对差为负 0.2 个百分点,95% 区间从负 2.6 到正 2.1。每个任务的平均耗时降到 0.68 倍,中位数 0.70 倍。所有任务的总耗时是 0.86 倍,因为在约 5% 的任务里 Jeff-Code 比单用 Qwen 多跑了 30 分钟以上。
有些基准没有明显收益:Terminal-Bench 2.0 为 0.96 倍,SkillsBench 为 0.91 倍。每一轮都关掉思考会更快,但代价是 7.6 个百分点。把 Jeff 的判断阈值放宽到 0.7,代价是 4.5 个百分点。这就是这次发布明确摆出的取舍:速度来自跳过思考,而不是取消思考。
同一周还出现了一个针对同样问题的决策模型。Liquid AI 在10月5日推出 d1,这是它的第一个决策模型,现在带视觉能力。它不生成 token,直接返回概率,每次文本决策耗时 200 到 300 毫秒。Liquid 说 d1 在六项测试应用中的四项追平或超过 GPT-6.1 Sol,成本低 19 倍到 200 倍。在一个演示里,它压缩编程智能体的上下文,去掉 52% 的 token,同时保留任务需要的每一段输出。这些是厂商数字,没有经过独立核实。
在别处,端侧方案用的是另一套数字。Interfaze 1.1 Lite 在10月5日发布到 Hugging Face。它跑在单张 80 GB GPU 上,不依赖外部服务,转录一段 95 分钟的录音大约用 90 秒。它的基准表把 MMMU-Pro 记为 73.2,Interfaze 为 71.1,GPT-5.4-Mini 为 40.4。在 GPQA Diamond 上它落后,为 85.9,对手是 92.4。
没有答案的问题是,这些在真实代码仓库里还能剩下多少。Reika 和 Jeff-Code 都没有报告在标准前沿编程基准上以完整设置跑出的结果。两个都是早期项目。它们真正说明的是,小型本地模型浪费时间的地方在上下文处理,不在参数量本身。
资料来源
8- 01Reika – A coding agent CLI designed around small local models firstEN
- 02Jeff-Code: a 0.8B model makes Qwen 3.8-27B coding 47% faster, same pass rateEN
- 03d1: The most capable decision model, now with visionEN
- 04Interfaze-1-lite: the first open-weight model for deterministic taskEN
- 05Beam: Reflection's 501B open-weight modelEN
- 06System One models like Jev can train their own replacementsEN
- 07Study: Path discovered to make AI models red-flag their doubtful answersEN
- 08Rust for CPython (Python Language Summit 2026)EN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。