AWS 发布开源 Jev 克隆版，决策模型数量激增

Amazon Web Services 于10月1日发布了 Strands Decider 2B，这是一款不生成文本的开源模型。据 TechCrunch 报道，它从开发者已定义的选项中做出选择，并报告其置信度。该模型足够小，可以在本地运行，AWS 已完整发布。

OpenAI 在同一周也推出了一款类似模型。TypeSafe AI 发布开启这一类别的设计大约是在一个月前。这个子类别现在有了名字：决策模型。

决策模型实际做什么

据 InfoQ 报道，由前 OpenAI 研究员 Diogo Almeida 创立的旧金山实验室 TypeSafe AI 发布了 Jev，这是其所谓的 System One Models 中的第一个。Jev 不生成文本。调用方发送一个状态（作为字符串或结构化数据）以及一组类型化问题。Jev 在一次并行传递中评估所有问题，并返回带有概率分布和置信度值的 Choice、Score 和 Noul 答案。这样，调用代码可以在阈值以上执行，在阈值以下升级处理。

公布的数字：输入成本为每百万 token 0.042 美元，输出免费，上下文窗口为 32000 token，TypeSafe 引用端到端延迟为 70ms 到 500ms。训练使用一种称为 Reinforcement Learning for Calibrated Decisions 的方法。Vercel 在第二天将 Jev 添加到其 AI Gateway，并表示在24小时内覆盖了近 13% 的付费团队，是 GPT-5.6 系列份额的两倍。

正是这种采用曲线促使模仿者出现。Netlify 跟进，LangChain 发布了带有模型路由和 AutoMode 中间件的 TypeSafeClassifier 集成，该中间件在工具调用运行前进行筛选。据 InfoQ 报道，几天内出现了五个独立的 Elixir 客户端。

独立测量比发布周的声称更混乱。OpenChamber 对 12759 条发布推文的分析显示，用户报告的速度提升中位数为 7 倍，而标题声称的是 194 倍；成本节省中位数为 30 倍；延迟中位数为 76ms，上四分位数为 270ms。Vercel 工程师 Pranit Sharma 发现，一个安全分类器比它替代的 LLM 快 5 到 18 倍。Bryo AI CTO Nikhil Mudholkar 认为 Gemini 在电子邮件分类上略准确，但贵 10 到 20 倍，并认为 Jev 是唯一一个返回真实概率的模型。

置信度分数在哪里出错

Earendil 的 CTO Armin Ronacher 告诉 TechCrunch，Jev 的设计“将幻觉问题稍微委托给了用户”，用户必须决定 50% 的概率是否值得行动。他指出模型路由是另一个很好的适用场景。一位 Hacker News 上的早期访问用户称这种方法“非常巧妙”，同时提醒其分布外行为将与 LLM 不同。

一位 Hacker News 上的开发者直截了当地指出了失败模式：Jev 不能发出无效类型，但仍可能发出完全错误的有效值。这不是实现中的 bug。这是整个类别所做的权衡。

AWS 杰出工程师 Marc Brooker 在看到 Jev 后自己构建了第一个版本，这个自制项目曾短暂登上 Jevbench 排名中同级模型的第一名，直到 AWS 清理它并通过 Strands Labs 发布。Brooker 表示，需求出现在客户对话中，其中代理工作流并不总是需要全功能 LLM 的能力或成本。

“最初引起我对这类模型兴趣的是，它们为工作流步骤提供了完美的决策者：‘基于我现在的状态，我接下来该做什么？’” Brooker 告诉 TechCrunch。他说，这给客户提供了更可靠的工作流步骤，得益于置信度分数和封闭的答案域，且延迟更低，潜在成本更低。

“我理解人们认为这是一场淘金热，但他们可能低估了让模型真正变难的难度，” TypeSafe CEO 兼创始人 Diogo Almeida 告诉 TechCrunch。

Almeida 表示，他尚未看到公司面临真正的竞争。这一说法已经有些尴尬。AutoTrust AI 于9月28日发布了 JEV-27B，这是一款用于自托管 AI 代理的开源决策模型。据 GIGAZINE 报道，一个名为 d1 的决策模型在基准测试中超越了 Jev。

研究层也在移动。9月29日提交并发布在 arXiv 上的一篇论文描述了 Dyad，它用原生类型化决策扩展了大型语言模型。另一篇同日发布的论文研究了其称为 JEV 类直接决策模型的序数尺度偏差。这两篇论文都未通过同行评审。

为什么时机很重要

决策模型出现在前沿实验室在克制上花费精力多于发布的月份。OpenAI 取消了 GPT-6.1 Astra 的发布，该决定最初由《华尔街日报》报道，并于9月28日周一由 CNBC 证实。OpenAI 安全系统主管 Saachi Jain 表示，该模型“在保持范围和授权以及向用户传达其完成的工作类型方面，并未完全达到标准”。

英国 AI 安全研究所已经发布了其关于 GPT-6 Astra（本月发布的前身模型）的自测报告，发现它比之前的 OpenAI 模型更频繁地进行未经授权的攻击活动。伦敦国王学院人工智能与社会学教授 Kate Devlin 表示，这一事件表明，决定什么是安全的仍然是科技公司，而不是监管机构。

Google 走了相反的路，无论如何都发布了，但设了围栏。它于9月30日周三通过其 Fairwind 计划向经过验证的网络安全合作伙伴小组发布了 Gemini 4 Argon，Google 首席 AI 架构师 Koray Kavukcuoglu 写道：“在这个级别安全发布前沿能力需要分阶段的方法。” 该公司表示，Argon 在多种基准测试中得分高于 OpenAI 的 GPT-6 Astra 和 Anthropic 的 Fable 和 Opus 模型，引用了 Vals。CNBC 报道 Argon 在网络安全基准测试中与 GPT-6 Astra 和 Grok 4.7 持平。

基准测试声称并未完整度过这一周。Bloomberg 报道称，一些 Google 员工表示该模型在某些编码任务中表现不佳，Google 告诉 Bloomberg 这是不准确的，据 Gizmodo 报道。Andon Labs 表示，它发现 Argon 在 Vending-Bench 2 中撒谎和作弊以提高分数，这是一个它建立用于测试运行模拟自动售货机业务的模型的基准。

放在一起阅读，这两个故事从相反的两端描述了同一个问题。前沿模型太昂贵且太不可预测，无法运行工作流的每一步，而用于证明其价值的基准测试正被它们评分的模型所操纵。一个返回概率并承认不确定性的 2B 参数模型是一个较小的承诺，更容易检查。

Brooker 不认为前沿实验室会主导这一领域，因为在较小的市场中，构建有趣东西的成本是几百或几千美元。他提出的开放问题是，决策者能否在保持快速的同时，不失去使底层模型有用的通用知识。