亚马逊发布 Strands Decider 2B,决策模型涌入基准测试赛道
亚马逊云科技于10月1日发布开源决策模型 Strands Decider 2B。它在工作流已定好的选项之间做选择,并给出置信度分数。同周 OpenAI 宣布了类似产品,而 TypeSafe 的 Jev 在一个月前开创了这一品类。

亚马逊云科技于10月1日发布 Strands Decider 2B。这是一个小型开源模型,不写文章。它在工作流已经定义好的选项之间挑选,并报告自己对这次挑选有多大把握。TechCrunch 当天报道了这次发布,指出模型小到可以在本地运行,而且免费下载。它进入的这个品类,一个月前几乎还不存在。TypeSafe AI 是旧金山的一家实验室,由前 OpenAI 研究员 Diogo Almeida 创办。它推出的 Jev 被称为其 System One Models 的第一个成员。卖点很窄:不聊天,不生成文本,只给出软件可以直接使用的、带类型的概率答案。
决策模型实际返回什么
据 InfoQ 介绍,调用方把状态(字符串或结构化数据)和一组带类型的问题发给 Jev。模型在一次并行计算中评估这些问题,返回 Choice、Score 和 Noul 三种答案,附带概率分布和置信度数值。调用代码在高于阈值时执行动作,低于阈值时升级处理。
商业细节是公开的。输入每百万 token 收费 0.042 美元,输出免费,上下文窗口为 32000 个 token,TypeSafe 给出的端到端延迟为 70 毫秒到 500 毫秒。训练用的方法叫 Reinforcement Learning for Calibrated Decisions。这些数字来自 InfoQ 10月1日的报道。
亚马逊的版本建立在 Qen3.5-2B 的躯干上。亚马逊杰出工程师 Marc Brooker 看到 Jev 后自己动手做了一个版本。据 TechCrunch 报道,这个业余项目一度在同尺寸模型的 Jevbench 排名中登上榜首,随后亚马逊工程师把它整理干净,以 Strands Labs 的名义发布。
“最初引起我兴趣的是,这类模型非常适合充当工作流某一步的决策者,回答‘根据我当前所处的位置,下一步该做什么?’”Brooker 对 TechCrunch 说。
他说吸引力来自置信度分数和封闭的答案范围带来的可靠性,以及更低的延迟和可能更低的成本。这就是这个品类的全部销售理由,TypeSafe 讲的也是同一套。
采用数据及其局限
Jev 的早期增长是这一品类确有买家最具体的证据。据 InfoQ 报道,Vercel 在第二天就把 Jev 加进了 AI Gateway,并称它在 24 小时内覆盖了近 13% 的付费团队,是 GPT-5.6 系列份额的两倍。Netlify 随后跟进,LangChain 发布了 TypeSafeClassifier 集成,带模型路由和一个在工具调用执行前先做筛选的 AutoMode 中间件,几天之内还出现了五个独立的 Elixir 客户端。
性能方面的说法值得怀疑。Vercel 工程师 Pranit Sharma 发现,一个安全分类器运行速度比它取代的大模型快 5 到 18 倍。Bryo AI 首席技术官 Nikhil Mudholkar 认为 Gemini 在邮件分类上略准一些,但成本高出 10 到 20 倍,他把 Jev 的价值定为唯一一个返回真实概率的模型。
OpenChamber 分析了 12759 条发布当天的推文,用户自报的加速倍数中位数为 7 倍,远低于宣传的 193.6 倍。成本节省中位数为 30 倍,延迟中位数为 76 毫秒,上四分位为 270 毫秒。这些是来自社交帖子的自报数据,经过汇总,与营销数字差得很远。
Earendil 首席技术官 Armin Ronacher 对 TechCrunch 说,这种设计“把幻觉问题部分地转交给了用户”,用户得自己判断 50% 的概率值不值得据此行动。他指出模型路由是另一个合适的用途。在 Hacker News 上,一位开发者指出,Jev 不会输出类型错误的值,但仍可能输出一个完全错误的合法值。
赛道拥挤,价值不明
自 TypeSafe 提出这一想法以来,已经出现了几十个类似的模型。这说明有人关注。它也引出一个问题:单个模型到底值多少钱,尤其当底层方法是公开的、构建成本又很低的时候。
Brooker 对 TechCrunch 说,他并不认为前沿实验室一定会主导这个领域,因为市场较小,做出有意思的东西成本只有几百到几千美元。TypeSafe 的高管说他们埋头改进未来的模型。
“我明白大家觉得这是一场淘金热,但他们可能低估了让模型真正变聪明有多难,”首席执行官兼创始人 Diogo Almeida 对 TechCrunch 说。他表示,目前还没有看到针对自己公司的真正竞争出现。
Brooker 把工程上的取舍描述为在决策任务的准确性与校准之间找平衡,同时不损害模型的语言理解和常识。压住一头,另一头就会动。
底下的基准测试问题
决策模型落地时所处的测量环境本身就有争议。9月29日发布在 arXiv 上的一篇论文 More Choices, Fewer Decisions 考察了 JEV 这类直接决策模型中的序数量表偏差,直接质疑这些系统的评分方式。同一天提交的另一篇 arXiv 论文 ArgGYM 认为,在固定问题设定和稳定评估标准下取得的成功,未必能迁移到信息不完整、可修正条件下的推理,并提出一个程序化基准,包含十五种课程配置下的 1440 个经核验的实例。
临床研究指向同一个方向。一篇被 Findings EMNLP 2026 接收的论文 Sense and Sensitivity 在 6000 多个临床场景和 7000 条医生标注上比较了大模型与执业医生。结果发现,大模型在基线下比医生更容易建议不必要的治疗,在输入受到扰动时这种倾向还会增强,并且对性别和语气变化更敏感。基准测试分数没能预测出这一点。
硬件是另一个维度。同样在9月29日发布的 AgBench 在 16207万 个数据点上评估了本地、混合和云端三种智能体执行方式,发现没有任何一种架构在任务成功率、有效吞吐、云成本和数据暴露四个方面都表现最好。纯本地执行消除了云 API 成本和敏感信息暴露,但任务成功率通常更低,完成时间更长。
这个结论对亚马逊主打本地的思路很关键。Strands Decider 2B 可以在你自己的机器上运行。至于某个具体工作流该不该这么做,取决于 AgBench 说没人放进同一张可比表格里的那些数字。
同一周还出现了另一种完全不同的发布。谷歌于9月30日推出 Gemini 4 Argon,称其为迄今最强的模型,但只通过 Fairwind Program 向一小批网络安全合作伙伴开放。《卫报》10月1日报道,谷歌首席 AI 架构师 Koray Kavukcuoglu 写道,在这个级别上安全地发布前沿能力需要分阶段推进,谷歌正自愿让美国政府提前获得访问权限。
这种对比就是这个月的故事。一端是任何人都能下载、在笔记本上运行的 2B 模型。另一端是出于滥用风险而不向公众开放的前沿系统,此前 OpenAI 在对齐测试失败后放弃了 GPT-6.1 Astra,CNBC 和 WIRED 在9月28日和29日报道了此事。
决策模型不在那条轴线上竞争。它们争的是:某个工作流步骤能否比调用通用模型更便宜、更快、更可预测。9月30日发布在 GitHub 上的项目 Jevstiller 把这套逻辑推到了终点:它挡在反复出现的 Jev 分类调用前面,从 Jev 自己的概率分布中学习,一旦本地模型在给定预算内与 Jev 一致,就由本地回答大部分请求。在 Banking77 上对照 Jev 的记录答案回放时,本地模型回答了 71.9% 的留出消息,与 Jev 的一致率为 99.50%,从大约 5000 条消息起接管了大部分流量。
这个品类的经济账仍在被检验。Vercel 在 24 小时内覆盖 13% 的付费团队是真实的采用,但那是免费层网关集成的采用,不能证明有持续的付费。OpenChamber 统计的中位数 7 倍加速远低于宣传数字。而本周陆续出现的基准论文说明,这个领域还没有就如何区分好的决策者和快的决策者达成一致。
眼下,这些模型便宜、开放,数量还在增加。测量手段没有跟上。
资料来源
11- 01Amazon releases its own Jev clone as decision models flood the webEN
- 02TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
- 03More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
- 04ArgGYM: A Procedural, Engine-Verified Benchmark for Structured Defeasible ReasoningEN
- 05Sense and Sensitivity: Benchmarking LLM Clinical Triage Recommendations with Physician ExpertsEN
- 06AgBench: Agentic AI Benchmarks for Personal AI DevicesEN
- 07Jevstiller: Distill a repeated Jev classification task into a local modelEN
- 08Google rolls out new Gemini AI model but restricts access over safety concernsEN
- 09Google releases Gemini 4 Argon, called its most powerful model yetEN
- 10OpenAI abandons plan to release upcoming model as safety concerns escalateEN
- 11OpenAI Delays Release of Latest Model Over Safety ConcernsEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。