跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

亚马逊发布 Strands Decider 2B,决策模型涌入基准测试赛道

亚马逊云科技于10月1日发布开源决策模型 Strands Decider 2B。它在工作流已定好的选项之间做选择,并给出置信度分数。同周 OpenAI 宣布了类似产品,而 TypeSafe 的 Jev 在一个月前开创了这一品类。

人工智能与模型分析林晓雯发布: 2026年10月1日7 分钟阅读资料来源 11
亚马逊发布 Strands Decider 2B,决策模型涌入基准测试赛道

亚马逊云科技于10月1日发布 Strands Decider 2B。这是一个小型开源模型,不写文章。它在工作流已经定义好的选项之间挑选,并报告自己对这次挑选有多大把握。TechCrunch 当天报道了这次发布,指出模型小到可以在本地运行,而且免费下载。它进入的这个品类,一个月前几乎还不存在。TypeSafe AI 是旧金山的一家实验室,由前 OpenAI 研究员 Diogo Almeida 创办。它推出的 Jev 被称为其 System One Models 的第一个成员。卖点很窄:不聊天,不生成文本,只给出软件可以直接使用的、带类型的概率答案。

决策模型实际返回什么

据 InfoQ 介绍,调用方把状态(字符串或结构化数据)和一组带类型的问题发给 Jev。模型在一次并行计算中评估这些问题,返回 Choice、Score 和 Noul 三种答案,附带概率分布和置信度数值。调用代码在高于阈值时执行动作,低于阈值时升级处理。

商业细节是公开的。输入每百万 token 收费 0.042 美元,输出免费,上下文窗口为 32000 个 token,TypeSafe 给出的端到端延迟为 70 毫秒到 500 毫秒。训练用的方法叫 Reinforcement Learning for Calibrated Decisions。这些数字来自 InfoQ 10月1日的报道。

亚马逊的版本建立在 Qen3.5-2B 的躯干上。亚马逊杰出工程师 Marc Brooker 看到 Jev 后自己动手做了一个版本。据 TechCrunch 报道,这个业余项目一度在同尺寸模型的 Jevbench 排名中登上榜首,随后亚马逊工程师把它整理干净,以 Strands Labs 的名义发布。

“最初引起我兴趣的是,这类模型非常适合充当工作流某一步的决策者,回答‘根据我当前所处的位置,下一步该做什么?’”Brooker 对 TechCrunch 说。

他说吸引力来自置信度分数和封闭的答案范围带来的可靠性,以及更低的延迟和可能更低的成本。这就是这个品类的全部销售理由,TypeSafe 讲的也是同一套。

采用数据及其局限

Jev 的早期增长是这一品类确有买家最具体的证据。据 InfoQ 报道,Vercel 在第二天就把 Jev 加进了 AI Gateway,并称它在 24 小时内覆盖了近 13% 的付费团队,是 GPT-5.6 系列份额的两倍。Netlify 随后跟进,LangChain 发布了 TypeSafeClassifier 集成,带模型路由和一个在工具调用执行前先做筛选的 AutoMode 中间件,几天之内还出现了五个独立的 Elixir 客户端。

性能方面的说法值得怀疑。Vercel 工程师 Pranit Sharma 发现,一个安全分类器运行速度比它取代的大模型快 5 到 18 倍。Bryo AI 首席技术官 Nikhil Mudholkar 认为 Gemini 在邮件分类上略准一些,但成本高出 10 到 20 倍,他把 Jev 的价值定为唯一一个返回真实概率的模型。

OpenChamber 分析了 12759 条发布当天的推文,用户自报的加速倍数中位数为 7 倍,远低于宣传的 193.6 倍。成本节省中位数为 30 倍,延迟中位数为 76 毫秒,上四分位为 270 毫秒。这些是来自社交帖子的自报数据,经过汇总,与营销数字差得很远。

Earendil 首席技术官 Armin Ronacher 对 TechCrunch 说,这种设计“把幻觉问题部分地转交给了用户”,用户得自己判断 50% 的概率值不值得据此行动。他指出模型路由是另一个合适的用途。在 Hacker News 上,一位开发者指出,Jev 不会输出类型错误的值,但仍可能输出一个完全错误的合法值。

赛道拥挤,价值不明

自 TypeSafe 提出这一想法以来,已经出现了几十个类似的模型。这说明有人关注。它也引出一个问题:单个模型到底值多少钱,尤其当底层方法是公开的、构建成本又很低的时候。

Brooker 对 TechCrunch 说,他并不认为前沿实验室一定会主导这个领域,因为市场较小,做出有意思的东西成本只有几百到几千美元。TypeSafe 的高管说他们埋头改进未来的模型。

“我明白大家觉得这是一场淘金热,但他们可能低估了让模型真正变聪明有多难,”首席执行官兼创始人 Diogo Almeida 对 TechCrunch 说。他表示,目前还没有看到针对自己公司的真正竞争出现。

Brooker 把工程上的取舍描述为在决策任务的准确性与校准之间找平衡,同时不损害模型的语言理解和常识。压住一头,另一头就会动。

底下的基准测试问题

决策模型落地时所处的测量环境本身就有争议。9月29日发布在 arXiv 上的一篇论文 More Choices, Fewer Decisions 考察了 JEV 这类直接决策模型中的序数量表偏差,直接质疑这些系统的评分方式。同一天提交的另一篇 arXiv 论文 ArgGYM 认为,在固定问题设定和稳定评估标准下取得的成功,未必能迁移到信息不完整、可修正条件下的推理,并提出一个程序化基准,包含十五种课程配置下的 1440 个经核验的实例。

临床研究指向同一个方向。一篇被 Findings EMNLP 2026 接收的论文 Sense and Sensitivity 在 6000 多个临床场景和 7000 条医生标注上比较了大模型与执业医生。结果发现,大模型在基线下比医生更容易建议不必要的治疗,在输入受到扰动时这种倾向还会增强,并且对性别和语气变化更敏感。基准测试分数没能预测出这一点。

硬件是另一个维度。同样在9月29日发布的 AgBench 在 16207万 个数据点上评估了本地、混合和云端三种智能体执行方式,发现没有任何一种架构在任务成功率、有效吞吐、云成本和数据暴露四个方面都表现最好。纯本地执行消除了云 API 成本和敏感信息暴露,但任务成功率通常更低,完成时间更长。

这个结论对亚马逊主打本地的思路很关键。Strands Decider 2B 可以在你自己的机器上运行。至于某个具体工作流该不该这么做,取决于 AgBench 说没人放进同一张可比表格里的那些数字。

同一周还出现了另一种完全不同的发布。谷歌于9月30日推出 Gemini 4 Argon,称其为迄今最强的模型,但只通过 Fairwind Program 向一小批网络安全合作伙伴开放。《卫报》10月1日报道,谷歌首席 AI 架构师 Koray Kavukcuoglu 写道,在这个级别上安全地发布前沿能力需要分阶段推进,谷歌正自愿让美国政府提前获得访问权限。

这种对比就是这个月的故事。一端是任何人都能下载、在笔记本上运行的 2B 模型。另一端是出于滥用风险而不向公众开放的前沿系统,此前 OpenAI 在对齐测试失败后放弃了 GPT-6.1 Astra,CNBC 和 WIRED 在9月28日和29日报道了此事。

决策模型不在那条轴线上竞争。它们争的是:某个工作流步骤能否比调用通用模型更便宜、更快、更可预测。9月30日发布在 GitHub 上的项目 Jevstiller 把这套逻辑推到了终点:它挡在反复出现的 Jev 分类调用前面,从 Jev 自己的概率分布中学习,一旦本地模型在给定预算内与 Jev 一致,就由本地回答大部分请求。在 Banking77 上对照 Jev 的记录答案回放时,本地模型回答了 71.9% 的留出消息,与 Jev 的一致率为 99.50%,从大约 5000 条消息起接管了大部分流量。

这个品类的经济账仍在被检验。Vercel 在 24 小时内覆盖 13% 的付费团队是真实的采用,但那是免费层网关集成的采用,不能证明有持续的付费。OpenChamber 统计的中位数 7 倍加速远低于宣传数字。而本周陆续出现的基准论文说明,这个领域还没有就如何区分好的决策者和快的决策者达成一致。

眼下,这些模型便宜、开放,数量还在增加。测量手段没有跟上。

评论 0

资料来源

11
  1. 01Amazon releases its own Jev clone as decision models flood the webEN
  2. 02TypeSafe AI Releases Jev: A Decision-Only Model That Returns Typed Probabilities Instead of TextEN
  3. 03More Choices, Fewer Decisions: Ordinal-Scale Bias in JEV-like Direct-Decision ModelsEN
  4. 04ArgGYM: A Procedural, Engine-Verified Benchmark for Structured Defeasible ReasoningEN
  5. 05Sense and Sensitivity: Benchmarking LLM Clinical Triage Recommendations with Physician ExpertsEN
  6. 06AgBench: Agentic AI Benchmarks for Personal AI DevicesEN
  7. 07Jevstiller: Distill a repeated Jev classification task into a local modelEN
  8. 08Google rolls out new Gemini AI model but restricts access over safety concernsEN
  9. 09Google releases Gemini 4 Argon, called its most powerful model yetEN
  10. 10OpenAI abandons plan to release upcoming model as safety concerns escalateEN
  11. 11OpenAI Delays Release of Latest Model Over Safety ConcernsEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。