Sarvam AI 发布 Prism：开放权重的决策模型，中位响应时间 44 毫秒

Sarvam AI 于 2026 年 11 月 3 日发布 Sarvam Prism。这个开放权重模型不生成文字，而是对一份固定的选项清单打分。这家位于班加罗尔的公司在一篇博客文章中表示，模型在单块 NVIDIA B200 GPU 上的中位响应时间为 44 毫秒，三项指数平均得分 71.8。

它是决策模型，不是聊天机器人

Sarvam 表示，Prism 对一份固定的选项清单打分，并返回概率。

据 Sarvam 介绍，每个请求包含一个状态、一个问题以及任意数量的选项。Prism 用一次前向传播处理这些输入。一个小型打分头为每个选项分配概率，自定义注意力掩码让各选项彼此隔离。Sarvam 通过对 Sarvam 1050亿 参数模型做 LoRA 微调得到这个模型。

Sarvam 还把模型路由列为经过测试的用途之一。

准确率与速度

Sarvam Prism 在三项指数上平均得分 71.8：Jev Decision Index 上为 67.0，Sarvam 复现的 Artificial Analysis Decision Index 上为 65.9，内部印度语基准上为 82.5。

Sarvam 称，在它评测的 25 个决策模型中，这是响应时间低于 100 ms 的模型里最高的平均分。这组模型包括 Prism 和 24 个竞品。测试都在同一类芯片上运行，不过两个仅有 API 的系统 Jev 1.14 和 Microsoft-Decision-1 用的是公开报告的耗时，而非本地实测。

它并不是表中准确率最高的模型。Mammoth-1 得分 75.2，但中位响应时间为 284 ms。Sarvam 表示，初始配置在两块 B200 GPU 上以 16 位精度运行时，中位耗时为 664 ms；把权重转成 FP8 之后，模型才能装进一块 GPU。

校准与语言测试

在英文下置信度不低于 90% 时，Sarvam 预期错误率为 3.3%。实际错误率为 2.2%，测试覆盖 37 个公开基准的 226088 个问题。

在 10 种印度语言和 Hinglish 的 20108 个问题上，预期错误率为 5.4%，实际为 4.4%。在另一项 2000 个问题的测试中，把选项打乱成四种顺序后按收到的顺序打分，Prism 有 4.0% 的答案发生变化。Sarvam 表示，打分前先把选项放进固定的内部顺序，再按原始标签返回每个概率，这些变化就消失了。

在 Sarvam 内部的印度语基准上，Sarvam Prism 得分 82.5，Perplexity Decider v1.2 得分 75，Jev 1.14 得分 70.8。在覆盖九项任务的 5517 个问题的内部网络安全基准上，它的准确率为 89%。Clef 得分 84.5%，Jev 1.14 得分 78.6%。

开放权重，一块 GPU

Sarvam 在 Hugging Face 上以 Apache 2.0 许可发布权重，并通过 Sarvam Indus 上的 Sarvam API 提供托管访问。公司表示，部署需要一块至少 120 GB 显存的 GPU。

Sarvam 称，Prism 每个问题最多处理 131072 个 token。这足以一次评估一段很长的智能体轨迹。Sarvam 表示，企业可以用自己的数据训练这个模型。它把客服路由、文档理解、安全检查以及 AI 智能体表现评估列为早期应用方向。

尚未确定的部分

这次对比由 Sarvam 自己完成。平均分由三项指数混合而成：Jev Decision Index、Sarvam 复现的 Artificial Analysis Decision Index，以及一项内部印度语基准。