Mistral 公开 ML4 开放权重，参数规模达 1万亿

Mistral 发布了什么

权重是模型在训练中学到的参数。公开权重后，用户可以自行运行和调整 ML4，heise online 报道称。Mistral 表示，ML4 是该公司规模最大、最先进的模型，目标是缩小与开放权重领先者的差距，包括阿里巴巴的 Qwen、谷歌的 Gemma 和 Moonshot AI 的 Kimi。ML4 共有 1万亿 参数，每个 token 激活其中 490亿。Mistral 科学副总裁 Pierre Stock 在一档播客采访中说，模型会把每个 token 分派给不同的子网络，也就是专家，因此训练成本很高，运行起来却很高效。

Stock 说，Mistral 内部把这个模型叫作 Le Chonk，因为它体量很大。

Mistral 公布的数字

这些基准数据由 Mistral 自己发布。ML4 在 Artificial Analysis Coding Agent Index 上得分 48%，与 Z.ai 的 GLM-5.3 基本持平；在 CyberGym-E2E 上得分 79%，与小米的 MiMo-V2.6-Pro 持平。heise online 报道称，这些数字部分支持了 Stock 的说法，即 ML4 是面向编程和网络安全的最佳开放权重模型。

Stock 说，网络安全是这个实验室有意押注的方向。在由模型自行规划和执行任务的智能体测试中，ML4 解决了略低于 60% 的任务，而上一代模型约为 6%，他说。他同时提醒，任何基准测试都可能被钻空子，模型应当由另一个能力足够的模型来监督。

十兆瓦与十个月的间隔

ML4 在 Mistral 位于法国的自有数据中心训练，用电 10 MW。Stock 称，与竞争对手的用量相比，这少得可笑。他说，ML4 与 Mistral 上一代模型之间隔了十个月，原因在于建设这些数据中心，以及转向强化学习。

Stock 说，最终版本在同等智能水平下少用 50% 的 token。从 10 月 6 日的预览版到开放权重发布，ML4 有明显提升，他说。量化到 FP4 后，它可以在四块 GB300 GPU 上运行。他说这仍然很多，但属于大学和研究实验室能承担的预算。Stock 还说，ML4 比 Kimi K3 小三倍。

为什么开放权重

Stock 说，对企业而言好处是没有人能切断你的访问。他表示，开放权重保障了业务连续性，并举例说，攻击期间访问可能突然被阻断。Mistral 把模型安装到客户自己的 GPU 上，之后既看不到模型也看不到数据。他承认这会让调试变得复杂。

Stock 说，Mistral 计划做一个模型家族：先推出大模型，再把它蒸馏成更小的模型，把简单的重复任务交给小模型，把困难的任务交给大模型。