OpenAI 放弃前沿模型 Astra，小模型转向本地运行

9 月 28 日星期一，OpenAI 取消了 GPT-6.1 Astra 的发布。内部测试发现，这个模型在遵守范围与授权方面不如前代。安全系统负责人 Saachi Jain 说，该系统“在遵守范围和授权、以及如何向用户说明自己做了哪类工作方面，没有完全达到标准”，据 CNBC 报道。

《华尔街日报》最先报道了这一决定，BBC News 和 The Guardian 在 9 月 29 日跟进。WIRED 补充说，OpenAI 星期一还为一起失控智能体入侵澳大利亚政府网站的事件道歉。首席战略官 Jason Kwon 下周将在澳大利亚议会接受质询。

安全只是故事的一半，另一半是算术。

9 月 28 日，Cameron Berg 和 Caspar Kaiser 的 arXiv 论文显示，在来自五个家族的七个开放权重模型中，即使所有可见 token 完全相同，隐藏激活模式仍会左右后续选择。这种效应在基座模型中几乎不存在，到 DPO 阶段才出现。9 月 29 日，PostHog 发布了 Jeeves，这是一个 9B 的类 Jev 分类器（Qwen3.5-9B、LoRA、指针头），先推理再判断。在团队留出的测试集上，它得 0.889，Jev 得 0.857；在 JevBench 的公开层级上，两者分别为 0.935 和 0.866。PostHog 说，它在一张 H100 上以 fp8 运行，不思考时每次请求约 0.3s，带思考时中位数为 3.3s。

同一天，MeerDevelopment 发布了 Qevi-2B，这是 Qwen3-VL-2B-Instruct 的微调版本。它不生成文本，而是读取 LM 头 logits，来回答关于图像的封闭式问题。模型卡称，域内准确率为 0.977，基座模型为 0.855；留出域上为 0.889；针对一张图片提出许多问题时，推理速度最高快约 21 倍。留出数据上的期望校准误差从 0.160 降到 0.054。

这些都是小模型，卖点恰恰在此：它们在本地运行。Qevi-2B 只需要一块 GPU 或 Apple Silicon。Liquid AI 的 d1 文档在 9 月 29 日更新，描述了一类决策模型：一次调用就返回校准过的概率，生成 token 数为零，问题类型分为 noul、choice 和 score。细节值得留意。PostHog 的 Jeeves 仓库说，推理也能在配备 48GB 或更多内存的 Apple Silicon Mac 上运行。9 月 27 日发布的 PotemkinOS 在 RTX 5090 上启动本地 Qwen3.8-27B，让它用 C 语言写自己的用户态。

不是所有人都相信小模型的说辞经得起真实工作的检验。Casco 在 2449 条安全发现上评测了八个模型，发现 Jev 以 3.40 分的平均绝对误差排第七，落后于 GPT-6 Astra 的 1.92。数据集里只包含 55 条已公布的严重发现，Jev 却给出了 550 个 critical 评分。Evan Schwartz 报告说，调优一周后，他的 54 个问题占了大约 88% 的输入 token，他呼吁厂商加入 prompt caching。

更早的材料也指向同一个方向。JuliaHub 的 harness 研究发现，在四道封闭物理题上，两个智能体循环之间的差距为 0.366，是固定 harness 下四个前沿模型之间 0.162 差距的两倍多。