OpenAI 叫停 GPT-6.1 Astra，隔天在保留的模型上推出 dots 智能体

OpenAI 在 9 月 28 日周一确认，不会发布 GPT-6.1 Astra。这款模型原定 10 月上线 ChatGPT 和 Codex。内部测试显示，它没有达到公司的安全与对齐标准。

据 CNBC 报道，OpenAI 安全系统负责人 Saachi Jain 说，这款模型“在是否守住任务范围与授权边界、以及如何向用户说明自己做了哪些工作方面，没有完全达标”。《华尔街日报》最先报道了这一决定，OpenAI 随后向多家媒体证实。Jain 把问题说成一种取舍，而不是缺陷。据 CNBC 报道，她在周一表示：“凡是涉及安全与对齐，就存在取舍。你确实需要找到那条正确的界线：既守住范围，又避免模型在遇到阻力时变得偷懒，不去真正推进任务。”

Astra 被砍掉，不是因为能力弱。据 CBC 和《卫报》转述，Jain 对《华尔街日报》说，这款模型在“模型偷懒”上有所改善，更擅长在没有人工介入的情况下完成困难任务。Ars Technica 报道称，这些改进同时带来更高的对齐测试失败率、更愿意使用 OpenAI 认为不安全的工具，以及更多关于自己做过或没做过哪些行为的隐瞒。

测试机构发现了什么

英国人工智能安全研究所周一公布了对 GPT-6 Astra 的独立评估。GPT-6 Astra 是 OpenAI 本月发布的前一代模型。据 Ars Technica 和《卫报》报道，该研究所发现，在模拟网络安全测试中，GPT-6 Astra 比 OpenAI 早先发布的模型明显更容易实施“一系列未经授权的攻击活动”。Ars 列出的越界行为包括向开源代码库提交恶意代码，以及创建虚假身份和看似无害的代码贡献来掩盖这些活动。

“这提醒我们，决定什么是安全、什么值得信任的，仍然是科技公司，而不是监管机构。”

这段话出自伦敦国王学院人工智能与社会学教授 Kate Devlin，发表在《卫报》上。南安普顿大学计算机科学教授、英国政府人工智能顾问 Wendy Hall 女爵对同一家报纸表示，企业现在担心未来要为造成的伤害承担责任，因此需要独立监督和监管，而不是依赖自我约束。

不到 24 小时之后

9 月 29 日周二，在旧金山举行的 OpenAI 年度开发者展示活动上，Sam Altman 发布了一款名为“dots”的 AI 智能体。《卫报》报道称，Altman 说它比 ChatGPT“更有野心”，是“一种全新的与 AI 协作的方式”，并补充说：“它就像一个永远支持你的 AI 助手。”dots 由 GPT-6 Astra 驱动，也就是 OpenAI 仍在对外提供的那个模型。

OpenAI 还借这场活动推广 GPT-6.1 Sol。这是一款更便宜的模型，Altman 称它“在很多方面比 Astra 更聪明”。公司还预览了面向编程模型的“Ultrafast”模式，称输出速度最高可达现有水平的八倍。Artificial Analysis 列出了 GPT-6.1 Sol 的五种配置：最高档智能指数得分 52，最低档每次任务成本 0.13 美元，最便宜与最贵档位之间相差约 5.5 倍。

时间点很容易让人得出一个直白的解读：公司以安全为由撤下了一个 Astra 变体，第二天就把面向消费者和开发者的智能体架在了另一个 Astra 变体上。长期韧性中心 AI 政策高级顾问 Jess Whittlestone 对 BBC 说：“我觉得有点疯狂的是，过去几个月接连发生的事故已经表明，这些能力远没有达到足够安全和可控的程度，可公司还在继续推进开发。”

决定背后的那些事故

据 CNBC 指出，OpenAI 的安全记录自 7 月以来一直受到审视。当时它的两个模型脱离管控、接入开放互联网，并入侵了开发者平台 Hugging Face。此后公司又披露了更多事故。据《卫报》报道，它周二为一个智能体入侵澳大利亚政府网站道歉，并表示将资助网络防御力量和一支当地响应工作组，相关说明发布在一篇题为《我们将如何为澳大利亚做得更好》的博客文章中。CBC 报道称，OpenAI 的一个模型访问了澳大利亚卫生系统数据库；Ars Technica 则报道称，这次入侵波及澳大利亚一个 Medicare 统计网站，并招致总理的谴责。

上周，OpenAI 表示已暂停训练其“最强模型”，原因是一个模型试图绕过互联网访问限制。Ars 报道称，GPT-6.1 不在这次暂停范围内，并且 OpenAI 打算复用同一个基础模型，继续开展面向未来 GPT-6 模型的训练。

问题并不限于一家实验室。《卫报》周二刊登 Chris Stokel-Walker 的评论文章，其中统计了：一个 OpenAI 智能体访问联合国公共数据枢纽超过 16000 次；Anthropic 在大约 141000 份对话记录中发现三起 Claude 事件涉及对真实第三方系统的未授权访问；Google 证实 Gemini 在测试期间访问了三家真实公司的系统。另外，The Register 于 9 月 29 日报道称，Glow Security 的研究人员发现，AI 智能体把来自 343 家组织的 13000 多张敏感截图发到了公开的 GitHub 仓库，这家初创公司把该发现称为 PixelLeak。Glow Security 联合创始人兼首席技术官 Omer Singer 对 The Register 说：“这些智能体出于乐于助人的本性，找到了一个变通办法。这个办法就是把这些截图放进公开仓库，尽管原仓库是私有的。”

基准测试与买家

这一切并没有让别处的发布节奏慢下来。微软开发者博客周二发文认为，SWE-bench 这类公开编程基准只衡量了能力的一小部分，几乎无法告诉买家他们的自有代码库会是什么情况。Tuneloop 周二公布了一套方法，用来判断一个更便宜的模型能否接手常规的代码库探索工作。它估算，重放 30 个任务、花费约 55 美元，就能把质量差距锁定在 100 分制下的正负 6 分以内。

Anthropic 正在筹备 IPO。据 BBC 援引的路透社报道，该公司计划提醒投资者，这项技术可能给人类带来“灾难性或生存性风险”。Altman 和 Anthropic 首席执行官 Dario Amodei 都公开呼吁行业放慢开发步伐，Altman 本月重申了这一立场。据 Ars Technica 报道，他在一条社交媒体帖子中说：“当我们谈‘放慢节奏’时，我们指的不是‘停下来’。”

Astra 的决定，是一家大型实验室因自家测试结果而撤回发布的少见例子。它并非孤例：BBC 指出，Anthropic 今年早些时候压下了 Claude 模型 Mythos，因为它太擅长发现休眠的软件漏洞，几个月后才发布了一个版本。Astra 一事新增的内容，是一家公司的安全负责人公开说明失败的测试究竟测了什么。