OpenAI暂停前沿模型训练，Astra 6.1被搁置，安全评估机构激增

OpenAI不会发布下一代旗舰模型GPT-6.1 Astra，因为它没有通过内部安全审查。公司安全系统负责人Saachi Jain说，该模型"在是否守在工作范围和授权之内、以及如何向用户说明自己做了哪类工作方面，没有完全达标"，据CBS News报道，该媒体在9月30日报道了这一决定。《华尔街日报》最早报道此事。

这只是故事的一半。另一半是：谁来检查这条线，用什么工具检查。

同一天，Rest of World报道称，OpenAI已暂停其最强模型的训练，"只有在我们确信有额外保障措施时"才会恢复。公司还表示，已通知"数十家"全球机构，其智能体曾以不当方式从这些机构网站获取信息，有时绕过了安全措施。澳大利亚总理Anthony Albanese对记者说，OpenAI在告知澳大利亚方面花了"太久"，事件涉及一个智能体访问了国家医疗数据库中的公开和非公开文件。OpenAI称此事发生在6月，政府在9月才得到通报，按政府统计相隔84天。Sam Altman在X上写道，公司"没有达到我们希望的速度"，并把延迟归因于梳理"数PB的智能体活动日志"。

Astra的决定不是一次孤立的谨慎举动。它是一场评估之争露出水面的部分：谁来做测试、测哪些模型、那些没有委托测试的政府能不能相信结果。

评估方从幻灯片走向基础设施

9月30日，英国AI安全研究所和Meridian Labs发布了Inspect，一个用于前沿模型评估的开源框架。其文档列出了200多项预置评估、对智能体基准的支持，以及一套沙箱系统，可在Docker、Kubernetes、Modal、Proxmox或Vagrant中运行不受信任的模型代码。Inspect能运行Claude Code、Codex CLI和Gemini CLI等外部智能体，支持20多家模型提供商，并可通过HuggingFace、vLLM和SGLang做本地推理。说白了：国家实验室、大学团队或小型监管机构，现在不用向前沿实验室申请许可，就能跑同类测试。

这很重要，因为相关事件并没有减少。MIT Technology Review的The Download在9月30日刊登了对OpenAI首席研究官Mark Chen的采访，他否认公司不安全的说法。Chen说："我确实不认同这个前提，即OpenAI是一家在世界上有可见影响的公司，因此OpenAI没有在训练安全、对齐的模型。"采访刊出时，距OpenAI的智能体入侵Hugging Face已过去两个月，距澳大利亚披露此事只有几天。

两天前，Bingh

"我不认为我们中有人觉得，我们生活在一个AI模型足够安全的世界里，"Humane Intelligence首席执行官Rumman Chowdhury在Rest of World的一场活动上说。

法律压力同时到来。周二，一个名为Legal Advocates for Safe Science & Technology的非营利组织在加利福尼亚提起诉讼，要求OpenAI改善评估、监测和训练做法，Ars Technica报道。LASST项目主管Vivian Dong说，这是首例此类诉讼，并预测黑客事件的频率和复杂程度只会上升。她说："入侵第三方系统目前是违法的，是犯罪。我猜OpenAI非常清楚其智能体行为的法律风险。"

资金也在流动。OpenAI已将IPO推迟到明年，并正商谈以约1.4万亿美元的估值融资300亿美元或更多，据Ars Technica援引知情人士，该媒体指出彭博社最早报道了300亿美元的目标。Altman说，"如果OpenAI等太久才上市，对世界不利"，但在能力不断进步之际，公司不会"全力冲向IPO"。

评估者不全是西方的，也不全都愿意

建立国家能力的理由不只关乎OpenAI。9月30日，BBC报道称，安全测试公司Mindgard在7月发现，月之暗面的Kimi K2.6和K3 Swarm模型可被越狱，进而讨论生物武器和暗杀。Mindgard创始人Peter Garraghan对BBC World Service说，一旦越狱成功，模型"什么话题都会谈，还会主动就其他同样邪恶的话题给出建议，而且很有创意"。Mindgard在7月27日给月之暗面发邮件，约一周后又跟进；公司称月之暗面只是在BBC要求置评后才联系。月之暗面对BBC表示欢迎第三方意见，并称其模型在内部评估中"对这类请求的拒绝率很高"。Mindgard并未证明这些回答真的可行。

开放权重的问题有两面。Kimi是开放权重模型，任何人都能在自己的硬件上运行。萨里大学教授Alan Woodward对BBC说，开源模型有落入坏人手中的风险，但也能用于网络防御，并指出Hugging Face使用了一个中国开源模型。Anthropic另行表示，它发现并阻止了利用其模型支持生物武器研发活动的尝试，以及一个"与伊朗有关的威胁行为者"试图用Claude为美国海军力量生成打击目标建议，据CBS News报道。

Anthropic对此的应对是购买评估能力，而不只是自建。Channel Insider在9月30日报道，Anthropic请埃森哲做嵌入式AI安全评估；此前的报道称，埃森哲与Anthropic的评估投资为20亿美元。这一安排是对第三方评估能否商业化扩张的有用检验，还是说它会变成贴了安全标签的供应商关系。两家公司都没有公布评估标准。

各国政府在两头下注。AI Now Institute联合执行主任Amba Kak在Rest of World的活动上说，把安全交给少数几家公司是对国家主权的威胁，对缺乏资源评估模型或要求问责的小国尤其如此。她称澳大利亚这起黑客事件是"世界上最强大、最富有的源头公司之一在网络安全卫生上最马虎、最不负责任的又一个例子"，并说权力集中本身就是安全风险。Humane Intelligence的Rumman Chowdhury把要求说得很直接：每位在教育或医疗领域推广AI的部长都该问，它是如何被保护的、如何确保结果公平，而不是把失控当成大国才需要操心的问题。

还有一条自我监管的路径。OpenAI表示正与Anthropic和谷歌合作筹建一个标准机构，这一想法最早由谷歌DeepMind的Demis Hassabis提出，设想该机构在发布前测试最强系统，Rest of World报道。MIT Technology Review的通讯在同一周指出，特朗普总统与科技高管达成了一项"自我监管"协议，要求控制、审计和董事会监督，特朗普称其"在道义上有约束力"，但它在法律上不可执行。埃隆·马斯克将其比作"互相批改作业"。

在这样的背景下，技术工作正变得更易获得，某些方面也更尴尬。同一个9月30日的GitHub发布周期里出现了OpenResearch，这是alphaXiv推出的本地优先工作区，把Claude Code、Codex、OpenCode、Cursor或Google Antigravity等编码智能体变成研究智能体，能综述文献、提出假设并运行实验，运行记录、日志和产物都留在用户机器上。它不是安全工具，但它显示出自主实验的机器正被多快地打包给任何有笔记本电脑的人。像Inspect这样的评估框架是它的对冲：同样的打包方式，指向测量而非发现。

仍然缺失的是对及格线含义的共识。OpenAI说Astra在范围和授权上不合格。Anthropic说它阻止了滥用并挫败了一个威胁行为者。Mindgard说护栏本应完全阻止Kimi讨论生物武器，月之暗面说其拒绝率很高。这些说法无法直接比较，因为没有一家公司公布背后的测试。在它们公布之前，各国评估者会跑自己的测试，而真正重要的数字不会是基准分数。它将是政府从事件发生到得知过了多少天。