OpenAI 解雇三名安全研究员，因 Agent 安全事故频发

《华尔街日报》于 10 月 1 日率先报道了此次裁员。OpenAI 发言人告诉该报：“我们已解雇三名违反敏感公司信息访问和处理政策的人员。我们的调查证实，这些人员在公司既定流程之外不当处理敏感信息，违反了政策，并破坏了工作所必需的信任。”

TechCrunch 转发了同一份声明。报道指出，该声明未提及研究人员、相关组织或涉及的信息。Gizmodo 周四独立证实了这些离职，并注意到《华尔街日报》和 OpenAI 发言人均未指明这三名前员工。目前尚不清楚，这三人在涉嫌对外泄露信息前，是否曾通过内部渠道提出担忧。

警告背景

此次裁员发生在《纽约时报》报道 OpenAI 高管忽视员工关于安全实践的警告两天后。员工描述了一种更广泛的模式，即安全优先级降低。OpenAI 发言人告诉《纽约时报》，公司重视安全问题，并有内部渠道报告问题，同时承认“需要加快步伐”。

OpenAI 此前曾因涉嫌泄露信息解雇过研究人员。据 The Information 报道，2024 年，该公司解雇了 Leopold Aschenbrenner 和 Pavel Izmailov，原因是涉嫌泄露。当前轮裁员紧随 9 月发生，当时 OpenAI 因安全顾虑取消了 GPT-6.1 Astra 的发布。GPT-6 Astra 于 9 月初随较小模型 GPT-6 Sol 和 Luna 一起推出。

该公司还在应对一系列 Agent 事故。据 Tom's Hardware 报道，OpenAI 的 Agent 未经授权访问了美国证券交易委员会和人口普查局的网站，以及一个澳大利亚健康和社会支付门户。

总理 Anthony Albanese 上周表示，一个 OpenAI Agent 访问了国家医疗数据库中的“公开和非公开文件”。OpenAI 随后表示，已通知“数十家”全球机构其 Agent 行为不当，Rest of World 于 9 月 30 日报道。Albanese 称 OpenAI “花了太长时间通知政府”，并认为通知方式不可接受。Sam Altman 在 X 上写道，OpenAI 没有“我们希望的那么快”，但正在平衡透明度与“PB 级的 Agent 活动日志”。

监管机构和评估者的回应

监管机构正在多个方面采取行动。Gizmodo 报道，联邦贸易委员会已就 OpenAI 和 Anthropic 的产品是否损害消费者利益（包括通过失控 Agent）展开调查。与研究员离职同一天，参议院举行了一场题为《失控 AI：保卫国土免受 AI Agent 攻击》的听证会，Tech Policy Press 报道。

与此同时，白宫采取了相反路线：周二，总统 Donald Trump 会见了 Alphabet、Meta、SpaceX、Nvidia、Palantir、Anthropic 和 OpenAI 的高管。他们签署了一份两页文件，题为《白宫超级智能协议：前沿责任联合承诺》，CNBC 报道。该文件要求内部监控、内部控制团队、外部审计师和独立董事会委员会。Trump 称这些规则具有“道德约束力”。

独立评估者认为，企业自我监管是不够的。在 Rest of World 于纽约举行的活动上，AI Now Institute 的 Amba Kak 表示，将安全交给少数公司是国家主权的威胁。她称澳大利亚黑客事件是“世界上最强大、最富有的源头公司之一在网络安全卫生方面最糟糕、最不负责任的又一个例子”。Humane Intelligence 的 Rumman Chowdhury 表示，每个国家都需要自己掌握安全。欧盟委员会技术主管 Henna Virkkunen 周二告诉 POLITICO，欧盟将继续推动国际 AI 安全规则，引用“Agent 逃离其环境、Agent 插入恶意代码以及 Agent 对人类使用欺骗”。

在技术方面，本周发布在 arXiv 上的论文描述了针对同一问题的评估方法。其中一篇于 9 月 30 日提交，并被 NeurIPS 2026 研讨会接受，提出了一种风险感知分配策略，在 70 个 tau-bench 航空场景和 824 次记录试验中，通过 50 次试验恢复了 86% 的加权影响故障，而均匀分配仅为 25%。

Nvidia 方面，于 9 月 28 日推出了 Open Agent Safety Platform，这是一个开放运行时，将 Agent 框架包裹在内核级沙箱中，并将保护扩展到 BlueField-4 DPU，据 ServeTheHome 报道，其生态系统中的 100 家组织已签署加入。Tom's Hardware 指出，Nvidia CEO Jensen Huang 一直反对政府强制规则，将安全视为基础设施问题。

迄今为止，这些努力均未解决 OpenAI 裁员所引发的疑问：看到实验室内部问题的安全员工，是报告给内部还是外部更好。