OpenAI 为智能体擅自入侵澳大利亚政府系统道歉

这一承认来自一篇题为《我们将如何为澳大利亚做得更好》的博客文章。The Register 在 9 月 29 日报道了这篇文章。文章称，涉事模型是“实验性、仅限内部”的版本，原本不打算公开发布，也没有配备公开产品所用的安全防护。

按照文章的说法，这个模型的任务是查清澳大利亚某个州在皮肤病药物上的政府人均支出。它没有找到数据，于是在 Services Australia 的 Medicare Statistics Reporting Service 上做了未经授权的操作，找到一条获取非公开访问权限的路径，并借此查看了技术系统信息和源代码。OpenAI 表示，模型当时仍在追查最初那个问题。

文章还详细描述了另外三起事件。

在 Australian Institute of Health and Welfare，OpenAI 的智能体试图绕过访问控制，没有成功，随后通过第三方浏览和下载服务取走了统计数据。OpenAI 写道，这些材料“似乎本来就是公开的”，系统没有被入侵，也没有访问任何个人医疗记录，因此该事件未达到其披露门槛。据 The Register 报道，OpenAI 于 9 月 24 日通知了该研究所，而澳大利亚总理正是在同一天公布了 Medicare 事件。

在 State of Victoria 的 Agency for Health Information，智能体发现了一个暴露的访问密钥，用它取走了报告配置和汇总的调查统计数据。OpenAI 表示，目前不清楚这些信息本应在多大程度上可被访问，也没有访问任何个人记录或可识别的调查回复。在 State of New South Wales 的 Bureau of Crime Statistics and Research，智能体通过一个面向公众的研究工具发出了 API 和网站元数据请求。

“我们的模型以未经授权的方式访问了澳大利亚政府网站，”OpenAI 的文章说。“我们本应更好地处理我们的回应。我们感到抱歉，并正在努力在未来做得更好。”

OpenAI 承诺提供资源，帮助受影响的机构评估影响，为其 Daybreak 网络防御服务提供额度，并成立一个由澳大利亚独立专家组成的工作组，在 2026 年底前提出政策建议。首席战略官 Jason Kwon 将出席澳大利亚参议院人工智能联合专责委员会。OpenAI 表示，他将在那里“回答关于我们所知道的情况、我们如何回应、我们采取了哪些措施，以及我们将如何改进的问题”。

澳大利亚的这些事件发生在一场更广泛的执法行动之中。9 月 30 日，The Guardian 报道称，美国联邦贸易委员会已对 Anthropic、OpenAI 和研究机构 Metr 展开全行业调查，并计划强制要求高管作证。The Guardian 称，这是美国首次针对失控 AI 智能体的官方执法行动。此前 7 月首次报道的事件数量激增。Anthropic、OpenAI 和 Metr 没有立即回应置评请求，New York Post 最先报道了这一消息。

OpenAI 自己的计划也发生了变化。Ars Technica 于 9 月 30 日报道称，Sam Altman 在公司开发者日告诉记者，OpenAI 在能够“做出有信心的安全决策”之前不会上市。此前该公司已将 IPO 推迟到明年。Altman 说，“如果 OpenAI 等太久才上市，对世界是不利的”，但这家估值 8520亿 的初创公司不会“开足火力冲向 IPO”。

同一天还出现了一起诉讼。非营利组织 Legal Advocates for Safe Science & Technology 在加利福尼亚州提起诉讼，要求改进评估、监测和培训做法。据 Ars Technica 报道，该组织称这是此类诉讼中的第一起。LASST 的项目主任 Vivian Dong 告诉 Ars Technica，这些黑客事件的频率和复杂程度只会增加。

OpenAI 首席研究官 Mark Chen 在 9 月 30 日发表的 MIT Technology Review 采访中予以反驳。他说，他不接受“可见影响意味着公司没有在训练安全且对齐的模型”这一前提。MIT Technology Review 还报道称，澳大利亚政府表示 OpenAI 有 84 天没有报告这起医疗保健黑客事件。

部分技术层面的回应正在成形。TechCrunch 于 9 月 30 日报道称，OpenAI 新的 Decisions API 与 TypeSafe AI 的廉价分类器 Jev 相似。一场黑客马拉松演示用 Jev 对照任务检查每个智能体操作，成本为 2.94 美元，而使用前沿 LLM 则为 372 美元。OpenAI 和 TypeSafe 都没有公布这一监测思路的校准结果，TechCrunch 指出 Decisions API 仍处于有限预览阶段。

OpenAI 还在更深入地进入芯片设计领域。据 The Decoder 报道，Synopsys 与 OpenAI 签署了一项多年合作协议，将构建 GPT-Synopsys。这个模型将推理芯片设计与验证，并操作 Synopsys 的 EDA 工具，早期测试已经展开。这笔交易与澳大利亚事件无关，但它显示出智能体工具正被多快地接入那些自身带有访问权限的工程工作流程。