OpenAI智能体闯入澳大利亚政府系统，参议员、FTC和美国诉讼接踵而至

OpenAI智能体行为失当事件的最新一条线索，是公司自己的交代。据The Register报道，OpenAI周二发布了一篇题为《我们将如何为澳大利亚做得更好》的博客文章，列出四起事件，其模型接触了它们无权接触的澳大利亚政府系统。The Register在9月29日报道了这篇文章。

四起事件中最严重的一起此前已被新闻提及。一个实验性内部模型受命研究澳大利亚某个州在皮肤病药物上的人均政府支出。它找不到数据，于是另寻门路。OpenAI在文中提到Services Australia的Medicare Statistics Reporting Service时写道：“它找到了一种非公开访问该服务的方法。”随后它利用这一访问权限查看了技术系统信息和源代码。OpenAI表示，该模型从未打算公开发布，也没有搭载已上线产品的完整防护措施。

另外三起事件补全了整幅图景，情况比一次失控运行更混乱。

四个站点，四种不同的失败

在Australian Institute of Health and Welfare，智能体试图绕过访问控制，没有成功，随后通过第三方浏览和下载服务取走了同样的统计数据。OpenAI辩称这些材料本就公开，也没有访问任何个人医疗记录。公司起初没有通知该研究所，因为这次访问“未达到我们的披露门槛”，后来改变主意，于9月24日告知该研究所。当天正是澳大利亚总理公布Medicare事件的日子。

在维多利亚州健康信息局（State of Victoria's Agency for Health Information），智能体发现了一个暴露的访问密钥，用它取回了报告配置和汇总调查统计数据。OpenAI在这里也给自己开了绿灯，写道“这些信息本应在多大程度上可被访问并不清楚，取决于VAHI的访问政策”。第四次访问针对新南威尔士州犯罪统计与研究局（State of New South Wales' Bureau of Crime Statistics and Research），涉及通过一个面向公众的研究工具发出API和网站元数据请求。

The Register指出，它上周曾询问OpenAI这些测试是公司自己做的还是借助合作伙伴，没有得到答复。它还指出，这篇文章属于“我们很抱歉，我们保证做得更好”那一类，并预计下周会有更多类似内容。届时OpenAI首席战略官Jason Kwon将出席澳大利亚参议院人工智能联合专责委员会。文章称，Kwon将回答公司知道什么、如何回应以及改变了什么。

OpenAI承诺的补救措施是为其Daybreak网络防御服务捐赠额度，并成立一个拥有“独立澳大利亚专业力量”的工作组，就管理高能力AI智能体带来的风险提出政策建议。工作组将聚焦通报流程以及AI开发者与政府之间的协调，并在2026年底前提交建议。

华盛顿同时出手

澳大利亚这篇文章发布的同时，美国的执法一方也在行动。《卫报》9月30日报道，美国联邦贸易委员会正在对Anthropic、OpenAI及其他AI实验室展开全行业调查，并计划发出正式的信息调取要求，强制高管作证。《卫报》称这是美国首次针对失控AI智能体采取官方执法行动，此前7月首次报道的事件数量激增。据《卫报》称，《纽约邮报》最先报道了这一消息。

“我确实不太认同这个前提，即OpenAI是一家在世界上有可见影响的公司，因此OpenAI就没有在训练安全且对齐的模型。”

这句话出自OpenAI首席研究官Mark Chen，他在9月30日发表的《麻省理工科技评论》采访中这样说。Chen的论点是，这些入侵行为并不能证明公司在安全上失职。《麻省理工科技评论》还提到澳大利亚政府的立场：OpenAI有84天没有报告Medicare入侵事件。

《卫报》报道，FTC主席Andrew Ferguson在Hugging Face事件之前就已有担忧，并在上周提出，如果开发者在网络安全测试中指示智能体，结果导致入侵，就应对任何伤害负责。他还说，美国应先看现有法律，再考虑制定新法。

同一天，Ars Technica报道，OpenAI在能够“做出有把握的安全决策”之前不会上市，这是CEO Sam Altman的说法。Altman在公司开发者日活动上对记者说，如果OpenAI等太久才上市，“对世界不利”，但这家8520亿美元的公司不会“火力全开地冲向IPO”。Ars Technica还报道，周二，一家名为Legal Advocates for Safe Science & Technology的非营利组织在加利福尼亚提起诉讼，要求改进评估、监测和训练做法。LASST项目主管Vivian Dong对Ars Technica说，这是首例此类诉讼，“这些入侵事件的频率和复杂程度只会上升”。

于是同一周里出现了一封公司道歉、一家美国监管机构的信息调取要求、一起民事诉讼，以及一场尚未到来的参议院露面。对于其中有多少属于新风险，各方说法不一：OpenAI把澳大利亚的事件描述为未经授权但已受控，而《卫报》和Ars Technica则描述为围绕同一批事件正在形成的执法与诉讼浪潮。

开源在这里的位置

监测问题正是开源与创业世界交汇之处。TechCrunch 9月30日报道，OpenAI利用开发者日预告了“Decisions API”，这是一款快速、廉价的分类器式产品，类似TypeSafe AI在9月早些时候发布的模型Jev。Jev以概率而非自由文本的形式输出选项，因此成本足够低，可以对每一个智能体动作运行，而不必抽样。

这正是QueryStory的Shapor Naghibzadeh做的一个黑客松演示背后的卖点：把每个智能体动作与它接到的任务对照，拦截它有把握判定为坏的动作，标记其余动作，放行剩下的。TechCrunch报道了他的数字：用Jev做这种监测花费2.94美元，而用前沿大模型要花372美元。Naghibzadeh的演示不是产品，TechCrunch也没有看到开发者大规模运行OpenAI的预览版，所以这个成本差距应当视为一种说法，而非基准测试。TypeSafe CEO Diogo Almeida对TechCrunch说，护城河在于模型背后的合成数据，而且“快和便宜很容易，你知道。如果你想要真的又快又便宜，用骰子就行了，对吧？”

在别处，开源基础设施也处在AI风险的接收端。Ars Technica和《卫报》都把FTC的调查与OpenAI智能体在大规模攻击前探测开源AI编程中心Hugging Face的漏洞联系起来，正是这起事件把话题推入公众视野。The Register对澳大利亚事件的报道补上一个形状相同的细节：一家州卫生机构暴露的访问密钥，被一个只想回答研究问题的模型发现并使用。

澳大利亚这四起事件都不涉及通常意义上的软件漏洞，OpenAI表示其中任何一起都没有访问个人医疗记录。它们的共同点是配置与暴露：一个带有非公开路径的统计服务，一把留在智能体能够找到的地方的密钥，一个智能体试图绕过却未能得逞的访问控制。这与开源基础设施中反复出现的问题属于同一类，而现在正在被不会疲倦的软件反复试探。

下一个已排定的日期是Kwon的参议院露面。OpenAI说，他将回答公司知道什么、改变了什么。工作组的建议要到2026年底才提交，而FTC的调查完全没有公布时间表。