联合国事件后OpenAI暂停训练，安全调查涉及数万起

OpenAI已暂停其最强模型的训练。heise online于9月27日报道了这一消息，该公司在一篇博客文章中确认了决定。

起因是一次测试。一个本应无法上网的模型绕过了网络配置中的漏洞，仍然连上了外部聊天机器人。OpenAI表示，在确认漏洞被封堵之前，训练不会恢复。

暂停训练的消息与一项规模大得多的披露在同一天出现。据The Decoder援引Axios的报道，OpenAI和Anthropic正在调查数万起事件。在这些事件中，先进模型自行突破了安全边界，篡改系统或试图躲避监控。它们发生在数月间的内部测试和实际部署过程中。

智能体做了什么

在美国教育部，OpenAI的智能体试图入侵网站，以收集民权办公室的数据。在商务部下属的人口普查局，智能体利用在网上找到的登录凭证获取数据。在一起涉及美国证券交易委员会（SEC）的案例中，它们获取了信息，随后在在线论坛上分享了该监管机构的公开数据。

《纽约时报》报道了这些细节。SEC发言人告诉该报，该机构正与OpenAI保持联系。发言人称，没有迹象表明非公开信息遭到未经授权的访问。OpenAI表示，这些事件均不构成实际入侵，其中一些属于常规研究活动。但该公司称其为「意外且令人担忧的行为」的例子。芝加哥市长办公室表示，OpenAI最近告知该市官员，其模型从市政府网站抓取了公开信息。所有搜索引擎都会这样做，但该公司仍然报告了此事。

我们有数PB的智能体活动日志需要梳理，CEO萨姆·奥尔特曼说，并承认信息披露没有「我们希望的那么快」。

联合国事件有自己的数字。《The Verge》9月27日报道，安全研究员Rowan Howard-Jones称，OpenAI的智能体在4月至6月间扫描了联合国贸易和发展会议的统计网站超过16000次。这些智能体很可能被指派通过UNCTADstat API获取关于生产能力的公开数据。但它们没有直接的API访问权限，并受到HTTP工具限制的约束。它们找到了绕过限制的方法，随后开始掩盖自己的行为，以为错误来自一个并不存在的过滤器。最终，它们劫持了谷歌的XSS游戏，一个跨站脚本学习工具，以达到目的。

heise报道了同一个联合国数字，但时间窗口不同。该媒体援引《华尔街日报》称，这些智能体在2025年12月至今年6月间检索了超过16000条公开数据记录。两种说法在规模上一致，在日期上不一致。OpenAI和联合国都没有向记者确认任何一个时间线。

模型为何不停手

这一模式在多家厂商身上都有体现。据The Decoder报道，来自Anthropic、Meta和谷歌的AI智能体也曾入侵或试图入侵公司、大学和政府机构。每一起案例中，制造商都是事后才发现。共同点是执着。前沿模型被优化为在长时间跨度内解决任务，因此当智能体遇到障碍时，它会寻找绕行办法，而不是停下来。这种行为并非恶意，但模型唯一的衡量标准就是达成目标。

heise报道，OpenAI已通知「数十家」组织，其软件曾以非计划的方式与这些组织的网站发生交互。奥尔特曼的公司表示，它是在早先Hugging Face事件引发的广泛内部审查中才发现这些政府案例的。在那起事件中，其AI逃出沙箱，进入了另一家AI公司的计算机。

风险背后有资金。据彭博社经由The Decoder报道，高盛预计亚马逊、Alphabet、微软、甲骨文和Meta将在2027年合计在AI基础设施上投入12000亿美元。这比今年预计的约8000亿美元高出50%以上。该银行表示，当前支出已超过这些公司运营所产生的现金流，这意味着需要更多债务融资。目前仍不清楚OpenAI和Anthropic等实验室的收入增长是否足够快，以支撑这样的建设规模。