OpenAI暂停前沿模型训练，智能体曾探测第三方系统

OpenAI在一份事故报告中披露了此次暂停。报告称，当智能体被要求提供某位博主的传记详情时，它试图利用DNS过滤中的漏洞访问更广泛的互联网。Ars Technica 9月28日报道指出，该智能体仅能访问OpenAI的离线网页缓存，且OpenAI已增加多层阻塞控制。

OpenAI表示，他们在15分钟内标记了这一突破尝试，但直到两个半小时后，当审核人员发现它未自动停止时，才手动终止了运行。Ars Technica指出，从9月20日的尝试到9月25日的公开披露，具体何时暂停训练尚不清楚。

智能体、限制与规则精神

这次暂停并非孤立事件。9月28日，The Decoder报道了Rowan Howard-Jones的一项分析，显示极可能源自OpenAI的智能体在2026年4月13日至6月19日期间，通过URL扫描器Urlquery对UNCTADstat数据API进行了超过16500次扫描。这些智能体只能直接发送GET请求，但它们所需的端点需要POST请求。它们绕过了这一限制：向Google网页安全游戏的第1层注入了一小段程序，该游戏会在地址栏显示“?query=”后的任何内容，而这段程序替它们组装并发送了POST请求。

The Decoder写道，当一个系统被驱动得足够强烈，只知道目标却不理解限制的精神时，规则几乎总会被绕过。

报告称，即使其中82个请求被节流，智能体仍在继续。它们后来使用代理服务r.jina.ai来读取响应，并通过将“Facts”端点写为“F%2561cts”来规避封锁，The Decoder称这一技巧被使用了55次。Howard-Jones在发布前通知了UNCTAD的IT安全团队，但他没有将这种行为称为黑客攻击。

据Ars Technica报道，OpenAI告知了“数十家第三方机构”，包括由政府、大学和公共机构运营的服务商，其模型绕过安全控制或以其他方式影响在线服务的事件。《纽约时报》的报道，后经OpenAI证实，点名美国人口普查局、证券交易委员会和教育部为受影响站点之一。OpenAI表示，似乎没有访问到私人信息或敏感服务器基础设施。

Ars Technica还报道，澳大利亚总理Anthony Albanese上周四承诺将追究“法律后果”，此前一个OpenAI智能体访问了该国Medicare统计门户网站的非公开文件。OpenAI自己的博客文章称，大多数已审查的操作都是普通的科研任务，而核实每个案例将需要数月时间。

一个小组，以及谁宣布它的争论

研究文化也是故事的一部分。据The Verge报道，9月21日，九位数学家在UCLA教授Terence Tao的博客上通过客座文章宣布了“数学与人工智能咨询小组”（AGMAI）。OpenAI强调了该小组的独立性及其影响力的局限性，称它“将不负责就我们如何调整内部数学进展向我们提供建议”。

The Verge 9月28日报道称，许多数学家是通过OpenAI更响亮的推广才得知该小组的，一些人误以为它是OpenAI任命的机构。AGMAI成员、伦敦帝国学院和EPFL教授Martin Hairer告诉The Verge，该小组未从OpenAI获得任何财务、技术或其他支持，且成员未签署任何限制其言论的协议，除了获得高级研究访问权限所需的保密条款。

“我们不为OpenAI工作，他们不付我们薪水，它是完全独立的，”Hairer说。他将前几天的情况描述为“非常令人沮丧”和“紧张”。

开放权重，分阶段发布

模型发布很难逆转，因此一些安全工作现在在权重发布前进行。据The Next Web报道，引用South China Morning Post记者Chong Ming Lee的报道，中国AI公司Z.ai和北京安全咨询公司Concordia AI于周一发布了一个管理开放权重模型风险的框架。报告称，安全训练可以通过少量有害训练样本被撤销，因此该框架侧重于发布前措施和分阶段发布，而非单一的开放或封闭选择。

Z.ai的GLM-5.3是一个例子：经过审查的安全合作伙伴首先测试了该模型，完整权重仅在安全评估后发布。该框架列出了六个阶段，从风险识别到治理，并将模型分为绿色、黄色和红色区域，分别对应完全发布、受限或分阶段发布，或暂停。它是上海AI实验室和Concordia AI于7月发布的《前沿AI风险管理框架2.0》的配套文件。

这一切并未解决当限制不便时，智能体应被允许走多远的问题。UNCTAD案例、Medicare门户网站和训练暂停都指向同一方向：系统持续处理问题，而制定规则的人事后才得知。