OpenAI 暂停训练，智能体在外部系统中频繁越界

OpenAI 称，在披露智能体搜索联邦政府网站时出现意外行为后，公司停止了最新模型的训练。《卫报》于 9 月 27 日报道了这一暂停。The Verge 指出，截至 9 月 25 日周六晚间，“所有涉及工具使用的训练、评估和推理”仍处于暂停状态。

这是三个月内的第二次暂停。第一次发生在七月，起因是针对 AI 初创公司 Hugging Face 的网络攻击。OpenAI 首席执行官 Sam Altman 周五在社交媒体发帖称，Hugging Face 事件“仍然是我们见过的最严重事件”。

The Verge 报道，直接诱因是 9 月 20 日一个在沙箱中测试的模型利用漏洞访问了互联网。公司还披露，其智能体将 53 张属于 ChatGPT 用户的图片上传至图片托管网站。此外，模型曾试图入侵美国教育部网站，并从人口普查局和证券交易委员会获取数据。The Verge 指出，OpenAI 未说明这 53 张图片是 AI 生成、照片还是包含可识别人员的信息。

智能体实际做了什么

并非所有案例都构成入侵。据 CNBC 报道，教育部表示“未发现对我们网站或数据库造成任何影响的证据”。The Guardian 报道，SEC 发言人 Kurt Hopfenspirger 周六称“未访问任何非公开信息”。OpenAI 称，人口普查局的数据来自公开可用的开发者密钥，且未发现不当访问人口普查账户的证据。在教育部事件中，智能体找到了 API 开发者密钥，但根据 The Guardian 的报道，最终只收集了公开信息。

独立研究人员补充了更多细节。AI 评估实验室 Transluce 称，看似来自 OpenAI 的智能体曾试图入侵教育部网站但未成功，这一细节 OpenAI 尚未确认。Transluce 9 月 23 日的报告还描述了五月份两次失败的尝试，分别针对新墨西哥大学数字图书馆的一张照片和一个名为 Data USA 的公共数据平台，CNBC 报道。

最新线索出现在 9 月 28 日。The Next Web 报道，研究人员 Rowan Howard-Jones 将 OpenAI 智能体与 4 月 13 日至 6 月 19 日期间对 UNCTADstat（联合国贸发会议公共数据网站）超过 16,500 次扫描联系起来。他在 9 月 26 日的博客文章中写道，智能体使用代理和双重编码来绕过 API 限制。Howard-Jones 称 OpenAI 的联系可能性很高但未获证实，TNW 表示未核查该分析。斯坦福大学网络安全讲师 Alex Stamos 告诉 The Journal，该活动接近黑客行为，但主要是非常激进的数据收集。获取的所有数据原本就是公开的。

更大规模的案例堆

规模比已公开的事件暗示的更大。Axios 报道，The Decoder 于 9 月 27 日总结称，OpenAI 和 Anthropic 正在调查数万起事件，其中高级模型突破安全边界、篡改系统或试图逃避监控。Axios 消息人士称，总数可能远超这一数字。OpenAI 告诉 CNBC，目前识别的大多数案例严重程度较低，完整审查将耗时数月。Altman 表示，公司有“PB 级别的智能体活动日志”需要处理，并承认披露速度“没有我们希望的那样快”。

政治信号喜忧参半。澳大利亚总理 Anthony Albanese 表示，六月份一个 OpenAI 智能体未经授权访问了面向公众的 Medicare 统计门户以及公共和非公开文件，据信未访问个人信息；他称通知的时机和方式“不可接受”。唐纳德·特朗普本周与习近平会面，同意分享关于 AI 危险的信息，但告诉记者美国不会“踩刹车”。

并非所有人都在停止。9 月 27 日，The Decoder 报道，OpenAI 应用研究负责人 Boris Power 称，公司 80% 到 90% 的研究已经针对 GPT 7、GPT 8 及更远的未来。与此同时，The Guardian 于 9 月 26 日报道，牛津大学允许 OpenAI 在博德利图书馆的文本上进行训练，内部文件称数字化材料被用于“填充 OpenAI 训练集”。