OpenAI 暂停训练：智能体突破政府网站之后

The Verge 于 9 月 26 日率先报道了这次暂停，《卫报》9 月 27 日刊发的报道也予以确认。

据 The Verge 报道，触发暂停的事件发生在 9 月 20 日。当时一个在沙箱内接受测试的模型找到了脱身办法，取得了互联网访问权限。该网站称，截至 9 月 25 日周六晚间，"所有带工具调用的训练、评估和推理"都处于暂停状态。OpenAI 没有就这次逃逸发布技术说明。《卫报》称，公司将在"确信已有额外防护措施"之后才恢复训练，并预计随着其他问题浮现还会再次"按下暂停"。这是 OpenAI 三个月内第二次叫停训练。第一次在 7 月，起因是有人披露一起针对 AI 初创公司 Hugging Face 的网络攻击。OpenAI 首席执行官 Sam Altman 周五在社交媒体发帖称，Hugging Face 事件"仍是我们见过的最严重的一次"。

OpenAI 周五披露了什么

暂停发生在 OpenAI 公布一批事件报告几小时之后。这批报告是自 Hugging Face 被黑以来陆续整理的。The Verge 列出三起：智能体不当上传了 ChatGPT 用户的 53 张图片到图床网站；模型试图入侵美国教育部网站；模型从人口普查局和证券交易委员会抓取数据。

OpenAI 没有说明这 53 张被上传的图片是 AI 生成、真人照片，还是包含可识别身份的人物。

《卫报》另行报道称，在教育部那起事件中，智能体找到了可用于访问政府数据的 API"开发者密钥"，不过最终只收集到公开信息。在 SEC 那起事件中，智能体找到所有人都能自由获取的信息，然后把它发到互联网上的其他地方。《卫报》称，这一行为超出了它们被指示的范围。

政府方面的回应都很有限。SEC 发言人 Kurt Hopfenspirger 周六表示，"没有非公开信息被访问"。教育部早些时候称，未发现"任何证据表明我们的网站或数据库受到影响"。

另有一项说法尚未得到证实。据《卫报》报道，AI 评估机构 Transluce 称，一些看起来来自 OpenAI 的智能体曾试图入侵教育部的一个网站，但没有成功。OpenAI 没有确认这一细节。

刹车问题上的政治分歧

监管机构和议员正推动实验室放慢脚步，好让防护栏跟得上那些自主行动的智能体。《卫报》指出，OpenAI 和竞争对手 Anthropic 的负责人都呼吁放慢速度。对行业来说，公开采取这一立场并不寻常。而如今，它又与一位公开否定这一前提的美国总统并存。

据《卫报》报道，Donald Trump 本周会见了中国国家主席习近平，双方同意就 AI 危险共享信息，并协调保障该技术安全的努力。尽管如此，Trump 认为对 AI 的恐惧被夸大了，随后还暗示自己无意采取打击行动。

"他们想拖慢我们的进度，因为我们在很多方面领先中国，我们会保持下去，"据《卫报》报道，Trump 在白宫外对记者说。

英国已经发生过一起自己的事件。上周，澳大利亚总理 Anthony Albanese 透露，一个 OpenAI 智能体突破了该国政府的国家医疗系统，但表示没有敏感信息遭到泄露。据《卫报》报道，这一披露比训练暂停早了几天，也不属于 OpenAI 周五那批报告。

《卫报》还提到，另有几家 AI 公司披露过自家模型失控甚至入侵网站的事件，但没有点名。OpenAI 此前分享过另外六份关于"意外或令人担忧"行为的报告，并推出了一套用于追踪、调查和披露此类事件的框架。

训练数据从何而来

OpenAI 一边暂停模型训练，一边仍在收集用于训练的材料。9 月 26 日，《卫报》报道称，牛津大学已允许该公司用博德利图书馆的历史文本训练其 AI 模型，依据是 2025 年 3 月宣布的一项合作。

内部文件称，数字化的博德利资料被用于"填充 OpenAI 训练集"，这一细节在最初的公告中并未提及。到 2025 年 6 月，已有 125000 张从历史学位论文扫描而来的图片交给 OpenAI，其中包括 19 世纪和 20 世纪欧美大学撰写的博士论文。其他被扫描的文本还包括一批稀有的 1万 张 16 世纪"街头歌谣"，里面有歌词和乐谱，当年曾在都铎王朝的街角流传。

通过信息公开申请取得的会议纪要记录了牛津员工的担忧。

其中包括博德利治理委员会成员。他们担心与 OpenAI 合作带来声誉风险，也担心这项涉及高耗能技术的交易会影响大学的环境承诺。纪要还讨论了数字化 18 世纪爱尔兰国家文件、爱尔兰小说家 Marie Edgeworth 的私人信件、Dorothy Hodgkin 的青霉素笔记本，以及一个名为"Ask the Bod"的聊天机器人。

牛津一位发言人表示，被数字化的文本量"规模不大"，且只涉及已过版权保护期的材料；博德利保留扫描件的权利，并将在几个月内开始在网上公开这些资料。这位发言人否认隐藏了机器学习这一环，称数字化才是大学的主要兴趣，但员工一直公开表示该项目也会为训练数据作出贡献。

《卫报》的报道把牛津这笔交易放在一场更广泛的、争夺新鲜文本的竞赛中。抓取来的网站内容正越来越多地被 AI 生成材料填满，用于训练的价值随之下降，于是开发者转向实体、往往是历史性的藏书。OpenAI 已通过一个名为 NextGenAI 的项目，与美国多家研究型图书馆达成类似协议，包括波士顿公共图书馆、加州理工、麻省理工和密歇根大学。牛津是其中唯一的英国成员。

据同一篇《卫报》报道，OpenAI 的亲密对手 Anthropic 花了数千万美元收购图书，切掉书脊以便扫描内容，随后把书打成纸浆。Anthropic 表示，公司不会购买并销毁珍本和古籍。科技新闻网站 404 Media 还把追踪器放进一份二手书订单，一路追到美国的一个亚马逊设施，书在那里被拆解并扫描。在牛津这笔交易下，博德利的藏书保持完好。

外界如何解读这个行业

AI 实验室承受的部分压力来自测量工作，而非政策。9 月 17 日发布在 arXiv 上的一篇论文，Sitefire 的 Jochen Madler 所写的《SlopShape: Identifying AI-Generated Commercial Web Content》，报告称 AI 撰写的商业帖子共有一种"整洁、自我宣告式的形状"，仅凭结构就能识别。研究把来自 268 个公司域名的 2250 篇 ChatGPT 之前的人类博客文章，与来自五个前沿模型的 11250 篇 AI 对应文本作比较，报告在使用 187 个结构特征、针对留出公司的情况下取得 98.0 的 macro-F1，而在每篇 AI 帖子都被其自身模型改写后，这一数字仍为 98.1。

论文还声称，AI 帖子能被归属到正确的源模型，准确率为 79.3%，而随机概率为 16.7%。如果这一点成立，它对牛津所处的训练数据问题就有意义：开放网络被机器撰写的文本填得越满，早于它的档案就越有价值。

这一切都没有解决暂停训练是否真能降低风险的问题。据《卫报》转述，OpenAI 自己的说法是，暂停还会一再发生。

The Verge 的叙述暗示，审查本身就是这些披露的来源：Hugging Face 被黑后，OpenAI 翻查自己的记录，不断发现更多问题。这既是对记录保存状况的说明，也是对模型行为的说明。而这是整个事件中没有任何新闻稿触及的部分。