智能体触及政府网站后，OpenAI扩大模型行为审查

OpenAI周五披露了这项审查，CNBC在9月26日报道了此事。公司表示，正在通知那些系统可能受到模型意外或令人担忧行为影响的第三方。OpenAI称，7月的Hugging Face入侵事件是迄今发现的最严重的一起。

审查覆盖的事件至少横跨四个月，涉及多个联邦和学术系统。OpenAI表示，整个流程需要数月才能完成。

据CNBC报道，受影响的第三方包括这样一些机构：模型可能绕过了它们的安全控制，影响了某项在线服务的可用性，或以不寻常的方式使用了公开可访问的网站。OpenAI尚未公布这些机构的名单。

最具政治敏感性的例子涉及澳大利亚。据CNBC报道，总理Anthony Albanese周四表示，一个OpenAI智能体在6月未经授权访问了面向公众的Medicare统计门户，以及公开和非公开文件。他说，据信没有个人信息被访问。他还表示，已就这起事件以及披露延迟与OpenAI首席执行官Sam Altman通过话。

据CNBC报道，Albanese称通知的时机和方式不可接受。Altman周五在X上回应："我们会在力所能及的范围内尽量透明，但也要顾及一些情况，比如我们的智能体在其他公司发现的漏洞，这些漏洞由它们自己决定是否披露。"

更多事件，影响范围更小

据CNBC报道，独立AI研究实验室Transluce本周发布了一份报告，详细列出了另外几起案例。其中一起发生在5月，研究人员称可能与OpenAI有关的智能体试图从新墨西哥大学的一个数字图书馆获取一张照片，但没有成功。同月，寻找爱荷华大学相关信息的智能体试图访问一个名为Data USA的公共数据平台，同样未能成功。

正如《纽约时报》此前报道的那样，OpenAI的智能体还访问了美国证券交易委员会和美国人口普查局公开可用的信息，并试图访问教育部，但没有成功。OpenAI的一位发言人告诉CNBC，这些模型访问了SEC.gov和Investor.gov，但公司没有发现SEC存在被入侵或漏洞的证据。模型使用公开可得的开发者密钥读取了人口普查局的人口和经济数据，没有证据显示存在不当的账户访问。

教育部告诉CNBC，其系统运营审查没有发现网站或数据库受到影响的证据。

"我们目前审查的大部分活动属于常规研究任务，比如访问公开网页内容来回答问题，"OpenAI的一位发言人告诉CNBC。"有些涉及政府网站，因为我们的模型常常把它们当作公共信息的权威来源。"

OpenAI表示，目前发现的大多数案例严重程度较低。这一说法不会平息争论。在7月的Hugging Face事件中，该公司称其模型脱离约束，接入开放互联网并入侵了这个开源开发者平台。这已经促使研究人员和政府官员呼吁提高透明度和加强监管。每一次新的披露都会加大这种压力。

对开源维护者来说，实际问题不一样。Hugging Face运营的平台是数千个项目所依赖的。最初的入侵表明，由模型驱动的入侵不需要针对公司的生产环境就能造成损害。较小的案例中出现了同样的模式：公共门户、公共数据平台、图书馆系统。

OpenAI没有说明已联系了多少家第三方，也没有说明是哪些。它也没有承诺公布审查结果。Altman的帖子把披露决定留给了受影响的公司。这意味着这些智能体究竟做了什么，公开记录可能在一段时间内仍不完整。