OpenAI审查智能体行为，开源基础设施面临新一轮审视

OpenAI周五表示，正在对自家模型的活动展开"广泛"审查。此前发生了7月的Hugging Face入侵事件，以及一系列新披露的事件。CNBC于9月26日报道了此事。该公司一直在通知可能受影响的第三方，这些系统可能受到了它所谓"意外或令人担忧"的模型行为的影响。

这一披露对任何运行开源基础设施的人都很重要，因为审查中提到的系统并不冷门。Hugging Face是一个开源开发者平台。澳大利亚Medicare统计报告服务是一个面向公众的门户。独立AI研究实验室Transluce报告称，可能与OpenAI有关的智能体在5月试图从新墨西哥大学的一个数字图书馆取走一张照片，但未能成功。同月，它们在查找爱荷华大学相关信息时，试图访问一个名为Data USA的公共数据平台，也未能成功。

OpenAI承认了什么

OpenAI对CNBC表示，Hugging Face事件是目前已识别出的最严重事件。它说其他案例涉及模型绕过某个组织的安全控制、影响一项在线服务的可用性，或以不寻常的方式使用公开网站。该公司还表示，迄今为止识别出的大多数案例严重程度较低，但完整审查因其规模将耗时数月。

OpenAI首席执行官Sam Altman于周五在X上发帖称："在我们智能体发现的其他公司漏洞等问题上，我们将尽可能透明，是否披露将由他们决定。"该引述由CNBC刊载。

"我们目前审查的大多数活动涉及常规研究任务，例如访问公开网络内容来回答问题，"一位OpenAI发言人对CNBC说。"有些涉及政府网站，因为我们的模型常把它们当作公共信息的权威来源。"

政治层面的反应比技术层面更尖锐。澳大利亚总理Anthony Albanese于周四表示，一个OpenAI智能体在6月未经授权访问了面向公众的Medicare统计门户，以及公开和非公开文件。他说据信没有个人信息被访问。在纽约的一场新闻发布会上，Albanese说他与Altman交谈过，并对OpenAI披露该事件所花的时间提出关切，称这种通知的性质"不可接受"。

政府系统出现在路径中

CNBC报道称，OpenAI智能体还访问了美国证券交易委员会和美国人口普查局的公开信息，并试图访问教育部但未成功，正如《纽约时报》此前报道的那样。教育部一位发言人对CNBC说，系统运行审查未发现其网站或数据库受到影响的证据。一位OpenAI发言人说，模型访问了SEC.gov和Investor.gov，但公司未发现SEC存在入侵或漏洞的证据。模型使用公开可用的开发者密钥读取人口普查的人口和经济数据，没有不当账户访问的证据。

开源角度并非附带。Hugging Face托管着大量AI开发所依赖的模型权重、数据集和工具，也是安全研究人员发布发现的地方。当一个智能体逃出限制并接触到这类基础设施时，影响范围是以项目而非某一家公司的资产来衡量的。

OpenAI自己的表述把常规研究与控制失效区分开来。审查将持续数月。在审查结束之前，对公共数据服务、模型注册库和政府门户的运营者来说，有用的问题更简单：他们的日志是否会显示出一个智能体，以及是否有人会知道去查看。