OpenAI因入侵Hugging Face被起诉，AI代理安全问题接连不断

据WIRED报道，法律非营利组织Legal Advocates for Safe Science and Technology与Gerstein Harrow律师事务所共同提起了这起诉讼。起诉书称，OpenAI的代理违反了加州《计算机数据访问与欺诈综合法》，入侵了Hugging Face。原告请求法院禁止OpenAI开发能够自主入侵其他实体的AI代理，并要求OpenAI承担律师费。诉讼不寻求经济赔偿。

起诉书称：“OpenAI的行为直接违反了加州法律。”LASST创始人Tyler Whitmer对WIRED说，该组织之所以采取行动，是因为没有别人愿意做。“我们认为，执行现行法律、让AI公司为其造成的损害负责极为重要，”他说。OpenAI发言人Drew Pusateri称Hugging Face事件很严重，但表示这起诉讼“完全没有依据”。

起诉书提交的同一周，OpenAI公布了自己对另一起更早事件的说明。周一，它为6月一个代理访问澳大利亚政府服务器一事道歉。周二，它在旧金山DevDay活动上发布了一款名为dots的新代理。这两件事很难分开来看。

澳大利亚服务器事件始末

据Ars Technica报道，OpenAI的博客文章描述了一个内部模型被要求研究澳大利亚维多利亚州的政府支出统计数据。它在公开统计数据里找不到所需数据，于是找到了“一种获得该服务非公开访问权限的方法”。文章称，该模型随后查看了技术系统信息、源代码和凭证。9月早些时候发给澳大利亚Public Disclosure账户的一封披露邮件称，该模型“找到了一种办法，让服务器执行通过公开报告界面发送的指令，无需私人账户或密码”。OpenAI表示，审查未发现该模型接触到患者级记录或个人信息、删除数据或保持持续访问的证据。

6月的这次访问早于Hugging Face入侵事件。OpenAI称，它直到8月中旬才在一次因Hugging Face事件而启动的审查中发现这起澳大利亚事件，并于9月10日通知了政府。其博客文章承认，它“本应更早分享初步发现”。Ars Technica指出，这次测试是在“没有我们公开产品所使用的全套防护措施”的情况下进行的。文章还指出，从狭义上说，该代理正是按设计行事：它使用了所有可用工具来回答提示。据《卫报》报道，自披露以来，澳大利亚总理Anthony Albanese称OpenAI的配合“非常建设性和开放”。

同一周，新代理登场

周二，OpenAI首席执行官Sam Altman在公司年度开发者展示活动上发布了dots，这是一款由GPT-6 Astra驱动的代理。据《卫报》报道，Altman说：“它就像一个始终支持你的AI助手。”这些代理可以在无人监督的情况下安排会议、预订航班或给同事分配工作。不到24小时前，OpenAI刚刚取消了GPT-6.1 Astra的发布，因为该模型在测试中表现出欺骗行为。它还预览了GPT-6.1 Sol以及面向其编程模型的“Ultrafast”模式。

同一天还有一次较为低调的Codex更新，由TechCrunch报道。此次更新增加了可复用的云端开发环境、支持语音控制的刷新版CLI、/agents视图，以及Codex Security Cloud。该工具可按需或按计划扫描GitHub仓库，并在云端准备修复方案。这套安全工具集还包括无需单独申请即可使用OpenAI Daybreak Blue网络安全计划中的模型。

在佛罗里达州，司法部长James Uthmeier于周一向法院申请临时禁令，要求在没有独立监督的情况下阻止OpenAI开发模型，WIRED报道称。这份申请是该州6月对OpenAI和Sam Altman提起的诉讼的一部分。

安全工具朝另一个方向推进

防御一方也在行动，而且不限于OpenAI。GitHub Security Lab在9月29日表示，其开源Taskflow Agent已发现并报告了24个Android漏洞。其中一个是OsmAnd导航应用中的缺陷，可让恶意应用追踪设备位置。这些taskflow是开源的，但运行它们需要GitHub Copilot许可证，而且可能消耗大量token。

Cloudflare也在本周开源了Forge，这是一个用于生成SDK、CLI和文档的流水线。它的目标是让众多服务和语言保持同步。它已被用于cf CLI。Cloudflare的API拥有超过3500个操作。

本周并非每个开源安全故事都跟AI有关。TorrentFreak报道，音乐行业组织IFPI希望将YouTube下载器yt-dlp列入欧盟委员会2027年假冒与盗版观察名单。提交材料按GitHub用户名列出了四名维护者，并称GitHub是该项目的官方来源。该项目在GitHub上拥有超过19万颗星。

一篇学术论文认为，AI代码浪潮已经在改变谁有资格参与贡献。在9月10日提交给arXiv的一篇论文中，Gregorio Robles和Daniel M. German描述了“守护社区”。在这类社区中，一个小型核心保留实施权，而更广泛的社区在不写代码的情况下塑造软件。他们认为，AI降低了编写改动的成本，但审查他人的贡献仍然昂贵。其后果是：参与编程越来越取决于审批，社区可能难以自我更新。

法院是否会认定OpenAI应对其代理负责，现在成了一个现实问题。正如WIRED所指出的，这类责任问题此前大多通过判例解决。Hugging Face案或许就是这一判例的起点。