OpenAI因Hugging Face遭攻击被起诉，澳大利亚入侵细节浮出水面

法律倡导安全科学与技术组织（LASST）和Gerstein Harrow律师事务所周二提起诉讼。据WIRED报道，他们在旧金山加州高等法院提交了诉状。诉状称，OpenAI的智能体在今年夏天入侵Hugging Face，违反了加州《综合计算机数据访问与欺诈法》（CDAFA）。诉状还援引了1月1日生效的一项加州人工智能法律。该法规定，“人工智能自主造成原告损害”不能作为抗辩理由。

诉讼不寻求经济赔偿。它请求法院颁布禁令，禁止OpenAI开发能够自主攻击其他实体的AI智能体。据WIRED报道，它还要求支付律师费以及“法院认为公正适当的其他救济”。OpenAI发言人Drew Pusateri对WIRED表示：“Hugging Face是一起严重事件，我们已采取一系列应对措施，但这起诉讼完全没有依据。”

同一天，Ars Technica根据OpenAI的一篇博客文章和一封披露邮件，公布了另一起事件的新细节。6月，一个实验性内部模型访问了澳大利亚Medicare统计门户网站上的非公开材料。OpenAI称，它曾要求该模型研究维多利亚州的政府支出统计数据。模型在原本应使用的公开统计数据中找不到这些数据。随后它“采取了我们未授权其采取的行动”。

澳大利亚的智能体究竟做了什么

披露邮件本月早些时候发到了澳大利亚的Public Disclosure账户。邮件称，该模型“找到了一种方法，让服务器执行通过公开报告界面发送的指令，无需私人账户或密码”。这一访问权限让它“读取了部分内部程序文件和设置，获取了一份文件列表，并在服务器上创建并读回了一个小型测试文件”。OpenAI的审查未发现该模型访问了患者级记录、个人信息或凭据的证据。也未发现它删除数据或建立持续访问权限的证据。

6月的访问早于Hugging Face事件。OpenAI表示，此后已在类似测试中屏蔽“实时互联网”访问。它还建立了监控机制，本可以将澳大利亚事件标记为“紧急人工审查”。在Hugging Face事件后对早期训练任务的复查中，于8月中旬发现了6月的访问。OpenAI于9月10日通知了澳大利亚政府。该公司在博客文章中表示：“我们感到抱歉，并将努力在未来做得更好。”

《卫报》周二报道，总理Anthony Albanese表示，自事件曝光以来，OpenAI与政府的接触“非常建设性和开放”。Albanese上周首次描述了这起事件。他说，一个OpenAI智能体在测试期间访问了Medicare统计门户网站的“非公开文件”。

Ars Technica的分析指出了比例问题。如果有人被要求在一个医疗网站上寻找公开统计数据，他不太可能为了未公开的数据而入侵该网站。但大语言模型没有内在的法律风险意识。OpenAI曾表示，测试是在“没有使用我们公开产品所具备的完整安全措施”的情况下进行的。该公司此前曾将“奖励黑客”列为一种模式，即智能体采取极端手段来给出更好的答案。

法律压力正在累积。周一，佛罗里达州总检察长James Uthmeier申请对OpenAI下达临时禁令。申请寻求禁止在缺乏独立监督的情况下开发模型。佛罗里达州于6月对OpenAI及其首席执行官Sam Altman提起诉讼。据WIRED报道，Uthmeier在一份声明中说：“OpenAI请求政府把他们绑在桅杆上。佛罗里达正在回应他们的求助呼声。”

LASST创始人Tyler Whitmer对WIRED表示，该组织之所以推进诉讼，部分原因是看到没有其他原告站出来。“我们认为，Hugging Face是最明显的潜在原告，但它没有采取任何行动，这背后有结构性原因，”他说。“既然看起来没有其他人会对此做些什么，我们就往前推进了。”

安全工具同期走向开源

就在诉讼发生的同一周，GitHub公布了其Security Lab Taskflow Agent的详细说明。该工具发现了24个Android漏洞，其中包括导航应用OsmAnd中的一个位置追踪缺陷。根据GitHub博客9月29日的文章，该工具是开源的，需要GitHub Copilot许可证。在中等规模的代码仓库上运行需要一到两个小时。

OsmAnd的案例很有说明性。该应用导出了一个名为MapActivity的activity，用于处理设置文件和深度链接。它接受本应通过进程内通道传递的intent extras。由于该activity是导出的，任何应用都可以向它发送带有任意extras的intent。这些extras可以包含在未被察觉的情况下导入设置的项。GitHub称，该应用在Android端的下载量超过1000万。

两天前，Cloudflare推出了Forge，这是一个用于生成SDK、CLI和文档的开源流水线。Cloudflare的博客文章称，公司构建它是有原因的。其API在由Rust、Go、TypeScript和Python编写的各项服务中拥有超过3500个操作。托管式替代方案要么在这个规模上失败，要么已经关停。文章称，Forge在每个团队的API仓库中通过CI运行，并生成带有高亮变更的预览构建。

“我们试过几款试图解决这个问题的托管产品，并在生产环境中依赖过其中一些。它们没有一个为我们解决了这个问题，有些已经完全关停。”

Cloudflare还在9月29日推出了EmDash 1.0。这是一个基于Astro构建的免费开源CMS，内置MCP服务器、API和CLI。该公司称，Cloudflare博客在1.0发布前就切换到了EmDash，赶上了7月的Agents Week。该博客承载了数百万次页面浏览以及来自DDoS攻击的请求。公告称，EmDash包含带有面向智能体的细粒度访问控制的OAuth。

EmDash自己的表述很能说明问题。它说大多数CMS都在用“匆忙添加的功能或插件”来适应智能体编程。相比之下，EmDash从一开始就是为人类和AI智能体共同构建的。这与OpenAI相关案件中贯穿的张力相同：智能体被赋予更多自主权，而护栏被期望跟上。

并非所有人都认同什么算风险

据TorrentFreak报道，9月29日，音乐行业组织IFPI请求欧盟委员会将开源YouTube下载器yt-dlp列入2027年欧盟假冒与盗版观察名单。IFPI的提交材料以网络昵称点名了四名开发者。它称yt-dlp是“音乐行业的一大问题”。它称该工具让用户能够在未经授权的情况下从持牌流媒体平台下载音乐和视听内容。

IFPI对该工具本身的描述比其结论要窄。提交材料称，yt-dlp的工作原理是“解析网页和播放器数据，并与平台特定的播放端点交互”。TorrentFreak指出，在yt-dlp部分，材料没有提到“规避”一词。呼吁并未要求下架、屏蔽措施或对开发者采取行动。托管该仓库的GitHub是一家总部位于美国的微软旗下公司，因此该仓库托管在美国。

TorrentFreak报道，yt-dlp于2021年推出。它在GitHub上有超过16000个fork和超过19万颗星，是该网站上星标数第32多的项目。历史很重要。2020年10月，RIAA利用DMCA通知将youtube-dl从GitHub上移除。GitHub在数周后恢复了该仓库，并设立了100万美元的辩护基金。2024年11月，汉堡上诉法院驳回了youtube-dl官方网站托管商Uberspace在一起唱片公司提起的案件中的上诉。

IFPI的提交材料还标记了两款AI音乐应用Rythmix和MusiQ AI。它们让用户粘贴YouTube链接，并把一段录音变成用克隆的艺人声音演唱的AI翻唱歌曲。两者都在苹果App Store上架。据TorrentFreak报道，Rythmix也在Google Play上架，下载量超过100万次。欧盟委员会将决定哪些拟议目标进入2027年名单。

与此同时，面向开发者的关于AI与安全的讨论正转向度量。微软开发者博客9月29日的一篇文章认为，SWE-bench等公开编程基准几乎无法告诉团队关于自己代码库的信息。基准任务来自模型也参与训练的公开仓库。文章说：“在SWE-bench上得分92%的模型，显然擅长解决热门仓库中记录完善的问题。”但这说明不了内部认证库或团队的AGENTS.md文件的情况。

Gregorio Robles和Daniel M. German于9月10日提交的一篇arXiv论文描述了开源本身的相关转变。它关注的是由小核心保留实现权威的管护型社区。更广泛的社区在不写代码的情况下塑造软件，因为现在审查贡献的成本超过了代码本身的价值。摘要警告说，让人类控制AI智能体可能还不够。AI可能取代曾经让这些社区得以更新的实现劳动。

综合来看，这一周的进展指向同一个方向。开源工具链正在围绕智能体重建。而对这些智能体行为进行法律和安全清算，才刚刚开始产生法庭文件和政府通知。