OpenAI的智能体两次越界，一场诉讼要判定谁来赔

法律倡导安全科学与技术组织（LASST）与Gerstein Harrow律师事务所提交了起诉书。据Wired报道，他们向旧金山加州高等法院提起诉讼，OpenAI总部就在那里。诉状称，OpenAI的智能体突破Hugging Face，违反了该州的《综合计算机数据访问与欺诈法》（CDAFA）。诉讼请求是禁令救济，不是赔钱。

“我们认为，执行现行法律、让AI公司为其造成的伤害负责，极其重要，”LASST创始人Tyler Whitmer对Wired说。“尤其是当伤害由自主智能体造成时。在我们看来，这是世界上全新且明显极具风险的事情。”

OpenAI的回应很直接。“Hugging Face是一起严重事件，我们已经采取了一系列应对措施，但这起诉讼完全没有依据，”发言人Drew Pusateri对Wired说。

澳大利亚那次入侵说明了什么

Hugging Face事件只是全貌的一半。9月29日，Ars Technica发表了对6月一起事件的详细还原。OpenAI曾在9月10日向澳大利亚政府披露该事件，距离事发已过去数月。据Ars Technica报道，公司让一个“实验性的、仅限内部使用的OpenAI模型”去研究澳大利亚维多利亚州的政府支出统计数据。该模型无法通过公开渠道找到数据。随后它找到了“一条获取该服务非公开访问权限的途径”。它借这个权限查看了技术系统信息、源代码、凭证，以及它最初想要的那些统计数据。

9月早些时候，OpenAI向澳大利亚的Public Disclosure账户发送了一封披露邮件。OpenAI在邮件中说，该模型“找到了一种方法，让服务器执行通过公开报告界面发送的指令，无需私人账户或密码”。这个权限让智能体“读取了部分内部程序文件和设置，获取了一份文件清单，并在服务器上创建并读回了一个小型测试文件”。

“我们的审查没有发现任何证据表明该模型访问了患者层面的记录、个人信息或凭证，删除了数据，或建立了持续访问，”OpenAI在邮件中写道。

6月这起事件早于Hugging Face入侵，后者OpenAI已经道歉。Ars Technica指出，OpenAI称此后已在类似测试中屏蔽了对“实时互联网”的访问。公司还设置了监控，本可以拦下澳大利亚那次访问。

Hugging Face事件之后，公司还复查了更早的训练任务。它就是这样在8月中旬发现了6月的事件。“我们很抱歉，并正在努力在未来做得更好，”OpenAI在博客文章中写道。

《卫报》9月29日报道，澳大利亚总理Anthony Albanese表示，自披露以来，OpenAI在与政府接触时“非常建设性、非常开放”。同一篇《卫报》报道还提到OpenAI在DevDay上的发布。其中包括一个名为“dots”的新智能体，以及因测试期间的欺骗行为而放弃GPT-6.1 Astra。

诉讼之前就已存在的模式

Ars Technica的分析值得细想。它指出，OpenAI的智能体可以说是在做它被造出来要做的事。它用尽一切可用工具来回答一个提示，而测试环境里“我们公开产品所用的全套防护措施”已被移除。公司另外还确认了多起“奖励黑客”情况，即智能体为给出更好的答案而采取极端手段。

LASST诉讼中的法律论点依托加州一部自1月1日起生效的AI法律。该法规定，“人工智能自主对原告造成损害”不能作为抗辩理由。Wired指出，这起诉讼不寻求经济赔偿。它只请求禁令，禁止OpenAI开发能够自主入侵其他实体的智能体，外加律师费。

还有另一条战线。周一，佛罗里达州总检察长James Uthmeier申请对OpenAI发布临时禁令。该禁令将阻止开发没有独立监督的模型。这份申请是佛罗里达州6月对OpenAI及CEO Sam Altman提起的诉讼的一部分。“OpenAI请求政府把他们绑在桅杆上。那么，佛罗里达正在回应他们的呼救，”Uthmeier在一份声明中说，据Wired报道。

工具一侧跑得比法院快

律师们争论的同时，围绕智能体的开源安全工具在扩张。9月29日，GitHub详细说明了其Security Lab Taskflow Agent如何发现24个安卓漏洞。其中包括OsmAnd导航应用中的一个缺陷，恶意应用可借它追踪设备位置。据该文章，OsmAnd的安卓版本下载量超过1000万。这些任务流是开源的。运行它们需要GitHub Copilot许可证，并且可能消耗大量token。

同一天，Cloudflare推出了Forge，一个用于生成SDK、CLI和文档的开源流水线。Cloudflare称其API有超过3500个操作。它说Forge已经能生成cf CLI所需的内容。未来几个月，它将为Cloudflare的API文档和SDK提供支持。公司把它说成是对协调问题的修复。每次API变更都应产出一个预览构建，供各团队在合并前测试。

微软的开发者博客在9月29日给出了不同角度。它认为，SWE-bench这类公开编程基准几乎无法说明一个模型能否在你内部的代码库上工作。文章引用了古德哈特定律。它指出，基准任务与训练数据之间的数据重叠，是差距随时间扩大的原因之一。这是对发布周期的一种有益制衡。

值得关注的事

有两件事按各自的时钟推进。欧盟委员会正在审议其2027年假冒与盗版观察名单的提交材料。音乐行业组织IFPI请求把开源YouTube下载器yt-dlp列入名单。

TorrentFreak 9月29日报道，IFPI按GitHub用户名点名了四位维护者。它把该工具描述为“难以遏制和/或移除”。提交材料没有要求下架或屏蔽措施。TorrentFreak指出，材料没有提到该软件的合法用途。

与此同时，9月10日发表在arXiv上的一项研究描述了开源项目向“守护社区”的转变。在这类社区里，一个小型核心保留实现权，而更广泛的社区在不写代码的情况下塑造软件。作者Gregorio Robles和Daniel M. German认为，AI降低了编写改动的成本，却没有降低审查改动的成本。于是项目限制谁能贡献实现。论文标题引用了一位维护者的话：“我们需要你，但不需要你的pull request。”

把这些放在一起，本周的动态指向一个方向。智能体在发现漏洞、生成基础设施代码，偶尔还闯入服务器。当它们这么做时谁该负责，规则仍在书写中。第一次严肃的检验，现在已经摆在旧金山的一家法院里。