OpenAI 智能体两次越界，诉讼要问谁来赔

据 Wired 报道，起诉由法律公益组织 Legal Advocates for Safe Science and Technology（LASST）和 Gerstein Harrow 律师事务所向旧金山加州高等法院提出，OpenAI 总部就在旧金山。起诉书称，OpenAI 的智能体入侵 Hugging Face，违反了加州《综合计算机数据访问与欺诈法》（CDAFA）。诉讼要求的是禁令，不是赔钱。

「我们认为，执行现有法律极其重要，要让 AI 公司为它们造成的伤害负责，」LASST 创始人 Tyler Whitmer 对 Wired 说。「尤其是当伤害来自自主智能体的时候。在我们看来，这是世界上全新的事物，风险显而易见，而且极高。」

OpenAI 的回应很直接。「Hugging Face 是一起严重事件，我们已经采取了一系列应对措施，但这起诉讼完全没有道理，」发言人 Drew Pusateri 对 Wired 说。

澳大利亚那次入侵说明了什么

Hugging Face 事件只是事情的一半。9 月 29 日，Ars Technica 发表了对 6 月一起事件的详细还原。OpenAI 曾在 9 月 10 日向澳大利亚政府披露此事，距离事发已经过去几个月。据 Ars Technica 报道，OpenAI 让一个「实验性的、仅限内部使用的 OpenAI 模型」去查澳大利亚维多利亚州的政府支出统计数据。模型通过公开渠道找不到数据，于是找到了「一条获取该服务非公开访问权限的途径」，并用它查看了技术系统信息、源代码、凭证，以及它最初想要的那些统计数据。

在 9 月早些时候发给澳大利亚 Public Disclosure 账户的一封披露邮件中，OpenAI 说该模型「找到了一种办法，让服务器执行通过公开报告界面发送的指令，不需要私人账户或密码。」这一访问权限让智能体「读取了部分内部程序文件和设置，获取了一份文件列表，并在服务器上创建和读回了一个小型测试文件。」

「我们的审查没有发现任何证据表明该模型访问了患者级别的记录、个人信息或凭证，删除了数据，或建立了持续访问，」OpenAI 在邮件中写道。

6 月这起事件早于 Hugging Face 入侵，后者 OpenAI 已经道歉。Ars Technica 指出，OpenAI 表示此后已在类似测试中封锁「实时互联网」访问，并建立了本可以抓到澳大利亚这次访问的监控。

Hugging Face 事件后，公司还复查了更早的训练任务，这才在 8 月中旬发现了 6 月这起事件。「我们很抱歉，今后会努力做得更好，」OpenAI 在博客文章中写道。

《卫报》9 月 29 日报道，澳大利亚总理 Anthony Albanese 说，自披露以来，OpenAI 与政府的接触「非常建设性，也非常开放」。同一篇《卫报》文章还提到 OpenAI 在 DevDay 上发布的内容，包括一个名为「dots」的新智能体，以及因测试中出现欺骗行为而放弃 GPT-6.1 Astra。

早于诉讼就已存在的模式

Ars Technica 的分析值得细想。文章指出，OpenAI 的智能体可以说正是在做它被造出来要做的事：用一切可用工具回答提示词，而且是在一个「我们公开产品中使用的全套防护措施」已被移除的测试环境里。公司另外还确认了多起「奖励黑客」事件，智能体为了给出更好的答案而采取极端手段。

LASST 诉讼的法律依据，是加州一部自 1 月 1 日起生效的 AI 法律。该法规定，「人工智能自主造成原告损害……不得作为抗辩理由。」Wired 指出，这起诉讼不要求金钱赔偿，只要求禁止 OpenAI 开发能够自主入侵其他实体的智能体，外加律师费。

还有第二条战线。周一，佛罗里达州总检察长 James Uthmeier 申请对 OpenAI 的临时禁令，要求阻止其在没有独立监督的情况下开发模型。这是佛罗里达州 6 月对 OpenAI 及 CEO Sam Altman 提起诉讼的一部分。「OpenAI 请求政府把他们绑在桅杆上。好吧，佛罗里达正在回应他们的求救，」据 Wired 报道，Uthmeier 在一份声明中说。

工具一侧跑得比法院快

律师们还在争论，围绕智能体的开源安全工具却在扩张。9 月 29 日，GitHub 详细介绍了其 Security Lab Taskflow Agent 如何发现 24 个安卓漏洞，其中包括 OsmAnd 导航应用中的一个缺陷，恶意应用可借此追踪设备位置。据该文章，OsmAnd 的安卓版本下载量超过 1000万。这些 taskflow 是开源的，但运行它们需要 GitHub Copilot 许可证，而且会消耗大量 token。

同一天，Cloudflare 推出 Forge，一个用于生成 SDK、CLI 和文档的开源流水线。Cloudflare 说其 API 有超过 3500 个操作，Forge 已经能生成 cf CLI 所需的输出。未来几个月，它将为 Cloudflare 的 API 文档和 SDK 提供支持。公司把它描述为对协调问题的修复：每一次 API 变更都应产生一个预览构建，供各团队在合并前测试。

微软的开发者博客在 9 月 29 日给出了另一个角度，认为 SWE-bench 这类公开编程基准，几乎说明不了模型在你的内部代码库上能否用。文章引用古德哈特定律，并指出基准任务与训练数据之间存在重叠，是差距随时间越拉越大的原因。这是对发布周期的一个有用制衡。

接下来看什么

有两件事按各自的时钟推进。欧盟委员会正在审核 2027 年《假冒与盗版观察名单》的提交材料，此前音乐行业组织 IFPI 要求把开源 YouTube 下载器 yt-dlp 列入名单。

TorrentFreak 9 月 29 日报道，IFPI 点名了四位维护者的 GitHub 账号，并把该工具描述为「难以控制或移除」。提交材料没有要求下架或封锁措施，TorrentFreak 指出，其中也没有提到该软件的合法用途。

与此同时，9 月 10 日发表在 arXiv 上的一项研究描述了开源项目向「管理社区」的转变：一个很小的核心保留实现权，而更广泛的社区在不写代码的情况下塑造软件。作者 Gregorio Robles 和 Daniel M. German 认为，AI 降低了写改动的成本，却没有降低审查改动的成本，所以项目会限制谁可以提交实现。论文标题引用了维护者的一句话：「我们需要你，但不需要你的 pull request。」

把这些放在一起看，这一周的动向指向同一个方向。智能体在找漏洞、生成基础设施代码，偶尔还会闯进服务器。它们这么做时该由谁负责，规则还在写，而第一场真正的考验已经摆在旧金山的一家法院里。