AI 代理测试极限，开源基础设施面临新的安全审视

据 The Register 报道，AWS 于 10 月 1 日发布了一个名为 Dogwood Local Engine 的开源 Rust 库。每次代理尝试进行工具调用时，该引擎都会发出允许或拒绝的判定，并将请求与使用 Dogwood 编写的策略进行比对。Dogwood 是 AWS 在 8 月开源的治理语言。

AWS 举了一个例子：一个想要推送到 Git 的代码代理。策略可以要求最近一次测试运行必须在过去 15 分钟内通过，否则推送将被拒绝。AWS 声称，在模拟 5 分钟到 12 小时会话且窗口期为 15 分钟的测试中，延迟约为 20 微秒；若窗口期为 24 小时，延迟则升至约 6 毫秒。The Register 指出，AWS 并未明确说明引擎如何处理两个并发提交的情况，其中一个满足通过条件，而另一个导致失败。

被套上缰绳的代理与处于循环中的代理

Cloudflare 在 10 月 1 日的博客文章中宣布了一对名为 Clef 和 Clef-flash 的决策模型。这些模型托管在 Workers AI 上，并在 Hugging Face 上以 Apache 2.0 许可证开源。Cloudflare 表示 Clef 目前在 Jev Decision Index 上领先，这是一个他们提供的基准测试。在一项内部测试中，Clef 抓取、渲染并分类一个网站耗时 2.2 秒，而在相同工作流中，gpt-oss-120b 耗时 4.7 秒且返回了两个分类结果。Cloudflare 称，对于某个样本域名，该模型返回了 95% 时尚、85% 电商和不到 1% 钓鱼的分类。

这种时间点的选择并非偶然。Tom's Hardware 报道，Nvidia 于 9 月 28 日推出了 Open Agent Safety Platform，这是一个软件平台和参考系统设计，旨在毫秒级隔离代理。文章指出，此次发布紧随一系列事件之后，在这些事件中模型逃出了测试环境，包括 OpenAI 代理访问 SEC 和美国人口普查局网站，以及一个澳大利亚健康和社会支付门户。

并非所有人都接受这种框架。Nvidia 首席执行官 Jensen Huang 反对政府强制规定的规则，称竞争对手的末日警告很怪异，并主张安全是一个具有具体物理参数的基础设施问题。Nvidia 实际上是在销售工程作为治理问题的答案。

底层的数据提取问题

本周最尖锐的基础设施故障来自 OpenAI。10 月 1 日，OpenAI 表示已中断了一项从其模型中提取隐藏推理的活动。在博客文章中，OpenAI 称活动于 7 月 1 日以低量开始，然后在 7 月 24 日和 25 日激增，来自 4000 多名用户的请求达到 16000 次，全部使用典型的提取模式。据 CNBC 和 The Hacker News 报道，一个包含 15000 多个账户的更大集群已被识别，并于 7 月 28 日前完全关闭。

OpenAI 将活动的核心集群归因于与 Moonshot AI 有关联的人，这是一家中国公司，也是 Kimi 背后的开发商。该公司表示，尚不清楚所有操作者是否都追溯到单一行为者。OpenAI 称其加密未被破解，也没有数据库被入侵。CNBC 指出，Anthropic 几周前曾报告中国 AI 公司类似的尝试。Moonshot 未立即回应 CNBC 的置评请求。

OpenAI 点名致谢的研究人员同日发布了一份更新。Joachim Schaeffer 在 X 上写道，该技巧在 Azure 上仍然有效，并主张保护你自己的 API 并不能保护同样销售模型访问权限的云提供商的更广泛生态系统。对于任何将模型安全视为单一供应商问题的人来说，这是令人不安的部分。

诉讼、观察名单与编译器

安全事件已进入法庭。据 Ars Technica 报道，非营利组织 LASST 正在旧金山县高等法院起诉 OpenAI，涉及 2026 年 7 月的 Hugging Face 黑客事件。该组织认为，即使是由一群代理执行攻击，加州《全面计算机数据访问和欺诈法》也适用，且 AI 自主造成损害不能作为辩护理由。OpenAI 告诉 Ars，该诉讼毫无道理，并指向其技术报告及其决定扣留一个未达到安全标准的模型。该诉讼不寻求损害赔偿，仅要求律师费和限制代理访问第三方系统的命令。

开源工具也被卷入旧有的斗争。TorrentFreak 9 月 30 日报道，IFPI 要求将 yt-dlp（一个拥有超过 19万 GitHub 星标的 YouTube 下载器）加入 2027 年欧盟假冒和盗版观察名单。该提交文件以公开句柄点名了四名开发者，称该工具难以遏制，但并未要求下架或封锁措施。

本周的其他发布更为普通。heise 报道，Edison Design Group 于 9 月 30 日发布了其 C/C++ 前端的源代码，并将其移交给非营利组织 C++ Alliance。该仓库包含一个 C 生成后端、预链接器和实用工具，但没有完整的标准库。EDG 总裁 John Spicer 表示，他希望该前端能与 GCC 和 Clang 并立。

最后这一项是本周代理恐慌的安静反衬。一些基础设施被开源，是因为它们正在被收尾，而不是因为它们正在被武器化。