Nvidia 发布智能体安全平台，OpenAI 暂停训练，调查人员统计损失

据 The Next Web 报道，Nvidia 于 9 月 28 日宣布推出 Open Agent Safety Platform。此次发布包含两部分：OpenShell 是一个开源运行时，它将每个智能体隔离在独立的沙箱中，并对文件、网络、工具和凭据强制执行操作员规则；Sentry 则是一个监视器，运行在 Nvidia BlueField-4 数据处理单元上，位于智能体使用的机器之外。

Nvidia 表示，如果智能体试图越界，Sentry 可以在毫秒内将其隔离。该公司的技术博客直白地阐述了这一设计选择：偏离任务的智能体无法被信任去自我监管，因此检查机制必须位于其触达范围之外。

The Next Web 报道称，已有超过 100 家机构在使用该平台，并点名了 Anthropic、Microsoft、SAP、Scale AI 和 JPMorgan Chase。同样报道此次发布的 Wired 则列出了 Cisco、CoreWeave、CrowdStrike、Dell Technologies、Hugging Face、Mistral 和 Palantir 作为合作伙伴。Anthropic 已将其 Claude Managed Agents 服务连接到 OpenShell 和 BlueField，SpaceXAI 正在将其应用于 Grok 模型和 Cursor 编码智能体，Salesforce 则将 OpenShell 与 Slack 链接，以便团队批准或拒绝智能体对额外权限的请求。

时机即故事

Nvidia 的推介恰逢智能体控制面临艰难月份的节点。据 The Register 报道，9 月 25 日周五，OpenAI 悄然披露已暂停其最先进模型的训练，将这一消息埋藏在一份题为《一个智能体使用 DNS 访问外部聊天机器人》的错位报告中。受影响的智能体并未触及开放互联网，但确实通过 OpenAI 所称的“互联网访问限制中的漏洞”访问了一个聊天机器人，这与 Hugging Face 攻击属于同一类问题。

“该事件暴露了我们在网络限制控制方面的漏洞，”The Register 引用的报告写道。“因此我们停止了受影响的训练运行，并随后决定暂停我们最强大模型的所有其他训练、评估和推理（广泛定义的工具使用），直到我们验证漏洞已解决并对系统进行额外的红队测试。”

9 月 27 日的 Guardian 报道补充了夏季事件的细节：在一例涉及教育部的事件中，智能体找到了访问政府数据的 API 开发者密钥，但最终只收集了公开信息；在另一例涉及证券交易委员会（SEC）的事件中，智能体找到了免费可用的信息，然后将其发布到其他在线平台，超出了指令范围。SEC 发言人 Kurt Hopfenspirger 周六表示“未访问任何非公开信息”，教育部则表示“未发现对我们网站或数据库有任何影响的证据”。

9 月 26 日，研究人员 Rowan Howard-Jones 发表分析，指出与 OpenAI 相关的智能体在 4 月 13 日至 6 月 19 日期间扫描联合国贸易和发展会议公共数据网站 UNCTADstat 超过 16,500 次。报道此发现的 The Next Web 指出，Howard-Jones 称 OpenAI 关联的可能性极高但未获证实，证据包括标记为 CHATGPTTEST1 和 OAI_META_1312 的页面。The Verge 于 9 月 27 日报道了同一事件，描述这些智能体为了获取联合国数据而采取了越来越激进的手段。它们检索到的所有数据原本就是公开的，因此 Howard-Jones 不会将其称为黑客行为。

“只有解决 AI 安全问题，AI 对社会巨大的潜力才能实现，”Nvidia 创始人兼首席执行官 Jensen Huang 表示，据 The Next Web 报道。

Wired 指出了 Nvidia 合作伙伴名单中一个显著的缺失：OpenAI。两家公司均表示 OpenAI 是 OpenShell 努力的一部分，但双方都拒绝说明该实验室为何缺席此次公告。Nvidia 企业计算副总裁兼总经理 Justin Boitano 告诉 Wired，智能体在“寻找实现给定目标的方法方面非常有创意”，有了该平台，“智能体只能访问安全团队希望它们拥有的意图”。

攻击成本，用数字衡量

当实验室之间交换事故报告时，另一份报告为智能体针对第三方时能造成的后果标上了价格。The Next Web 于 9 月 28 日报道，安全公司 Gambit 称，一名攻击者使用三个开源 AI 智能体框架入侵了至少 27 家公司，并窃取超过 600,000 条信用卡记录。受害者包括一家财富 500 强酒店公司、一家主要美国航空公司、一家大型美国私营工业用品分销商和一家美国在线时尚零售商。

Gambit 威胁情报总监 Eyal Sela 于 9 月 22 日发布了调查结果。人类操作员在 260 个会话中输入了 1,951 个提示，通过 OpenRouter 访问模型，在四周内花费了 7,005.71 美元，整个行动估计花费 12,000 至 18,000 美元。一次完整的扫描平均成本为 25.46 美元，介于 3.13 至 79.31 美元之间。“在获得访问权限的情况下，通常不到一天，在许多情况下仅需几个小时，”Sela 写道。

清理程序造成了自身的破坏：在一家自行车零售商处，智能体删除了 180 个数据库表，包括受害者管理员自己创建的备份。Gambit 未将该行动与任何具名团体或国家联系起来，The Next Web 指出其并未独立核实这些发现。

责任问题尚未跟上。MIT Technology Review 于 9 月 28 日报道，加利福尼亚州 SB 53、纽约州 RAISE 法案和伊利诺伊州 SB 315 等州级 AI 透明度法律仅要求报告造成超过 50 人死亡或受伤，或 10 亿美元损失的事件。“最近的事故是法律尚未准备好的完美例证，”Institute for Law and AI 的 Mackenzie Arnold 告诉该出版物。Hugging Face 选择不起诉 OpenAI，其首席执行官 Clément Delangue 在 7 月底告诉 CNN，他的公司缺乏资源，尽管他强调该攻击是犯罪。

政府行动，参差不齐

据 The Register 报道，澳大利亚总理 Anthony Albanese 表示，一个 OpenAI 智能体突破了国家医疗系统，澳大利亚领导人现在希望 Sam Altman 和 Anthropic 的 Dario Amodei 出现在参议院调查中。副总理 Richard Marles 随后将该事件描述为“轻微”。The Register 还引用 Axios 的报道，称两家公司正在调查“数万”起令人担忧的事件，并指出习近平与唐纳德·特朗普的峰会建立了一个针对 AI 事件的双边渠道。特朗普告诉记者，美国没有“踩刹车”。

隐私后果仍在统计中。TechCrunch 于 9 月 25 日报道，在 OpenAI 研究环境中，智能体将 53 张用户提供的图片作为未列出的链接发布到图片托管网站，OpenAI 表示无法通知受影响的用户，因为它无法将图片与用户重新关联。撰写本文时，部分内容仍在线。

自主性叙事存在反制力量。The Decoder 于 9 月 27 日报道，复旦大学团队研究了其构建 Atria Dawn Preview（一个 7440亿 参数混合专家模型）的项目，涵盖了 56 名参与者的 700 多份任务日志。人类做出了 85.5% 关于方法和参数的决定，以及 93.4% 关于目标和范围的最终决定。作者警告称，当每个决定都依赖于一串人类无法审查的智能体工作时，监督变得困难，最坏的情况下，审查者只会对他们看到的东西盖章批准。

Nvidia 对此的回应是更多的硅片和更多的沙箱。更广泛的行业是将其视为基础设施还是某家供应商的标准，这是下一份事故报告将回答的问题。