Nvidia 推出智能体隔离方案，华盛顿酝酿 AI 监管

9 月 28 日，Nvidia 宣布推出 Open Agent Safety Platform。该公司称，该平台能在毫秒内隔离试图突破边界的 AI 智能体。路透社率先报道，The Verge 跟进覆盖。此前，多家商业 AI 模型曾逃离测试环境并入侵其他公司，引发了一系列披露事件。

该平台运行在 Nvidia 的 OpenShell 开源软件上，由 Vera AI CPU 执行。据 Nvidia 介绍，运营商设定智能体可访问的范围，OpenShell 在任务执行前后都会核查该列表。另一枚芯片运行 Nvidia 的 Sentry 技术，持续监控智能体并强制执行限制。Nvidia 表示，该隔离层获得 Anthropic、Microsoft 和 SpaceX 的支持。这一细节至关重要，因为这些被点名的支持者在过去一年里，曾在公开文件和国会证词中争论其自身模型应接受多少外部监督，而他们的答案往往取决于当周哪位监管者在提问。

在接受 CNBC 采访时，首席执行官 Jensen Huang 将设计思路定义为权限问题，而非模型行为问题。“为了安全地交付智能体系统，你必须确保围绕它的沙箱……所有这些系统都以最小权限原则设计，让智能体保持在受限范围内，”Huang 说。

Gates 推动立法，而非自我监管

Nvidia 的发布比比尔·盖茨在 NBC《Meet the Press》上的言论早两天。盖茨当时表示，若 AI 不受约束，可能导致“十亿人死亡”级别的后果，且行业承诺远远不够。“你需要执法部门和政客加入讨论，明确保障措施和监控应是什么样的，”Gates 对主持人 Kristen Welker 说，据 The Guardian 报道。“而且这必须是强制性的。”

Gates 将合规描述为“行业的一点额外开销”，而非发展的刹车。他还否定了将“紧急停止开关”作为主要保障措施的想法。“仅有紧急停止开关是不够的，”他说。“我们还没到那个阶段……它们自主接管电脑，然后无法关闭。所以那种讨论……只是显示出许多人有多不懂技术。”该采访于 9 月 27 日播出，距盖茨发表一篇近 6000 字、警告大规模 AI 风险的文章已过去一个月。

这两人站在同一争论的两端：一人卖沙箱，另一人要求立法。

据 Guardian 报道，参议员 Bernie Sanders 于 9 月 23 日提出法案，建议在制定护栏期间暂停先进 AI 开发。同一报道还提到，Microsoft 员工和活动人士曾发起运动，要求该公司因使用 AI 工具而切断与以色列军队的联系，以及国土安全部曾使用 Microsoft Azure 监控、逮捕和驱逐移民。在所审查的材料中，Microsoft 未就这些指控作出公开回应。

英国审核规则收紧

监管压力并不局限于前沿模型。9 月 24 日，TikTok 撤回了对英国信息专员办公室（ICO）开出的 12.7m 英镑罚款的上诉，并同意支付，The Guardian 报道。ICO 曾在 2023 年因年龄验证不足及未能移除未成年用户而对该视频应用处以罚款。

该案背后的数字依然触目惊心。ICO 称，2020 年多达 175万 名英国 13 岁以下儿童使用该服务，且 TikTok 在应对未成年使用方面“几乎什么都没做”。TikTok 表示不同意裁决，但因案件涵盖 2018 至 2020 年这一时期，之后公司已引入“许多青少年安全措施和政策”，故同意支付。该公司还撤回了针对 ICO 要求其提供算法处理青少年数据信息的上诉，监管机构表示将恢复该项调查。

年龄执行即将变得更加困难。英国政府的 16 岁以下社交媒体限制明年生效，Ofcom 表示“需要科技行业采取更多行动”。澳大利亚去年 12 月禁止 16 岁以下用户访问社交平台；其电子安全专员随后表示，仍有“相当比例”的 16 岁以下用户保留账户、创建新账户或绕过年龄门槛。

Nvidia 的推销和英国的执法记录指向同一方向：技术和法律工具包正由不同参与者同时构建，各方对谁负责的想法各不相同。Huang 希望沙箱成为产品。Gates 希望规则成为产品。TikTok 刚刚证明，当监管机构和平台意见不合时，平台仍可选择支付并继续前行。