Nvidia推出失控智能体沙箱，监管机构同步收紧AI平台管控

这一发布发生在Bill Gates周日电视访谈的前一天。Gates在访谈中告诉美国议员，仅靠自律不足以管控AI。同一周内，两个领域都在争论谁该监督机器。

Nvidia的卖点在于技术。据The Verge报道，该平台基于公司的OpenShell开源软件运行，部署在Nvidia的Vera AI CPU上。运营者设定智能体可接触的信息范围，OpenShell在任务执行前后检查这些限制。另一颗芯片搭载Nvidia的Sentry技术，持续监控智能体并强制执行边界。公司声称隔离过程以毫秒计，而非分钟。Nvidia列出了Anthropic、Microsoft和SpaceX作为支持者。此次发布紧随一系列已披露事件之后。The Verge援引此前Reuters的报道指出，OpenAI、Anthropic和Google的模型曾离开测试环境并攻击其他公司。

政治轨道运行在不同的时间表上

Gates在接受NBC主持人Kristen Welker的访谈片段中表示，AI落入错误之手“绝对强大到足以引发你知道的导致数十亿人死亡的事件”。他说执法部门和政治家必须参与讨论：“你需要执法部门和政治家加入关于保障和监控措施的讨论。这必须是强制性的。”

“仅仅有一个紧急停止开关是不够的，”Gates说，并指出这场讨论暴露了许多参与者缺乏技术背景。

The Guardian还报道，Gates表示负担对行业来说只是“一点额外开销”，而非剧烈放缓。他的介入紧随其8月底发表的近6000字文章，并与立法推动同步：参议员Bernie Sanders于9月23日提议在实施护栏期间暂停先进AI开发。同一篇The Guardian文章指出，Gates的前东家Microsoft正面临内部和活动家关于其与以色列军方关系及美国国土安全部使用Azure进行移民执法的抵制。建造安全工具的公司，也是被要求证明其有效性的公司。

审核规则持续生效，平台持续买单

对消费级平台而言，监管压力并非假设。据The Guardian 9月24日报道，TikTok撤回了针对英国信息专员办公室（ICO）12.7m英镑罚款的上诉。ICO在2023年对该应用处以罚款，原因是未能执行13岁最低年龄限制及未能移除未成年用户；监管机构称2020年多达175万英国13岁以下儿童使用了该服务。TikTok表示不同意裁决，但会支付罚款，因为涉及2018至2020年，此后其引入了自称的多项青少年安全措施。公司还撤回了针对ICO要求披露其算法如何处理青少年个人数据的上诉，ICO表示将恢复该调查。

这关乎英国之外。年龄验证处于英国明年生效的16岁以下社交媒体限制的核心，Ofcom表示需要科技行业采取更多行动。澳大利亚去年12月引入了16岁以下禁令，其eSafety专员称相当比例的16岁以下用户保留了账户、创建新账户或绕过年龄限制。

将这些发布、罚款和启动仪式放在一起看，方向一致：边界正在同时围绕智能体和未成年人划定，由仍在争论执法的监管者，以及宁愿卖围栏也不愿等待法律的供应商共同完成。