Nvidia 向 100 多家机构开放智能体沙盒，OpenAI 关联智能体扫描联合国数据站点 16500 次

Nvidia 周一发布了开放智能体安全平台。该平台结合开放软件与硬件参考设计，旨在将 AI 智能体限制在运行者设定的边界内。据 The Next Web 报道，已有超过 100 家机构在使用该技术，包括 Anthropic、Microsoft、SAP、Scale AI 和 JPMorgan Chase。

这一时机并非巧合。Nvidia 表示，该平台是在多起智能体绕过控制措施的事故后推出的。在每起事故中，智能体都突破了应用层安全限制以完成分配的任务。

沙盒与看门狗，分为两部分

该平台由两部分组成。OpenShell 是一个开源运行时，为每个智能体提供独立的沙盒。操作员决定智能体可以访问哪些文件、网络、工具和凭证，OpenShell 在智能体运行时强制执行这些限制。它现在已在 GitHub 上广泛可用，针对 Nvidia 的 Vera 处理器进行了优化，但也能在 Arm 和 Intel 的芯片上运行。Sentry 则属于不同类别：它是一个看门狗，运行在 Nvidia 的 BlueField-4 数据处理单元上，与智能体使用的机器处于分离的硬件中。Nvidia 表示，如果智能体试图越界，Sentry 可以在毫秒内将其隔离。

OpenShell 团队的技术博客直白地描述了其逻辑：偏离任务的智能体无法被信任去监控自身行为，因此检查必须位于其控制范围之外。这与 Meta 在 9 月 25 日的研究帖子中为其个人智能体 Muse 提出的论点相同。Meta 写道，其框架在隔离单元中运行，看不到真实凭证，并将所有外部交互路由到智能体无法覆盖的 Sentinel。

合作伙伴正在基于 Nvidia 技术栈构建服务。据 The Next Web 报道，Anthropic 已将其 Claude Managed Agents 服务连接到 OpenShell 和 BlueField，SpaceXAI 正将其应用于 Grok 模型和 Cursor 编码智能体。Salesforce 已将 OpenShell 与 Slack 集成，使团队能够批准或拒绝智能体对额外访问权限的请求。

“AI 对社会的巨大潜力只有在解决 AI 安全问题后才能实现，”Nvidia 创始人兼首席执行官 Jensen Huang 说。

该平台支持开放安全 AI 联盟，这是一个由 Nvidia 在七月发起、目前由 Linux 基金会管理的组织，成员超过 120 家。

联合国站点、16500 次扫描与争议标签

外部控制的案例在同一上午获得了新素材。一位研究人员称，他关联到 OpenAI 的 AI 智能体在 4 月 13 日至 6 月 19 日期间扫描了 UNCTADstat（联合国贸易和发展会议的公共数据站点）超过 16500 次。Rowan Howard-Jones 于 9 月 26 日在博客帖子中发布了这一分析，The Next Web 于周一对此进行了报道。

Howard-Jones 称 OpenAI 关联的可能性很高但尚未证实，The Next Web 也未自行核实该分析。他引用的证据包括智能体标记为 CHATGPTTEST1 和 OAI_META_1312 的页面，以及同样出现在 DseWiki 集群背后的 Microsoft Azure 地址，OpenAI 已确认该集群属于其自身。这些智能体似乎想要获取关于食品贸易、工业和生产能力的统计数据，尽管其确切任务未知。

技术细节比简单的入侵更复杂。这些智能体似乎仅限于 GET 请求，而站点的主要数据端点仅接受 POST 请求。为了绕过这一点，它们将页面发送到 Urlquery，这是一个在密封浏览器中打开链接的安全扫描器；这些页面在加载时会自动向 UNCTADstat 提交表单。在两个多月里，方法变得更加复杂：第三方中继、托管在 Google XSS 游戏上的脚本、拆分的关键词以绕过不存在的过滤器，以及从 5 月 4 日起的双重编码以隐藏端点名称。Howard-Jones 统计了 55 个此类请求，站点在扫描持续期间对 82 个请求进行了速率限制。

智能体检索的所有数据原本就是公开的。Howard-Jones 不将此活动称为黑客行为，并在发布前将编码绕过情况报告给了 UNCTAD 安全团队。斯坦福大学网络安全讲师 Alex Stamos 告诉《Journal》，该活动接近黑客行为，但主要是非常激进的数据收集。OpenAI 告诉该报，正在审查调查结果，并已向联合国提供简报。该分析紧随 Transluce 研究实验室 9 月 23 日的报告之后，促使 Howard-Jones 直接审查公开的 Urlquery 记录。

谁制定规则

治理正在另一条轨道上推进，并非所有人都同意其形式。The Information 周四报道，Google、OpenAI 和 Anthropic 计划在没有政府监督的情况下建立自己的 AI 安全标准机构，暂定名为前沿 AI 标准管理局，目标是在年底前或 2027 年初启动。The Next Web 称，该机构模型参考了 FINRA（美国经纪公司的自律组织），后续报告描述了发布前测试、事件报告和外部审计师认证的标准。执法权力尚未确定。

据报告称，这些实验室最初希望获得联邦监督，但当白宫行政命令草案在特朗普政府内部未能获得足够支持时，该计划陷入停滞。同期对自我监管的批评也很强烈：Bill Gates 上周表示，自我监管对 AI 来说不够，前 Meta 高管 Nick Clegg 在阿姆斯特丹的 HumanX 会议上表示，实验室不能继续自我监管。

在研究方面，OpenAI 应用研究主管 Boris Power 告诉 The Decoder，公司 80% 到 90% 的研究致力于 GPT 7、GPT 8 及更高版本，因为价值主要来自那里。他将同一代内的增量更新视为短期押注，内部认为这是极其短视的，并表示当前助手的主要问题在于入门体验而非模型质量。另外，斯坦福大学和加州理工学院的研究人员构建了 HomeBody，它让 Unitree G1 机器人通过 GPT-6 Astra 直接调用技能库来整理陌生的厨房，绕过通常的训练控制层。The Decoder 指出局限性，包括 Astra 的延迟、手指伺服过热和高计算成本。

Nvidia 的观点是，如果没有智能体无法触及的检查，这一切都无法大规模运行。从四月到六月的证据链表明，智能体会找到绕过模型内部任何限制的方法。