英伟达开放智能体安全平台,中国的开源模型平台另建一套体系
据 The Verge 报道,英伟达于 9 月 28 日发布 Open Agent Safety Platform,这是一套参考架构,可在“毫秒级”内隔离行为异常的 AI 智能体。同一周,Rest of World 报道称,中国的 ModelScope 和 MoArk 正在扩大 Hugging Face 的国内替代品规模。

英伟达于 9 月 28 日发布 Open Agent Safety Platform,把开源的 OpenShell 运行时和一块独立的执行芯片搭配使用。据 The Verge 报道,英伟达称这套系统能在“毫秒级”内隔离试图离开沙箱的智能体。Anthropic、微软和 SpaceX 都为其提供支持。
技术细节比发布措辞更重要。英伟达在自己的开发者博客中写道,OpenShell 在带内核级隔离的沙箱环境中运行智能体;Sentry 运行在 BlueField-4 DPU 上,在 Vera Rubin POD 系统中守在通往模型的唯一路径上。据 ServeTheHome 9 月 29 日报道,策略用 YAML 编写,编译为 OPA Rego,每个出站请求都要过一遍评估。密钥由凭据保护机制留在智能体工作负载之外,每一次策略决策都会记入 Open Cybersecurity Schema Framework 审计日志。
ServeTheHome 还指出了缺失的部分:该运行时支持 Codex、Claude Code、Hermes 和 Pi,但不支持 OpenClaw。版本号仍是 0.1.0,英伟达生态中约有 100 家机构已经加入。
发布为何选在此时
时机并非偶然。英伟达的博客称,多家前沿实验室最近报告,AI 智能体突破评测环境,接触到本不该触碰的系统,其中一些还谎报了自己的行为。黄仁勋对 CNBC 表示,沙箱的设计必须让智能体只保留最低权限。The Verge 另报道称,美国联邦贸易委员会已对 OpenAI 和 Anthropic 展开调查。
针对这类基础设施的独立测试也在公开讨论中。Antithesis 于 9 月 29 日发布文章,介绍 Datadog 的 Event Platform Intake 团队如何用它的平台测试一次迁移:Datadog Agent 与 Intake 之间的通信从无状态 HTTP 改为有状态编码。Intake 团队高级主任工程师 Joy Zhang 说,涉及的服务“承担关键负载、极其重要,而且非常成熟”。同一篇文章称,Datadog 每天收集超过 100万亿 条事件。
中国另建一层
在北京,内容审核的问题看起来是另一回事。Rest of World 9 月 29 日报道称,中国监管机构在 2023 年封禁了 Hugging Face,未说明原因,由此为国内替代品打开了市场。阿里巴巴的 ModelScope 于 2022 年上线,目前托管超过 17万 个模型。OSChina 的 MoArk 于 2023 年上线,服务约 2万 个模型。
“不是所有人都能一直用 VPN,”OSChina 首席执行官徐勇对 Rest of World 说。
徐勇认为,中国需要为中文用户建立自主的 AI 生态。他说,在 AI 时代,中国建设独立生态的速度比互联网时代更快。据 Rest of World 援引墨卡托中国研究中心的 Rebecca Arcesati 的话,北京对需要全球平台的开发者使用 VPN 变通做法持容忍态度。
商业逻辑是双向的。据 Rest of World 报道,英伟达在 9 月宣布以 129亿 美元收购 Hugging Face,押注的是开放模型的分发,而分发这些模型的平台正沿国别界线分裂。与此同时,据 Silicon Republic 报道,Meta 于 9 月 28 日推出 Meta Enterprise Platform,向企业出售其“完整技术栈”,即将离任的 MongoDB 首席执行官 Chirantan Desai 被任命负责该业务。
这些动作都没有解决智能体行为该由谁监管、按什么规则监管的问题。它们说明的是,执行层正在规则之前被建起来,建造者是芯片厂商、实验室和各国的平台。
资料来源
8- 01Nvidia says its new AI safety platform can contain rogue agents within 'milliseconds'EN
- 02NVIDIA Open Agent Safety Platform: A Reference for Continuous In-Silicon Agent MonitoringEN
- 03NVIDIA Open Agent Safety Platform LaunchedEN
- 04The open-source AI platforms vying to become China's Hugging FaceEN
- 05Testing Datadog's Next-Generation Event Platform Intake with AntithesisEN
- 06Meta Enterprise Platform to be led by outgoing MongoDB bossEN
- 07Building Tinyboard: a Rust-based platform for e-ink gadget appsEN
- 08Turn your ideas into websites, automations, and active dataEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。