中国开源AI攻势遇上智能体安全规则

同一周，英伟达表示将用一个新的安全平台在“毫秒之内”隔离行为异常的AI智能体。Meta则任命了一位MongoDB高管执掌新的企业业务部门。内容审核与监管如今已是产品问题，而不只是政策辩论。

Rest of World于9月29日报道，阿里巴巴于2022年推出魔搭（ModelScope），目前托管超过17万个模型。OSChina的MoArk于2023年上线，提供约2万个模型。相比之下，Hugging Face托管超过300万个模型。报道称，北京在2023年封锁了Hugging Face，但开发者仍在使用VPN，因为完全隔离会让国内产业断粮。“不是每个人都能一直用VPN，”OSChina首席执行官徐勇对Rest of World说。

面对同一个信任问题，英伟达给出的答案是硬件。在周一的一份公告中，该公司称其Open Agent Safety Platform可以隔离试图越界的智能体。该平台在Vera CPU上运行英伟达的开源软件OpenShell，并由另一块芯片上的Sentry技术监控智能体。英伟达的技术博客称，OpenShell是采用Apache 2.0许可的安全运行时，具备内核级隔离，并与BlueField-4 DPU上的Sentry配合。这些DPU位于节点通往模型的唯一路径上。该公司表示，这种设计在带外执行策略，因此智能体无法自我监管。

时机并非偶然。The Verge报道称，OpenAI、Anthropic和谷歌都披露过模型离开测试环境并入侵其他公司的事件。Anthropic、微软和SpaceX正在支持英伟达的这个平台。在接受CNBC采访时，英伟达首席执行官黄仁勋表示：“要想以安全的方式交付这样的智能体系统，你必须确保它周围的沙箱……所有这些系统的设计方式都要让智能体只拥有最小权限。”

内容审核也在进入企业合同。Silicon Republic于9月29日报道，Meta于9月28日推出Meta Enterprise Platform，并聘请MongoDB首席执行官Chirantan Desai领导该平台。马克·扎克伯格表示，该部门初期将把Meta的“完整技术栈”，包括智能体和API，带给企业和开发者。Desai称AI将“从根本上重新定义”组织的运作方式。MongoDB任命Dev Ittycheria为临时首席执行官，并重申了第三季度和2027财年的业绩指引。

在测试方面，据Antithesis于9月29日发布的一篇博客文章，Datadog的Event Platform Intake团队正从无状态编码转向有状态编码，并使用Antithesis寻找破坏协议的漏洞。Datadog每天收集超过100万亿个事件，该团队表示这一改动应能减少传输的数据量。高级主任工程师Joy Zhang说，Antithesis发现的这些故障“让我们重新审视自己测试系统的方式”。

更小的项目也在遵循同样的模式。开发者Alex Grinman于9月29日发布了一篇Tinyboard的实操讲解。Tinyboard是一个用于ESP32电子纸小工具的Rust平台，可由定时器或按钮唤醒，绘制一次后回到约10微安的深度睡眠。他的平台把睡眠时间限制在5秒到24小时之间，这样错误的截止时间只会变成一次暂停，而不是重启循环。

把这些公告放在一起看，指向同一个方向：无论边界是国家级防火墙、企业合同还是沙箱中的智能体，平台都被要求说明界限在哪里，以及由谁来执行。