Meta 公开 Muse 漏洞赏金计划,最高 30 万美元:机器人测试暴露 AI 安全缺口
Meta 于 9 月 25 日向公众开放 Muse 智能体的漏洞赏金计划。有效报告最高可获 30 万美元,影响单个用户的提示注入攻击最高可获 13 万美元。

据 Meta AI Research 发布的一篇文章,Meta 于 9 月 25 日向公众开放了 Muse 智能体的漏洞赏金计划。有效报告最高可获 30 万美元,其中成功影响单个用户的提示注入尝试最高可获 13 万美元。
Meta 表示,Muse 经过内部试用、智能体红队测试,以及安全研究人员在私密漏洞赏金计划中发现的问题的打磨。Muse 被描述为个人智能体,运行在 Meta 所称的隔离单元中:一个 systemd-nspawn 运行时容器,拥有独立的根文件系统、虚拟网络接口、经过过滤的系统调用和受限的内核权限。单元内的 root 映射到宿主机上的非特权用户,因此运行时单元的 root 不是宿主机的 root。Meta 的这篇文章是本批材料中对安全工程最详细的公开说明。但它出现的同时,也有研究显示这类工程有多难验证。
9 月 27 日,The Decoder 报道,斯坦福和加州理工学院的研究人员构建了 HomeBody,这套系统让 Unitree G1 机器人自主穿行于陌生的厨房,整理物品并从抽屉里取东西。HomeBody 去掉了语言模型与机器人之间常见的训练控制层:一个可替换的视觉语言模型(此处为 GPT Astra)直接调用技能库来完成抓取、导航和开抽屉。机器人先探索房间,在 Nvidia 的 Isaac Sim 中建立数字孪生,并把物体和位置记入空间记忆,这样物品离开视野后仍能找到。对于“清理厨房”这类任务,语言模型逐步规划,并在出错时自我纠正。The Decoder 列出的局限包括 Astra 的延迟、手指伺服电机过热以及高昂的算力成本。代码已放在 GitHub 上。该媒体指出,早前的基准测试显示 Astra 的空间推理能力大幅提升,而另一项测试则在 Astra 控制机器人时标记出安全问题。
同一天,The Decoder 报道,OpenAI 应用研究负责人 Boris Power 表示,公司 80% 到 90% 的研究投入投向 GPT 7、GPT 8 及更远的模型,因为“大部分价值”来自那里。Power 说,同一代模型内的小幅更新,比如从 GPT 5.1 到 5.2,来自专门的训练数据,但有意只是短期押注。他把当今助手的主要挑战说成上手门槛而非模型质量,并表示大多数 ChatGPT 用户并不知道自己能用 AI 做什么。
这些说法勾勒出一个缺口,本批材料中的安全内容一直围绕它打转。Meta 说 Muse 仍会出错,其系统假定智能体可能正遭受攻击。OpenAI 说跃升要等到新一代模型。两种说法都不是保证。HomeBody 的工作表明,失效模式既有数字层面的,也有物理层面的。
另外,Tom's Hardware 于 9 月 27 日报道,Flock 正寻求让一名安全研究员绘制的摄像头地图下架。据 The Intercept 报道,这名研究员 Joshua Michael 发现了一个未认证漏洞,无需登录凭据就能拿到访问令牌,并用它在 2025 年 11 月查询 Flock 使用的第三方地图图层 ArcGIS,取回了一份 Flock 设备数据库。由此绘成的 Flock 监控地图列出了 335701 个摄像头位置。Flock 称其云平台从未发生数据泄露;Michael 对 The Intercept 说,公司是在他拉取设备数据库之后才发布这一声明的。
资料来源
4- 01We Built Safety into MuseEN
- 02Researchers plug GPT-6 Astra directly into a robot and let it clean up an unfamiliar kitchenEN
- 03OpenAI says 80 to 90 percent of its research already targets GPT 7 and beyondEN
- 04Flock seeks to have security researchers' map of Flock cameras taken downEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。