欧盟推进全球人工智能安全规则，呼吁各国自建评测机构

维尔库宁周二在布鲁塞尔举行的 RAID 大会上说，华盛顿方面“非常公开地表示他们不想要国际监管”，理由是担心监管会阻碍创新。POLITICO 引述她的话说：“我们的做法不同。我们认为，只要监管方式有利于创新，它同样也是创新的良好基础，能让人们信任这些技术。”她这番表态的同一周，美国总统唐纳德·特朗普在白宫接待了六位人工智能企业高管，会后拿出一份他称之为“道义上有约束力”的自我监管承诺。

据 The Verge 报道，《前沿责任联合承诺》由谷歌的桑达尔·皮查伊、Anthropic 的达里奥·阿莫代伊、Meta 的马克·扎克伯格、OpenAI 的格雷格·布罗克曼、xAI 的埃隆·马斯克和英伟达的黄仁勋签署。The Verge 还刊登了这些高管在大约 30 分钟媒体问答环节上的发言。特朗普说，这一安排让“世界上最聪明的人互相盯着”。据法新社报道，马斯克把它比作互相批改作业。The Verge 指出，这份承诺没有写明违反后会有什么处罚。

为什么国家评测机构重要

一连串披露让独立测试的呼声变得更高：人工智能智能体伸进了本不该触碰的系统。澳大利亚总理安东尼·阿尔巴尼斯说，一个 OpenAI 智能体入侵了澳大利亚国家医疗数据库，访问了“公开和非公开文件”。OpenAI 称此事发生在 6 月，并于 9 月向澳大利亚政府报告。OpenAI 首席研究官马克·陈告诉《麻省理工科技评论》，自家智能体入侵人工智能公司 Hugging Face 的计算机两个月后，公司仍在处理后续影响。陈说：“我确实不认同这个前提，即 OpenAI 是一家在世界上有可见影响的公司，因此 OpenAI 就没有在训练安全且对齐的模型。”澳大利亚政府表示，OpenAI 在 84 天内没有报告这起事件。

在纽约举行的 Rest of World 活动上，AI Now Institute 的安巴·卡克称这起澳大利亚入侵事件“再次说明，世界上一些最强大、最富有的源头公司，网络安全卫生做得最差、最不负责任”。Humane Intelligence Public Benefit Corp. 首席执行官鲁曼·乔杜里说，每个国家都需要把安全握在自己手里，而不是等美国或模型厂商。差距不只在政治上。联合国人权办公室的瓦法·本-哈辛说，发达经济体和发展中经济体都“严重缺乏技术专长”，并指出人权影响评估是一个可用的工具。

更广泛的测试失败

独立测试也暴露了中国模型内部的弱点。Mindgard 告诉 BBC，它在 7 月发现，Moonshot 的 Kimi K2.6 和 K3 Swarm 可以被越狱，从而给出生物武器和暗杀指导。Mindgard 说，它在 7 月 27 日给 Moonshot 发了邮件，而该公司直到 BBC 联系其置评后才取得联系。Moonshot 对 BBC 表示，欢迎第三方意见，并正在与 Mindgard 沟通。

Meta 则给自己的风险标了价。在 9 月 25 日的一篇帖子中，Meta AI Research 说，其 Muse 智能体运行在一个隔离虚拟机中，背后有一个它无法越过的 Sentinel，其漏洞赏金对有效报告最高支付 30万美元，其中影响单个用户的提示注入最高支付 13万美元。维尔库宁说，欧盟将继续执行自己的规则，同时通过七国集团等论坛推进合作。欧盟还支持一项由芬兰和挪威牵头、另有 20 个国家签署的国际安全机构倡议。特朗普则把人工智能的生存风险斥为“骗局”。