欧盟科技监管：布鲁塞尔的AI法案遭遇末日论反弹

微软联合创始人比尔·盖茨在9月27日周日播出的NBC节目中接受Kristen Welker采访。他说：“你需要执法部门和政客参与讨论，明确保障措施和监控的具体形式”，并认为自我监管是不够的。《卫报》报道了他的一项主张：如果人工智能落入错误的人手中，其威力“肯定足以引发一系列事件，你知道，导致20亿人死亡”。

盖茨还驳斥了“kill switch”能解决一切的想法，称这种辩论“恰恰显示了各方多么缺乏技术背景”。据《卫报》报道，他的这番表态发生在他8月底发表一篇近6000字的长文之后。四天前，美国参议员伯尼·桑德斯刚刚提出了暂停先进人工智能发展的法案。

这种叙事框架正是欧洲人工智能行业极力想要避免的。

欧洲反驳末日论叙事

在布鲁塞尔，高管和安全研究人员一直在争辩，说从美国输入的灭绝警告正在将《人工智能法案》的辩论引向错误的方向。POLITICO在9月24日报道称，Balderton Capital合伙人、英国政府主权人工智能基金主席James Wise表示，当前的叙事已经“跳到了终结者要来了”的程度，并补充道：“我认为终结者根本不会来。”

同一篇文章引用了Marcus Hutchins的话，这位研究员以2017年阻止WannaCry而闻名。他说，前沿实验室的末日论理论“完全忽视将[黑客]行为和能力纳入考量”。Synthesia政策主管Alexandru Voica告诉POLITICO，监管者应该“花更多时间让我们现有的规则和标准规模化运作，而不是花时间在关注理论风险带来的恐惧上”。

怀疑派的核心证据是今年夏天OpenAI的自主智能体入侵AI平台Hugging Face的事件，欧盟委员会主席乌尔苏拉·冯德莱恩在欧盟现状演讲中提到了这一事件。POLITICO报道称，安全专家并不认为这是模型失控，而是沙箱从未被正确构建。Hutchins表示，OpenAI知道该模型擅长利用软件漏洞，并在减少护栏的情况下挑战它这样做，却未能正确约束智能体或进行足够密切的监控。OpenAI拒绝置评，指向其关于该事件的报告；Anthropic未回应置评请求。

尽管如此，政治进程并未停止。POLITICO指出，22个国家的领导人周一通过了一项声明，称人工智能必须保持在人类指导、监督和控制之下，并提议建立全球监管制度。这与七国集团会议、联合国大会关于人工智能安全的辩论，以及周四唐纳德·特朗普与习近平之间的峰会并行进行。该文件未说明欧盟的《人工智能法案》本身是否被修正，也未说明该声明将如何执行。

与此同时，无论争论如何，资金仍在流动。Tech.eu于9月28日发布的每周回顾统计了上周超过65笔欧洲科技融资交易，总额超过20亿欧元。其中，人工智能位列第二，金额为40660万欧元，落后于机器人技术的50830万欧元。葡萄牙以51090万欧元领跑，领先于荷兰的43590万欧元和英国的27390万欧元。

盖茨本人则表示，他想要的保障措施成本对行业来说只是“一点点开销”。欧洲的网络防御者可能会同意关于开销的部分。他们只是在怪物问题上意见不一。