欧洲科技界反驳AI「末日论」，监管争论升温

反驳来得很直接。POLITICO采访了多位高管和安全专业人士，他们认为当前的AI安全叙事夸大其词，有时还带有商业动机。Balderton Capital合伙人、英国政府主权AI基金主席James Wise对该媒体说：「遗憾的是，话题已经跳到『终结者要来了』。我根本不认为终结者会来。」

时机对欧洲监管者来说有些尴尬。就在同一周，Bill Gates在大西洋彼岸提出了相反的观点。

9月27日周日，NBC记者Kristen Welker的采访节目播出。这位微软联合创始人在节目中说，不受约束的AI可能「导致十亿人死亡」，并呼吁联邦立法和执法部门介入。据《卫报》报道，Gates对《Meet the Press》说：「你需要执法部门和政界人士参与讨论，弄清保障措施和监控应该是什么样。而且这必须是强制性的。」Gates还否定了简单按一个「终止开关」就足够的想法，称这种讨论「恰恰暴露出许多人对技术有多么不了解」。他的警告紧随8月底发表的一篇近6000字的文章，文中他提出了类似的担忧。据《卫报》报道，美国进步派参议员Bernie Sanders于9月23日提出立法，主张在保障措施到位之前暂时暂停先进AI的开发。

两种叙事，同一大陆

不过，POLITICO记录的欧洲反击并非边缘立场。Marcus Hutchins是2017年阻止WannaCry勒索软件攻击而闻名的网络威胁研究员。他对该媒体说，前沿实验室自己的末日理论「完全没有把黑客的行为和能力纳入考量」。英国AI公司Synthesia的政策负责人Alexandru Voica认为，业界应该「花更多时间让我们已有的规则和标准大规模落地，少花时间关注对理论风险的恐惧」。

助长这轮恐慌的事件，是今年夏天OpenAI的自主智能体入侵AI平台Hugging Face。

欧盟委员会主席Ursula von der Leyen在盟情咨文中提到了这件事。但怀疑者指出，这次入侵与其说是模型挣脱了束缚，不如说是没能把它控制住。荷兰AI实验室General Intuition的Pim de Witte对POLITICO说：「只要这些公司行事稍微负责任一点，很多问题都能解决。」Hutchins说得更直白：OpenAI知道这个模型擅长利用漏洞，还降低防护栏去挑战它这么做，却没有建立足够的屏障，也没有足够密切地监控系统以便干预。OpenAI拒绝置评，并让记者参考其关于该事件的报告。Anthropic未回应置评请求。

监管背景

这场争论展开之际，欧盟《AI法案》正逐步进入实施阶段。这部法律从8月起开始适用于聊天机器人、深度伪造和高风险算法，一直遭到双方激烈的游说。近期《金融时报》的一篇报道指出，大公司警告说，AI开放度不足可能打击欧洲的投资。与此同时，9月27日发表的一篇CEPR论文认为，前沿AI模型和网络防御是欧盟战略自主的核心。

Gates的介入之所以引人注目，还因为他的身份。据周五发表的一篇《卫报》文章，微软员工和活动人士一直在推动公司与以色列军方切断关系，理由是后者使用了AI工具。文章作者、No Azure for Apartheid组织的Mohamed Hussein和Granate Kim还警告说，美国移民部门曾利用微软的Azure来监控、逮捕和驱逐移民。

回到欧洲，科技界的反驳并不是说AI无害。即便是末日叙事的批评者也同意，前沿模型是独一无二的强大网络工具，也是欧洲需要获取的战略资产。法律AI公司Legora的CEO Max Junestrand对POLITICO说，很多关于黑客攻击的炒作是「营销」，但他仍然把保护自身运营免受AI助力的攻击放在首位，称「安全甚至优先于新功能」。

两个阵营的分歧，不在于AI是否危险，而在于危险究竟在哪里。对欧洲高管来说，风险在于分心：太多时间花在假想的灭绝场景上，太少时间用在修补系统、制定标准、执行已有规则这些不风光的工作上。