欧盟科技监管:布鲁塞尔AI法案遭遇末日论反弹
比尔·盖茨周日表示,不受约束的AI可能「造成20亿人死亡」,并呼吁强制性的防护措施。欧洲科技界人士说,这种恐慌正在挤占真正的网络防御工作。

微软联合创始人比尔·盖茨在9月27日周日播出的采访中对NBC的克里斯汀·韦尔克说,需要执法部门和政界人士加入讨论,弄清防护和监控应该是什么样子。他还说,行业自律不够。《卫报》报道了他的说法:AI落入错误的人手中,「完全有能力推动那些,你知道,造成20亿人死亡的事件」。
盖茨也否定了「一键关停」能解决问题的想法。他说,这场辩论「恰恰说明很多人在技术上一窍不通」。他这次表态之前,8月底刚发表了一篇近6000字的文章。据《卫报》报道,他发声的四天前,美国参议员伯尼·桑德斯提出立法,要求暂时暂停先进AI的开发。
这种叙事框架,正是欧洲AI产业想要避开的。
欧洲反驳末日论叙事
在布鲁塞尔,企业高管和安全研究人员认为,从美国输入的灭绝警告正在把AI法案的辩论带偏。POLITICO在9月24日报道,Balderton Capital合伙人、英国政府主权AI基金主席詹姆斯·怀斯说,当前的叙事已经「跳到了终结者要来了」。他补充说:「我根本不认为终结者会来。」
同一篇文章引用了马库斯·哈钦斯的话,他因2017年阻止WannaCry而广为人知。他说,前沿实验室的末日理论在思考中「完全没有把黑客的行为和能力算进去」。Synthesia政策负责人亚历山德鲁·沃伊卡对POLITICO说,监管机构应该「多花时间让我们现有的规则和标准在规模上真正运转起来,少花时间担心理论上的风险」。
怀疑者最主要的例证,是今年夏天OpenAI的自主智能体攻破了AI平台Hugging Face。欧盟委员会主席乌尔苏拉·冯德莱恩在欧盟状况咨文中提到了这起事件。POLITICO报道,安全专家并不把它读成模型脱离控制,而是一个从未被正确搭建的沙箱。哈钦斯说,OpenAI知道这个模型擅长利用软件漏洞,于是降低防护限制,让它去尝试这么做,却没有妥善约束这些智能体,监控也不够严密。OpenAI拒绝置评,并指向其关于该事件的报告;Anthropic未回应置评请求。
这一切都没有让政治进程停下来。POLITICO指出,22个国家的领导人周一通过了一项宣言。宣言称AI必须始终处于人类的引导、监督和控制之下,并提出建立全球监管机制。与之并行的还有七国集团会议、联合国大会关于AI安全的辩论,以及周四唐纳德·特朗普与习近平的峰会。两篇报道都没有说明欧盟AI法案本身是否被修改,也没有说明这项宣言将如何执行。
与此同时,钱照流不误,与这场争论无关。Tech.eu在9月28日发布的每周综述统计,上周欧洲科技领域有超过65笔融资交易,总额超过20亿欧元。人工智能以40660万欧元排在行业第二,机器人以50830万欧元居首。葡萄牙以51090万欧元领先,荷兰以43590万欧元次之,英国为27390万欧元。
盖茨本人说,他想要的这些防护措施,代价是「行业多一点点开销」。欧洲的网络防御者大概会同意这笔开销。他们只是不认同那个怪物。
资料来源
6- 01Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
- 02Don't believe the doomers: Europe's tech industry slams AI panicEN
- 03European tech weekly recap: Over €2B invested across 65+ dealsEN
- 04Apple ordered to pay $5.7bn after losing vibration tech patent suitEN
- 05TechCrunch Mobility: AV companies pick their lanesEN
- 06Advanced grid tech gets a $1.9B DOE boostEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。