盖茨要求监管AI,TikTok缴1270万英镑罚款,Kontext融资400万美元
比尔·盖茨在NBC《与媒体见面》节目中说,不受约束的AI可能导致“十亿人死亡”,行业自我监管远远不够。这期访谈于9月27日周日播出。

盖茨没有留余地。据《卫报》报道,他对主持人克里斯滕·韦尔克说:“需要执法部门和政界人士参与讨论,弄清保障措施和监控机制应该是什么样。”“而且这必须成为强制要求。”
这位微软联合创始人把合规看作做生意的成本,而不是发展的刹车。“对行业来说会有一点额外负担,但不会明显拖慢他们正在做的事。”他也不认为一个“终止开关”就够用。“光有终止开关是不够的,”他说,这场争论“恰恰说明不少人对技术有多么外行”。
时机并非偶然。盖茨在8月底发表了一篇近6000字的文章,警告大规模AI风险。他的表态出现在美国参议员伯尼·桑德斯9月23日提出立法四天之后。据《卫报》报道,该法案要求在护栏到位之前暂时暂停先进AI的开发。呼吁放慢脚步的业界人物不止盖茨一个。同一篇报道指出,萨姆·奥尔特曼和埃隆·马斯克也就开发速度表达过类似看法。
两条监管轨道,速度截然不同
华盛顿还在争论要不要暂停,英国已经收上了一笔早于这场争论的罚款。9月24日,TikTok放弃了对1270万英镑罚款的上诉。英国信息专员办公室(ICO)2023年开出这笔罚单,原因是该平台未能阻止13岁以下儿童使用。ICO称,TikTok在解决低龄用户问题上“几乎没做什么,如果有的话”。该机构表示,2020年英国有多达175万名13岁以下儿童使用该服务。
TikTok表示不认同这一裁决,但会缴款。案件涉及2018年至2020年,公司称此后已实施“多项青少年安全措施和政策”。公司还撤回了一项针对ICO信息请求的上诉,该请求涉及算法如何处理青少年的个人数据。监管机构表示将重启这项调查。
“我们对TikTok的成功行动表明,企业落实恰当的保护措施有多么重要,包括防止年龄不够使用其服务的儿童接触相关内容。”Emily Keaney,ICO副专员,据《卫报》
ICO副专员Emily Keaney说得直白:此案表明“企业落实恰当的保护措施有多么重要”,《卫报》报道。这次执法的意义不止一笔罚款。年龄核验正是英国政府16岁以下社交媒体限制的核心,该限制将于明年生效。Ofcom表示,随着禁令临近,“科技行业需要采取更多行动”。澳大利亚去年12月推出了自己的16岁以下禁令,提供了一个值得警惕的数据点。该国eSafety专员表示,当地“相当大比例”的16岁以下用户保留了自己的账号、注册了新账号或绕过了年龄门禁系统。
于是两条轨道看起来毫不相似。一边是立法机构在争论要不要暂停前沿开发。另一边是数据监管机构为一桩六年前就已结束的违规收取罚款。后者警告说,更难的考验还没开始。
规则缺位之处,安全厂商进场
一家欧洲小型安全公司填补了这个缺口。9月24日,Tech.eu报道称,Kontext融资400万美元,用于扩展一套面向AI代理的运行时安全平台。本轮融资由42CAP领投,a16z CSX和HTGF参投。
Kontext的判断是,一旦代理不再生成文本、开始操作软件,传统控制手段就失效了。该公司的平台位于AI代理与其操作的工具之间,按照策略和风险信号实时评估每一个动作。这些信号包括代理的身份、请求的动作、目标资源和被指派的任务。团队可以先以观察模式运行,再开启强制执行。强制执行会在执行前拦截未授权的动作,并为每个决定留下可审计的记录。
创始人Jens Ernstberger和Michel Osswald分别来自安全计算、应用密码学和AI系统领域。Tech.eu直接引用了公司的说法:一个代理可能通过正当认证、使用获批的工具,却仍然做出没人授权的动作。融资将投入工程开发和运行时强制执行平台。
这里发生的事值得注意。本周报道中最具体的AI控制层不是一部法规,而是一家初创公司的策略引擎,卖给等不及立法者的企业。
这一周究竟定下了什么
三个日期,三种不同的机制。
- 9月27日:盖茨借助全国电视访谈,要求强制性的保障措施,而非自愿措施。
- 9月24日:TikTok停止抗辩1270万英镑的ICO罚款和另一项信息请求,监管机构重启算法调查。
- 9月24日:Kontext完成400万美元融资,在动作发生的时刻监管AI代理。
这三件事还拼不成一套连贯的制度。盖茨希望执法部门和政界人士坐到桌边,并说对行业的成本不会太大。ICO已经证明,罚款可以开出,最终也能收到。但那花了数年上诉,而且只覆盖了2020年就已结束的行为。Kontext卖的正是企业今天缺的那个控制点。代理已经握着公司凭证,也在写代码。
盖茨访谈里还有一个更棘手的问题,没有哪个监管机构回答过。他警告说,AI落到坏人手里,“足以推动那些,你知道,导致十亿人死亡的事件”。他还说,“从来没有哪种武器,比心怀恶意的人用上最新AI工具的组合更强大”。在他看来,终止开关覆盖不了这种情况。
与此同时,执法机器还在追查五年前儿童账号的旧账。所声明的威胁与已展示的补救之间的这道缺口,就是这一周的新闻。桑德斯的提案也好,ICO重启的调查也好,都还没有把它补上。
资料来源
6- 01Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
- 02TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
- 03Kontext raises $4M for runtime security platform for AI agentsEN
- 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN
- 05Show HN: Digitron – a virtual analog synth and sequencerEN
- 06Show HN: M0saic – deterministic video compiler (CLI, web, desktop)EN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。