TikTok罚款与盖茨采访:平台监管说明了什么
9月24日,TikTok放弃对英国1270万英镑罚款的上诉。这笔罚款是因为它未能阻止13岁以下儿童使用平台。三天后,比尔·盖茨对NBC表示,人工智能监管必须是强制性的,不能靠企业自觉。

要记住的日子是9月24日。据《卫报》当天报道,TikTok在这一天撤回上诉,不再挑战英国信息专员办公室(ICO)2023年开出的1270万英镑罚单。这款视频应用在英国有数千万用户。罚款的理由是它对使用者身份的核查不到位,也未能清除未成年用户。ICO开出罚单时表示,TikTok在解决低龄用户问题上“几乎没有做任何事”。
三天后,也就是9月27日,比尔·盖茨出现在NBC的《会见新闻界》节目上。他呼吁美国立法者和执法部门监管人工智能。这位微软联合创始人对主持人克里斯汀·韦尔克说,不受约束的AI可能造成“十亿人死亡”。他还说,“没有人认为自我监管就够了”。
两件事,两个大洲,底下是同一个论点。平台和AI系统并没有在自我约束。本该管住它们的机构,行动速度各不相同。
TikTok究竟放弃了什么
1270万英镑这个数字并不新。新的是TikTok不再抗争。根据《卫报》9月24日的报道,公司表示不认同这一裁决。它选择付款,是因为此案涉及2018年至2020年这段时间。它说,在那之后,公司已经落实了“许多青少年安全措施和政策”。这是企业惯用的说法:认罚,但不认错。
第二项上诉更重要。TikTok还撤回了对ICO一项信息调取要求的挑战。该要求涉及它的算法如何处理青少年的个人数据,以及如何推送可能有害的内容。ICO表示,现在将恢复这项调查。这是一份尚未结案的卷宗,不是已经了结的。
ICO副专员艾米莉·基尼用监管机构惯常的措辞概括了结果:“我们对TikTok的成功行动表明,企业必须建立适当的保护措施,包括防止年龄不够的孩子使用其服务。”
案件背后的数字没有受到认真质疑。ICO称,2020年有多达175万英国13岁以下儿童使用该服务。TikTok自己规定的最低年龄是13岁。
下一个截止期限更大
在英国,年龄验证即将变成一个规模大得多的合规难题。政府的16岁以下社交媒体限制将于明年生效。随着禁令临近,Ofcom表示,在执行年龄限制方面“科技行业需要采取更多行动”。这样看,TikTok的罚款只是一次预演。它涉及的是一段六年前就结束的时期,以及一套当时还不存在的制度。
国际上的证据,对指望执法干净利落的人来说并不乐观。澳大利亚去年12月推出了16岁以下社交媒体禁令。该国eSafety专员表示,那里有“相当大比例”的16岁以下青少年保留了自己的账号,或者注册了新账号。有些人绕过了年龄门槛系统。纸面上的禁令是一回事,登录界面上的禁令是另一回事。
规则与执法之间的这道缺口,正是盖茨在另一个领域所描述的东西。
盖茨想要规则手册,不是急停开关
盖茨的采访于9月27日播出,NBC事先发布了片段。他对韦尔克说:“你需要执法部门和政界人士参与讨论,弄清保障措施和监控应该是什么样。而且这必须是强制要求。”他把这对企业的成本形容为“一点点额外开销”,而不是急剧放缓。
他不认为一个技术上的急停开关就够了。“光有急停开关是不够的,”他说。他还说,目前的系统还没到能够“自主夺取计算机,而且你没法关掉它”的地步。他更广泛的警告是,落到坏人手里的AI“强大到足以推动那些造成十亿人死亡的事件”。这类说法容易上头条,却难以核实。
这里需要交代背景。盖茨在8月底发表了一篇近6000字的文章,警告大规模AI风险。这次采访是他卷入杰弗里·爱泼斯坦事件后首次重要的公开露面之一。他的基金会委托进行、7月公布的一项外部审查发现,2011年至2014年间,他与员工和负责人一道,集体与爱泼斯坦会面约30次。盖茨没有被指控参与爱泼斯坦已承认或被指控的罪行。他说,与爱泼斯坦相处的“每一分钟”他都感到后悔。他仍是890亿美元盖茨基金会的理事长。
提出同样论点的人,过往记录并不相同。这不能让论点本身变成错的。但这确实意味着,说话的人也是故事的一部分。
一位参议员,一个截止期限,一家受审视的公司
呼吁暂停的不只盖茨一人。据《卫报》报道,美国进步派参议员伯尼·桑德斯于9月23日提出立法。法案要求在防护措施到位之前,暂时暂停先进AI的开发。萨姆·奥尔特曼和埃隆·马斯克也呼吁放慢开发速度,不过三人所说的显然不是一回事。
这里还有一条尴尬的支线。盖茨参与创办的微软,本身就因在推动部分担忧的系统中所扮演的角色而受到质疑。员工和活动人士发起了一场运动,要求微软与以色列军方切断关系。据周五发表的一篇《卫报》评论文章,该军方在加沙使用了AI工具,并与美军一起在伊朗使用。文章作者、来自“No Azure for Apartheid”组织的穆罕默德·侯赛因和格拉纳特·金还写道,美国国土安全部使用包括微软Azure在内的AI工具来监控、逮捕和驱逐移民。这些是评论文章中提出的指控,不是监管机构的认定。
但它们恰恰是那种让自愿准则显得单薄的说法。同一家公司一边警告AI风险,一边出售相关基础设施。这让自我监管有了一个明显的结构性问题。
钱流向哪里
市场已经在为风险定价。9月24日,Tech.eu报道,Kontext完成400万美元融资,由42CAP领投,a16z CSX和HTGF参投。Kontext是一家AI安全初创公司,由延斯·恩斯特贝格尔和米歇尔·奥斯瓦尔德创立。它构建了一个运行时安全平台,位于AI智能体与其使用的工具之间。平台按策略评估每一个动作,并阻止未经授权的动作。团队可以先以观察模式运行,然后再开启强制执行。
把这件事与盖茨的采访对照来看,即将到来的监管市场的轮廓就显现出来了。监管者想要可审计的控制点。厂商在规则出台之前,就为AI智能体造好了这些控制点。同样的逻辑适用于年龄验证。TikTok的罚款、英国的16岁以下限制和澳大利亚的经验,都指向验证基础设施,而不是内容下架。
对TikTok案和盖茨采访的报道,与执法的日常现实有落差。《卫报》在同一篇报道里写了ICO的行动和澳大利亚eSafety专员的警告。两种说法并不矛盾。它们描述的是同一个问题的不同阶段。一个监管机构正在收取一张涉及2020年结束时期的支票。另一个承认,去年12月推出的禁令并没有阻止相当大比例的16岁以下青少年继续上网。
接下来看什么
三件事。第一,ICO恢复对TikTok算法和青少年数据的调查,公司已不再阻挠。第二,英国明年生效的16岁以下制度,以及Ofcom能否拿到真正有约束力的执法权。第三,桑德斯提出的暂停先进AI开发,是否会往前推进。如果没有,它就会加入那一堆从未进入表决的同类法案。
盖茨关于“额外开销”的那句话值得记住。对相关企业来说,平台和AI的监管是经营成本。争论在于谁来定价。
资料来源
5- 01TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
- 02Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
- 03Kontext raises $4M for runtime security platform for AI agentsEN
- 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN
- 05Show HN: Digitron – a virtual analog synth and sequencerEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。