网络虚假信息网络如何运作，为什么总能得手

《卫报》2023年10月11日报道的这条帖子，是理解网络虚假信息网络如何运作的好入口。它们不靠凭空编造素材，而是把真实影像挪进一个虚假的框架，剩下的交给平台。

同一篇《卫报》梳理还记录了10月7日星期六哈马斯袭击以色列之后数天里的其他例子。一段视频最初发布在阿塞拜疆国家安全部门的官方YouTube频道上，画面是纳戈尔诺-卡拉巴赫分离政府前领导人被捕。这段视频被转到X上后，说成是以色列将军被俘的画面，观看量达到2m。一份被篡改的白宫备忘录，被说成是乔·拜登向以色列提供$8bn，观看量为40万。据《卫报》，那是他7月宣布向乌克兰提供400援助的备忘录的编辑版本，白宫向NBC确认该文件是假的。

四个活动部件，而不是一个

这批报道指向一种反复出现的结构。第一是原材料：真实的图像、视频、文件或新闻事件。第二是框架：一句配文、一个名字、一个国籍、一种宗教。第三是分发：大号、付费认证，以及把虚假框架推给本来没在找它的人的推荐系统。第四是滞后：更正到达时，叙事已经固化。

2024年7月的南港案清楚显示了这种滞后。一起持刀袭击杀死三名年幼女孩后数小时内，关于袭击者姓名、宗教和移民身份的虚假说法在网上传播。战略对话研究所的仇恨与极端主义分析师汉娜·罗斯对CNBC说，X上一条帖子把行凶者错称为“Ali al-Shakati”，传言是穆斯林移民。到第二天下午3点，这个假名字仅在X上就有超过3万次提及。警方在说法出现后的第二天辟谣，称嫌疑人出生在英国，但叙事已经获得了势头。极右团体组织了反移民和反伊斯兰抗议，并升级为持续数日的骚乱，以及针对清真寺、移民中心和安置寻求庇护者的酒店的攻击。

罗斯还描述了平台机制如何放大这个假名字，而不只是承载它。她说，当用户在TikTok上搜索“Southport”时，“其他人还搜索了”板块推广了袭击者的假名字，包括在警方确认信息有误8小时之后。战略对话研究所的分析发现，X上的算法运作方式类似，错误的名字成了热门话题。

为什么虚假框架传播得开

Logically英国研究与技术负责人乔·翁德拉克对CNBC说，南港的说法对已经被多年反移民言论调动的受众来说就像“猫薄荷”。他说：“并不是这个虚假说法一出来，所有人就都信了。”这些报道的作用是“在任何既定真相传出去之前，为已有的偏见、猜测提供合理化和强化”。

这种机制不限于某个国家或某场冲突。《卫报》2023年10月的汇总指出，俄罗斯长期是在X上散布虚假信息的惯犯，似乎正在利用以色列与哈马斯的冲突。俄罗斯前总统、俄罗斯安全会议副主席德米特里·梅德韦杰夫发推称，交给乌克兰的北约武器现在被用来对付以色列。一段看似显示哈马斯感谢乌克兰提供武器的视频，由一个与瓦格纳雇佣军集团有关联的X账号发布，观看量超过30万次，并被美国的极右账号放大。Bellingcat的艾略特·希金斯指出一段假的BBC视频，声称是Bellingcat对乌克兰向哈马斯走私武器的调查，由俄罗斯社交媒体用户推送；希金斯说不清这是俄罗斯政府的行动还是草根行为。

规模在这里很关键。CNN在2023年11月13日发表的一篇梳理发现，中国政府建立了世界上已知最大的网络虚假信息行动，并用它骚扰美国居民、政客和企业，有时以暴力威胁目标。这个被称为“Spamouflage”或“Dragonbridge”的网络在主要平台上有数十万个账号。Meta在2023年8月说，仅当年第二季度它就下架了归属于该组织的一批近8000个账号。谷歌对CNN说，近年来它关闭了超过10万个相关账号，X则封禁了数十万个中国“国家支持”或“与国家有关联”的账号。美国国务院把这些手法描述为一项耗资数十亿美元、旨在塑造世界信息环境并让批评北京的人闭嘴的更广泛努力的一部分。

审核的缺口

平台不是被动的管道，这批报道中有几处试图把这一点讲具体。《卫报》报道，埃隆·马斯克在2022年收购后解散了X的信任与安全委员会，过去一年里他开除了两名信任与安全负责人，公司称有计划重组该团队，但计划仍不清楚。X推出了Community Notes，这是一个众包审核项目，基本上把更正事实的责任推给用户，而不是受雇的内容审核员。2023年10月10日星期二，欧盟委员会致信马斯克，就X上有关哈马斯袭击的虚假信息提出警告，包括假新闻和“被改换用途的旧图像”。

独立研究追踪了走向。忧思科学家联盟在2023年9月20日撰文，引用反数字仇恨中心的发现：X“在我们举报一周后，仍保留着300条仇恨帖子中的近86%”。研究员阿比·理查兹发现，2021年12月至2022年7月间，否认气候变化的推文平均每周3万条，2022年7月之后几乎增至每周11万条。南加州大学一名研究员发现，在马斯克掌权的最初六个月里，仇恨用户的日均仇恨言论几乎翻倍。忧思科学家联盟的文章还引用广告收入下降约60%。

这都不是没有争议的领域。同一篇文章指出，X上大多数气候虚假信息来自相对少数用户：在COP27之前和期间，仅16个账号的推文和引用推文就累积了507000个点赞和转发。少数坚定的账号可以制造出群众运动的表象，而这正是网络模式难以监管的原因。

公众说自己想要什么

据《卫报》2023年11月7日报道，联合国教科文组织委托益普索对16个将在2024年举行全国选举的国家的8000人做了调查，发现85%的人担心网络虚假信息的影响，87%的人说它已经对国家政治生活产生了重大影响。社交媒体是56%网民的主要新闻来源，高于电视的44%和媒体网站的29%，尽管对社交媒体新闻的信任度为50%，而电视为66%。在所有16个国家中，68%的人说社交媒体是假新闻最普遍的地方。

联合国教科文组织总干事奥德蕾·阿祖莱对记者说，平台加速和放大的网络虚假信息和仇恨言论“对社会凝聚力、和平与稳定构成重大风险”，迫切需要监管，“以保护信息获取……同时保护言论自由和人权”。联合国教科文组织说，其治理蓝图汇集了134个国家在18个月里提交的超过1万份意见，已有50多个国家在监管社交媒体，而且往往不符合国际言论自由和人权规范。

监管也不是现成的答案。参议员谢尔登·怀特豪斯主张废除《通信规范法》第230条，代之以一个更窄的版本，迫使“披露虚假信息出资者”，据Reclaim The Net对他书章节和推特长帖的整理。怀特豪斯认为，“法律责任的风险，例如，可能让Facebook和其他公司更愿意采取措施阻止错误信息传播，即使这些措施也会降低用户参与度，因为不作为会带来自身的财务风险。”正如Reclaim The Net指出的，这一做法的批评者怀疑，大多数虚假信息只会变成受第一修正案保护的言论。

英国提供了一个现成的测试。它有一部旨在打击仇恨言论的《在线安全法》，但CNBC报道说，该法要到明年年初才生效，而且可能不足以防范某些形式的虚假信息。2024年8月7日星期三，英国媒体监管机构Ofcom致信社交媒体平台，说它们不应等到新法生效才行动。

Amnesty Tech副主任帕特·德布伦对《卫报》说，Meta和X这样的平台根据国际人权标准负有明确责任，这些责任在危机和冲突时期更加重大。他说：“社交媒体公司有责任识别并有效应对风险，采取有效措施限制有害内容的传播。”他还说，大型科技公司在这样的紧急情况下“太经常”没有站出来。