网络虚假信息网络如何运作:四个案例,同一套剧本
一段巴勒斯坦短片的幕后花絮被配上新字幕,成了以色列伪造伤亡的“证据”,在X上获得大量浏览。它只是这套高速批量制造谎言的工业化体系中的一个节点。

视频里,一个穿黑T恤的小男孩躺在血泊中。摄像机悬在他上方,一名男子在大声指挥。周围站着戴基帕帽的男子,也站着穿类似以色列国防军制服、绿色作训服的人。一名认证用户在X上转发并配文:“视频显示以色列试图伪造死亡画面。”据《卫报》报道,该视频获得了大量浏览。这段画面其实来自巴勒斯坦短片《空位》的幕后拍摄。它似乎先出现在TikTok,随后传到X。发布该帖的用户后来承认,这段视频可能被断章取义地使用了。
《卫报》在2023年10月报道了这起案例。它之所以值得研究,是因为每个环节都有据可查。
虚假信息网络并不是单一的东西,而是一套可以反复使用的机制。先找到能被重新语境化的素材,再通过有传播力的账号推送出去,让平台算法完成分发,最后依赖一个事实:更正总是来得晚,也传不远。这份分析覆盖四个国家的四场不同行动,动机各不相同,但操作手法比政治立场重合得更多。
旧视频,换个标签
另一段同样来自TikTok、如今已在平台上消失的视频,声称展示了被哈马斯俘虏的以色列高级将领。它在X上获得大量浏览。阿塞拜疆国家安全局最早在其官方YouTube频道发布了这段视频。画面中是被捕的纳戈尔诺-卡拉巴赫分离政府前领导人。还有一份伪造文件声称乔·拜登向以色列提供了80亿美元援助,在X上被浏览40万次。它其实是拜登7月宣布向乌克兰提供4亿美元援助的备忘录的篡改版。白宫网站和社交媒体上都没有这样一份文件。白宫向NBC证实该文件是假的。
这些操作都不需要什么技术含量。它们需要的是一群本来就愿意相信这套说法的受众,以及一个愿意承载它的平台。
俄罗斯长期在X上散布虚假信息,似乎也利用了这场冲突。周一,俄罗斯前总统、俄联邦安全会议副主席德米特里·梅德韦杰夫发推说:“好吧,北约伙计们,你们这下可真是自食其果了吧?交给乌克兰纳粹政权的武器,现在正被积极用来对付以色列。”一个与瓦格纳雇佣兵集团有关联的X账号发布了一段视频,似乎显示哈马斯感谢乌克兰出售武器。该视频浏览量超过30万次,并被美国极右翼账号放大。今年2月,五角大楼监察长报告称,迄今没有证据表明运往乌克兰的武器和援助被转给了第三方。乌克兰情报部门本周指责俄罗斯把从乌克兰战场缴获的西方武器“战利品”放到哈马斯手中,以削弱对基辅的支持。Bellingcat的埃利奥特·希金斯指出,有一段假BBC视频声称展示了Bellingcat对乌克兰向哈马斯走私武器的调查。俄罗斯社交媒体用户推动了它的传播。希金斯说,尚不清楚这是国家行动还是民间自发行为。
当谎言离开屏幕
2024年7月,英国南港发生持刀袭击,三名年轻女孩遇害。几小时内,关于袭击者姓名、宗教和移民身份的虚假信息就获得了大量传播,并引发全国多日暴力骚乱。战略对话研究所仇恨与极端主义分析师汉娜·罗斯告诉CNBC,X上有一篇帖子谎称行凶者名叫“阿里·沙卡蒂”,并谣传他是一名穆斯林移民。到第二天下午3点,这个假名字仅在X上就出现了3万多次提及。
其他虚假说法称,袭击者被列入情报部门监视名单。据战略对话研究所的分析,这些说法还称他2023年乘小船来到英国,并且是当地心理健康服务机构已知的人物。警方在谣言出现第二天就予以澄清,称嫌疑人出生在英国。但那时,这套叙事已经站稳了脚跟。
Logically英国研究与技术负责人乔·翁德拉克告诉CNBC,这些虚假报道起到了“在任何确凿事实传开之前,为既有的偏见、成见和猜测提供合理化依据并加以强化”的作用。他形容这些材料是反移民团体的“猫薄荷”:“这恰恰就是那种能激起比没有虚假信息传播时更愤怒反应的说辞。”
分发环节和谣言本身同样重要。罗斯说,拥有数十万粉丝的账号转发了这些虚假信息,其中还包括X上付费购买的蓝标认证账号。随后,平台算法把它推送给更多用户。用户在TikTok上搜索“南港”时,平台本身就在“其他人也搜索了”栏目里推广了袭击者的假名字。这甚至发生在警方确认信息有误8小时之后。战略对话研究所在X上也发现了类似的算法行为,错误的名字在那里成为热门话题。这些说法还传到了Telegram。翁德拉克说,它整合了各种叙事,让更多人接触到“更极端的信念”。Telegram否认帮助传播虚假信息。它表示,审核人员正在监控局势,并删除呼吁暴力的频道和帖子,这类内容在其服务条款下不被允许。据Logically称,一些呼吁参加抗议的账号可以追溯到极右翼,其中部分与已被取缔的组织“国民行动”有关联,该组织于2016年根据英国《反恐法》被列为恐怖组织。
已知规模最大的行动
规模会改变局面。CNN查阅法庭文件和社交媒体公司公开披露的信息后发现,中国政府建立了世界上已知规模最大的网络虚假信息行动,并用它骚扰美国居民、政界人士和企业,有时还以暴力威胁目标。这个网络被称为“垃圾伪装”或“龙桥”,在各大社交媒体平台上运营着数十万个账号。美国国务院将这些手法描述为一项耗资数十亿美元、旨在塑造全球信息环境并压制北京批评者的更大行动的一部分。国务院称,这一行动在习近平主席任内有所扩大。
受害者描述了数以万计的帖子铺天盖地而来,称他们是叛徒、狗,还夹杂种族主义和恐同辱骂。一些人向包括FBI在内的执法部门反映,但几乎没有什么结果,CNN报道说。平台已关闭了数千个针对这些受害者的账号,但每天新出现的账号让平台疲于应付。Meta表示,仅在2023年第二季度,它就下架了归属于该组织的一批近8000个账号。谷歌告诉CNN,近年来它已关闭超过10万个相关账号。据公司博客,X已封禁数十万个中国“国家支持”或“与国家有关联”的账号。
私人研究人员自四年多前发现该网络以来一直在追踪它。直到最近几个月,联邦检察官和Meta才公开得出结论,认为这一行动与中国警方有关联。众议院中共问题特别委员会主席迈克·加拉格尔众议员告诉CNN:“我们可能以为这只局限于某些聊天室,或者这个平台那个平台,但它在全面扩张。迟早会落到那些现在觉得这事与自己无关的普通美国公民头上。”
纽约活动人士陈破空在2021年1月组织的一场反共Zoom活动上,看到网络喷子前来捣乱。他们嘲笑参与者,还威胁其中一名受害者会“悲惨地死去”。今年早些时候,他对幕后黑手的怀疑得到了印证。美国司法部随后指控30多名中国官员,指其参与一场针对美国异见人士的大规模虚假信息行动,其中包括那场Zoom会议的参与者。
受众怎么说
公众的担忧并不边缘。联合国教科文组织委托益普索进行的一项调查覆盖16个即将举行全国选举的国家的8000人,这些国家共有25亿选民。调查发现,85%的人担心网络虚假信息的影响。87%的人表示它已对国家政治生活产生重大影响。56%的互联网用户主要通过社交媒体获取新闻,高于电视的44%和媒体网站的29%。社交媒体的信任度为50%,电视为66%,广播为63%,媒体网站和应用为57%。在所有16个国家中,68%的人认为社交媒体是假新闻最泛滥的地方,高于即时通讯应用的38%。
联合国教科文组织总干事奥德蕾·阿祖莱对记者说,平台加速并放大了网络上的虚假信息和仇恨言论,对“社会凝聚力、和平与稳定构成重大风险”。她说,迫切需要监管,“以保护信息获取……同时保护言论自由和人权”。联合国教科文组织的蓝图基于七项原则,源自它所称的一次前所未有的磋商:18个月内收到来自134个国家的1万多份意见。联合国教科文组织言论自由部门负责人吉列尔梅·卡内拉·德索萨·戈多伊说,已有50多个国家监管社交媒体,但往往不符合国际言论自由和人权规范。联合国教科文组织计划在2024年召开世界监管机构大会。
监管也有自己的争论。据Reclaim The Net报道,参议员谢尔登·怀特豪斯呼吁废除《通信规范法》第230条,代之以范围更窄的版本,强制“披露虚假信息出资者”。怀特豪斯认为,责任风险可能促使公司即便牺牲用户参与度也要对虚假信息采取行动。批评者则反驳说,大多数虚假信息最终会被视为受保护的言论。
这些争论都不改变操作层面的算术。《卫报》关于X的报道指出,马斯克在2022年收购平台后解散了其信任与安全委员会。公司称计划重组该团队,但计划仍不明确。X推出了“社区笔记”,这是一个众包审核项目,把大部分责任放在用户而非受雇审核员身上。忧思科学家联盟援引反数字仇恨中心的数据报道,X“在我们举报一周后,仍然保留着300条仇恨帖子中的近86%”。研究人员阿比·理查兹发现,否认气候变化的推文从2021年12月到2022年7月平均每周3万条,上升到2022年7月之后的每周近11万条。
四个案例的模式如出一辙。一条说法被制造出来,或者被回收利用。它通过有传播力的账号播种。为参与度而调校的系统把它排到更靠前的位置。更正总是在伤害造成之后才来。正如南港案所示,更正可以在一天之内到达。骚乱还是发生了。
资料来源
6- 01How Israel-Hamas war disinformation is being spread onlineEN
- 0285% of people worry about online disinformation, global survey findsEN
- 03Online disinformation sparked a wave of far-right violence in the UKEN
- 04China is using the world's largest online disinformation operation to harass AmericansEN
- 05Senator Sheldon Whitehouse: Repeal Section 230 to combat online "disinformation"EN
- 06For Online Disinformation and Hate, X Marks the SpotEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。