网络虚假信息网络如何运作,又为何屡屡得手
据《卫报》报道,一段巴勒斯坦短片的幕后花絮在X上被观看约2m次。配文写着“视频显示以色列试图伪造死亡画面”。视频是真的,说法是假的。

《卫报》在2023年10月11日报道了这条帖子。它正好说明网络虚假信息网络是怎么运作的。这类网络很少凭空编造素材。它们拿真实的影像,套上一个虚假的框架,剩下的交给平台。
同一篇《卫报》梳理还记录了哈马斯10月7日星期六袭击以色列之后数日里的其他例子。其中一段视频来自阿塞拜疆国家安全局的官方YouTube频道,画面是纳戈尔诺-卡拉巴赫分离政府被捕的前领导人。它在X上被当作“被俘以色列将军”的影像转发,获得2m次观看。一份被篡改的白宫备忘录被说成拜登向以色列提供80亿美元,观看量达40万次。据《卫报》说,那其实是拜登7月宣布向乌克兰提供4亿美元援助的备忘录的修改版。白宫向NBC证实该文件是伪造的。
四个环节,不是一个
报道指向一种反复出现的结构。第一是原材料:真实的图片、视频、文件或新闻事件。第二是框架:一句配文、一个名字、一个国籍、一种宗教。第三是分发:大号账号、付费认证和推荐系统,它们把虚假框架推给本来没在找它的人。第四是时间差:更正总是在叙事已经固化之后才到。
2024年7月的南港案清楚显示了这种时间差。一起持刀袭击造成三名女童死亡。几小时内,关于袭击者姓名、宗教和移民身份的虚假说法在网上传开。汉娜·罗斯是战略对话研究所的仇恨与极端主义分析师。她告诉CNBC,X上一条帖子把行凶者错误地称为“阿里·阿尔-沙卡蒂”,并称此人是穆斯林移民。她说,到第二天下午3点,这个假名字仅在X上就获得超过3万次提及。警方在说法出现后的第二天辟谣,称嫌疑人出生在英国,但叙事已经站稳脚跟。极右团体组织了反移民和反伊斯兰抗议,随后升级为持续数日的骚乱,清真寺、移民中心和收容寻求庇护者的酒店遭到袭击。
罗斯还描述了平台机制如何放大这个假名字,而不只是把它放在那里。她说,用户在TikTok上搜索“Southport”时,“其他人也搜索了”栏目会推广行凶者的假名字,甚至在警方确认信息有误8小时之后仍然如此。ISD的分析发现,X上的算法运作方式类似,错误的名字出现在热门话题中。
虚假框架为何能传播
乔·昂德拉克是Logically英国区研究与技术负责人。他告诉CNBC,南港的说法对早已被多年反移民言论熏陶的受众来说如同“猫薄荷”。“并不是说这条虚假说法一出来,然后所有人都信了,”他说。这些报道更像是“一种方式,在任何确立的真相传开之前,用来合理化并强化既有的偏见、成见和猜测”。
这套机制并不局限于某个国家或某场冲突。《卫报》2023年10月的汇总指出,俄罗斯长期是在X上散布虚假信息的惯犯,当时似乎在利用以色列与哈马斯的冲突。俄罗斯前总统、俄罗斯安全会议副主席德米特里·梅德韦杰夫发推称,交给乌克兰的北约武器现在被用来对付以色列。一个与瓦格纳雇佣兵集团有关联的X账号发布了一段视频,看似显示哈马斯感谢乌克兰提供武器。该视频被观看超过30万次,并被美国的极右账号放大。Bellingcat的艾略特·希金斯指出了一段伪造的BBC视频。它声称展示了Bellingcat对乌克兰向哈马斯走私武器的调查,由俄罗斯社交媒体用户推送。希金斯说,尚不清楚这是俄罗斯政府的行动还是草根行为。
规模在这里很重要。CNN于2023年11月13日发表的一篇梳理发现,中国政府建立了已知世界上最大的网络虚假信息行动。它被用来骚扰美国居民、政界人士和企业,有时以暴力威胁目标。这个网络被称为“Spamouflage”或“Dragonbridge”,在各大平台上拥有数十万个账号。Meta在2023年8月说,仅当年第二季度它就删除了近8000个被归因于该组织的账号群。谷歌告诉CNN,近年来它关闭了超过10万个相关账号。X屏蔽了数十万个中国“国家支持”或“与国家有关联”的账号。美国国务院将这些手法描述为一项数十亿美元行动的一部分,目的是塑造世界信息环境,并让批评北京的人噤声。
审核的缺口
平台不是被动的管道,多份报道把这一点说得很具体。《卫报》报道,埃隆·马斯克在2022年收购X后解散了该公司的信任与安全委员会,并在过去一年里解雇了两名信任与安全负责人。公司称有计划重组团队,但情况仍不明朗。X推出了Community Notes,一个众包审核项目。它基本把纠正事实的责任推给用户,而不是受雇的内容审核员。2023年10月10日星期二,欧盟委员会致信马斯克,就X上有关哈马斯袭击的虚假信息提出警告,包括假新闻和“被改头换面的旧图片”。
独立研究追踪了走向。忧思科学家联盟在2023年9月20日撰文,引用反数字仇恨中心的一项发现:X“在我们举报一周之后,仍然保留着一组300条仇恨帖子中的近86%”。研究者艾比·理查兹发现,2021年12月至2022年7月间,否认气候变化的推文平均每周3万条。2022年7月之后,这一数字几乎翻了三倍,达到每周11万条。南加州大学的一位研究者发现,在马斯克接手后的头六个月里,仇恨用户的日均仇恨言论几乎翻倍。UCS的文章还引用了广告收入下降约60%的数据。
这些都不是没有争议的领域。同一篇UCS文章指出,X上的气候虚假信息大多来自相对少数的用户。在COP27之前和期间,仅16个账号的推文和引用推文就获得了507000个点赞和转发。少数坚定的账号可以制造出群众运动的假象。这正是网络模式难以监管的原因。
公众说自己想要什么
联合国教科文组织委托益普索做的一项调查覆盖16个国家的8000人,这些国家都将在2024年举行全国选举。《卫报》在2023年11月7日报道了这项调查。调查发现,85%的人担心网络虚假信息的影响。87%的人说它已经对国家政治生活产生重大影响。社交媒体是56%的互联网用户的主要新闻来源,高于电视的44%和媒体网站的29%。对社交媒体新闻的信任度为50%,电视为66%。在所有16个国家中,68%的人说社交媒体是假新闻最泛滥的地方。
联合国教科文组织总干事奥德蕾·阿祖莱告诉记者,网络上的虚假信息和仇恨言论对“社会凝聚力、和平与稳定构成重大风险”。她说平台加速并放大了这类内容。她说迫切需要监管,“以保护信息的获取……同时保护言论自由和人权”。联合国教科文组织说,其治理蓝图汇集了来自134个国家的超过1万条意见,历时18个月。它说已有50多个国家在监管社交媒体,但往往不符合国际言论自由和人权规范。
监管也不是一个定论。参议员谢尔登·怀特豪斯主张废除《通信规范法》第230条。据Reclaim The Net对他书章和推文串的整理,他想要一个更窄的版本,强制“披露虚假信息资助者”。怀特豪斯认为,“例如,法律责任的风险可能让Facebook和其他公司更愿意采取措施阻止错误信息传播,即使这也会降低用户参与度,因为不作为本身会带来财务风险”。正如Reclaim The Net所指出的,这种做法的批评者怀疑,大多数虚假信息只会变成受第一修正案保护的言论。
英国提供了一个现成的试验。它有一部旨在打击仇恨言论的《在线安全法》。但CNBC报道说,该法要到明年初才生效,而且可能不足以防范某些形式的虚假信息。2024年8月7日星期三,英国媒体监管机构Ofcom致信社交媒体平台,称它们不应等到新法生效才行动。
国际特赦组织技术部的副主任帕特·德布伦告诉《卫报》,Meta和X等平台根据国际人权标准负有明确责任。他说,这些责任在危机和冲突时期更加重大。“社交媒体公司有责任识别并有效应对风险,采取有效措施限制有害内容的传播,”他说。他补充说,大型科技公司在这样的紧急情况下“常常”未能挺身而出。
资料来源
6- 01How Israel-Hamas war disinformation is being spread onlineEN
- 0285% of people worry about online disinformation, global survey findsEN
- 03Online disinformation sparked a wave of far-right violence in the UKEN
- 04China is using the world's largest online disinformation operation to harass AmericansEN
- 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
- 06For Online Disinformation and Hate, X Marks the SpotEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。