网络虚假信息网络的解剖:四个有据可查的案例说明了什么
一段巴勒斯坦短片的幕后花絮被重新包装成以色列伪造死亡画面的证据,在X上获得约2m次浏览。研究者和新闻编辑室追查了若干类似的虚假说法,发现它们来自可以指认的网络,而不是用户自发的失误。

虚假信息研究很少能完整看到一张网络的运作机制。2023年10月到2024年8月之间,几个案例恰好提供了这样的机会:有据可查的虚假说法、可以测量的传播范围,以及被点名的主体。把这些案例放在一起,可以看出当代影响力行动是如何被搭建、放大并变现的。
最清楚的例子出现在以色列与哈马斯战争的最初几天。据《卫报》报道,一段视频显示一名穿黑色T恤的男孩躺在看似血迹之中,周围有摄像机和戴基帕帽、穿绿色军装的男人。视频被发到X上,配文是“视频显示以色列试图伪造死亡画面”,浏览量约2m次。这段画面其实出自巴勒斯坦短片《空城》(Empty Place)的幕后拍摄,影片讲的是逃离以色列占领的巴勒斯坦人留下的空缺。发布者后来承认,这段视频可能被断章取义地使用了。
这不是孤例。
第二段视频同样来自TikTok,声称显示了被哈马斯俘获的以色列高级将领。它在X上获得2m次浏览。这段画面实际上由阿塞拜疆国家安全局的官方YouTube频道发布,内容是纳戈尔诺-卡拉巴赫分离政权前领导人被捕。一份伪造的备忘录称乔·拜登向以色列提供了80亿美元援助,被浏览40万次。《卫报》报道说,那是对拜登7月宣布向乌克兰提供4亿美元援助的备忘录的编辑版本。白宫向NBC确认该文件是假的。第四段视频看上去是哈马斯感谢乌克兰提供武器,由一个与俄罗斯雇佣兵组织瓦格纳有关的账号发布,浏览量超过30万次。
运作机制和虚假内容同样重要。在X上,信任与安全委员会在埃隆·马斯克2022年接管后被解散。此后公司依赖“社区笔记”,这是一个众包审核项目,把纠正事实的责任交给用户。欧盟委员会周二致信马斯克,就有关哈马斯袭击的虚假信息提出警告,其中包括假新闻和“被改头换面的旧图片”。《卫报》报道说,X正在配合欧盟的信息索取要求。
国际特赦组织技术部门的帕特·德·布鲁恩对《卫报》说,Meta和X等平台“根据国际人权标准负有明确责任”。在危机和冲突时期,这种责任更重。德·布鲁恩说:“然而,面对这样的紧急情况,大型科技公司往往没有站出来。”这是该报的引述。
2024年8月的英国骚乱显示了这些失职撞上敏感的地方新闻时会发生什么。7月绍斯波特三名年轻女孩遇害后,关于袭击者姓名、宗教和移民身份的虚假说法在数小时内传开。战略对话研究所的汉娜·罗斯对CNBC说,X上一条帖子把行凶者错误地称为“阿里·阿尔-沙卡蒂”,并传言此人是穆斯林移民。到第二天下午3点,这个假名字仅在X上就被提及超过3万次。警方在说法出现后的第二天辟谣,称嫌疑人出生在英国。但叙事已经站稳了脚跟。
算法推荐做了一部分工作。罗斯说,用户在TikTok上搜索“Southport”时,平台的“其他人还搜索了”栏目推广了袭击者的假名字。这其中包括警方确认信息有误之后的八个小时。战略对话研究所在X上也发现了类似情况,那个名字在那里登上热门。
Logically的乔·翁德拉克对CNBC说,这些虚假报道的作用是“在任何既定真相传出来之前,为既有的偏见、成见和猜测提供合理化和强化的途径”。他把这类说法称为反移民团体的“猫薄荷”:“这恰恰是能激起比没有虚假信息传播时更愤怒反应的那句话。”
据翁德拉克说,Telegram起了整合作用。它把各种说法汇入最初是反疫苗社群、后来被极右人物接手的频道。Telegram否认帮助传播错误信息,称其审核人员正在删除呼吁暴力的频道和帖子。Logically的分析把至少部分呼吁参与抗议的账号追溯到极右翼,其中包括与“国民行动”有关的链接,该组织2016年根据英国《反恐法》被列为恐怖组织予以取缔。
中国的行动规模更大,也更工业化。CNN在2023年11月报道说,中国政府建立了已知世界上最大的网络虚假信息行动,被称为“垃圾伪装”或“龙桥”,动用数十万个账号骚扰美国居民、政界人士和企业。Meta说,仅2023年第二季度它就删除了一个近8000个账号的集群。谷歌对CNN说,近年来它关闭了超过10万个相关账号。X说它封禁了数十万个中国“国家支持”或“与国家有关联”的账号。美国国务院把这些手法描述为一项耗资数十亿美元、旨在塑造全球信息环境的更大行动的一部分。
公众的担忧是普遍的,尽管未必都基于充分了解。联合国教科文组织委托益普索对16个将在2024年举行选举的国家的1万人进行调查,结果85%的人担心网络虚假信息的影响。87%的人说它已经损害了本国的政治。社交媒体是56%的互联网用户的主要新闻来源,高于电视的44%,尽管对前者的信任度更低:50%,而电视为66%。
联合国教科文组织的回应是一份七项原则的治理蓝图,汇集了18个月里134个国家的1万多条意见。该组织言论自由部门负责人吉列尔梅·卡内拉·德·索萨·戈多伊指出,已有50多个国家在监管社交媒体,而且往往超出国际言论自由规范。2024年计划召开一次世界监管机构会议。
四个案例共有的是一种模式,而不是单一的行为者:旧画面、被重新使用的文件、少数高触达账号,以及在更正之后仍让虚假说法保持可见的推荐系统。传播范围是可以测量的。清理工作到目前为止还无法测量。
资料来源
4- 01How Israel-Hamas war disinformation is being spread onlineEN
- 02Online disinformation sparked a wave of far-right violence in the UKEN
- 03China is using the world's largest online disinformation operation to harass AmericansEN
- 0485% of people worry about online disinformation, global survey findsEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。