跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

网络虚假信息网络如何运作,又为何屡屡得手

据《卫报》报道,一段巴勒斯坦短片的幕后花絮在X上被观看约2m次。配文写着“视频显示以色列试图伪造死亡画面”。视频是真的,说法是假的。

媒体与互联网解释林晓雯发布: 2026年9月28日8 分钟阅读资料来源 6
网络虚假信息网络如何运作,又为何屡屡得手

《卫报》在2023年10月11日报道了这条帖子。它正好说明网络虚假信息网络是怎么运作的。这类网络很少凭空编造素材。它们拿真实的影像,套上一个虚假的框架,剩下的交给平台。

同一篇《卫报》梳理还记录了哈马斯10月7日星期六袭击以色列之后数日里的其他例子。其中一段视频来自阿塞拜疆国家安全局的官方YouTube频道,画面是纳戈尔诺-卡拉巴赫分离政府被捕的前领导人。它在X上被当作“被俘以色列将军”的影像转发,获得2m次观看。一份被篡改的白宫备忘录被说成拜登向以色列提供80亿美元,观看量达40万次。据《卫报》说,那其实是拜登7月宣布向乌克兰提供4亿美元援助的备忘录的修改版。白宫向NBC证实该文件是伪造的。

四个环节,不是一个

报道指向一种反复出现的结构。第一是原材料:真实的图片、视频、文件或新闻事件。第二是框架:一句配文、一个名字、一个国籍、一种宗教。第三是分发:大号账号、付费认证和推荐系统,它们把虚假框架推给本来没在找它的人。第四是时间差:更正总是在叙事已经固化之后才到。

2024年7月的南港案清楚显示了这种时间差。一起持刀袭击造成三名女童死亡。几小时内,关于袭击者姓名、宗教和移民身份的虚假说法在网上传开。汉娜·罗斯是战略对话研究所的仇恨与极端主义分析师。她告诉CNBC,X上一条帖子把行凶者错误地称为“阿里·阿尔-沙卡蒂”,并称此人是穆斯林移民。她说,到第二天下午3点,这个假名字仅在X上就获得超过3万次提及。警方在说法出现后的第二天辟谣,称嫌疑人出生在英国,但叙事已经站稳脚跟。极右团体组织了反移民和反伊斯兰抗议,随后升级为持续数日的骚乱,清真寺、移民中心和收容寻求庇护者的酒店遭到袭击。

罗斯还描述了平台机制如何放大这个假名字,而不只是把它放在那里。她说,用户在TikTok上搜索“Southport”时,“其他人也搜索了”栏目会推广行凶者的假名字,甚至在警方确认信息有误8小时之后仍然如此。ISD的分析发现,X上的算法运作方式类似,错误的名字出现在热门话题中。

虚假框架为何能传播

乔·昂德拉克是Logically英国区研究与技术负责人。他告诉CNBC,南港的说法对早已被多年反移民言论熏陶的受众来说如同“猫薄荷”。“并不是说这条虚假说法一出来,然后所有人都信了,”他说。这些报道更像是“一种方式,在任何确立的真相传开之前,用来合理化并强化既有的偏见、成见和猜测”。

这套机制并不局限于某个国家或某场冲突。《卫报》2023年10月的汇总指出,俄罗斯长期是在X上散布虚假信息的惯犯,当时似乎在利用以色列与哈马斯的冲突。俄罗斯前总统、俄罗斯安全会议副主席德米特里·梅德韦杰夫发推称,交给乌克兰的北约武器现在被用来对付以色列。一个与瓦格纳雇佣兵集团有关联的X账号发布了一段视频,看似显示哈马斯感谢乌克兰提供武器。该视频被观看超过30万次,并被美国的极右账号放大。Bellingcat的艾略特·希金斯指出了一段伪造的BBC视频。它声称展示了Bellingcat对乌克兰向哈马斯走私武器的调查,由俄罗斯社交媒体用户推送。希金斯说,尚不清楚这是俄罗斯政府的行动还是草根行为。

规模在这里很重要。CNN于2023年11月13日发表的一篇梳理发现,中国政府建立了已知世界上最大的网络虚假信息行动。它被用来骚扰美国居民、政界人士和企业,有时以暴力威胁目标。这个网络被称为“Spamouflage”或“Dragonbridge”,在各大平台上拥有数十万个账号。Meta在2023年8月说,仅当年第二季度它就删除了近8000个被归因于该组织的账号群。谷歌告诉CNN,近年来它关闭了超过10万个相关账号。X屏蔽了数十万个中国“国家支持”或“与国家有关联”的账号。美国国务院将这些手法描述为一项数十亿美元行动的一部分,目的是塑造世界信息环境,并让批评北京的人噤声。

审核的缺口

平台不是被动的管道,多份报道把这一点说得很具体。《卫报》报道,埃隆·马斯克在2022年收购X后解散了该公司的信任与安全委员会,并在过去一年里解雇了两名信任与安全负责人。公司称有计划重组团队,但情况仍不明朗。X推出了Community Notes,一个众包审核项目。它基本把纠正事实的责任推给用户,而不是受雇的内容审核员。2023年10月10日星期二,欧盟委员会致信马斯克,就X上有关哈马斯袭击的虚假信息提出警告,包括假新闻和“被改头换面的旧图片”。

独立研究追踪了走向。忧思科学家联盟在2023年9月20日撰文,引用反数字仇恨中心的一项发现:X“在我们举报一周之后,仍然保留着一组300条仇恨帖子中的近86%”。研究者艾比·理查兹发现,2021年12月至2022年7月间,否认气候变化的推文平均每周3万条。2022年7月之后,这一数字几乎翻了三倍,达到每周11万条。南加州大学的一位研究者发现,在马斯克接手后的头六个月里,仇恨用户的日均仇恨言论几乎翻倍。UCS的文章还引用了广告收入下降约60%的数据。

这些都不是没有争议的领域。同一篇UCS文章指出,X上的气候虚假信息大多来自相对少数的用户。在COP27之前和期间,仅16个账号的推文和引用推文就获得了507000个点赞和转发。少数坚定的账号可以制造出群众运动的假象。这正是网络模式难以监管的原因。

公众说自己想要什么

联合国教科文组织委托益普索做的一项调查覆盖16个国家的8000人,这些国家都将在2024年举行全国选举。《卫报》在2023年11月7日报道了这项调查。调查发现,85%的人担心网络虚假信息的影响。87%的人说它已经对国家政治生活产生重大影响。社交媒体是56%的互联网用户的主要新闻来源,高于电视的44%和媒体网站的29%。对社交媒体新闻的信任度为50%,电视为66%。在所有16个国家中,68%的人说社交媒体是假新闻最泛滥的地方。

联合国教科文组织总干事奥德蕾·阿祖莱告诉记者,网络上的虚假信息和仇恨言论对“社会凝聚力、和平与稳定构成重大风险”。她说平台加速并放大了这类内容。她说迫切需要监管,“以保护信息的获取……同时保护言论自由和人权”。联合国教科文组织说,其治理蓝图汇集了来自134个国家的超过1万条意见,历时18个月。它说已有50多个国家在监管社交媒体,但往往不符合国际言论自由和人权规范。

监管也不是一个定论。参议员谢尔登·怀特豪斯主张废除《通信规范法》第230条。据Reclaim The Net对他书章和推文串的整理,他想要一个更窄的版本,强制“披露虚假信息资助者”。怀特豪斯认为,“例如,法律责任的风险可能让Facebook和其他公司更愿意采取措施阻止错误信息传播,即使这也会降低用户参与度,因为不作为本身会带来财务风险”。正如Reclaim The Net所指出的,这种做法的批评者怀疑,大多数虚假信息只会变成受第一修正案保护的言论。

英国提供了一个现成的试验。它有一部旨在打击仇恨言论的《在线安全法》。但CNBC报道说,该法要到明年初才生效,而且可能不足以防范某些形式的虚假信息。2024年8月7日星期三,英国媒体监管机构Ofcom致信社交媒体平台,称它们不应等到新法生效才行动。

国际特赦组织技术部的副主任帕特·德布伦告诉《卫报》,Meta和X等平台根据国际人权标准负有明确责任。他说,这些责任在危机和冲突时期更加重大。“社交媒体公司有责任识别并有效应对风险,采取有效措施限制有害内容的传播,”他说。他补充说,大型科技公司在这样的紧急情况下“常常”未能挺身而出。

评论 0

资料来源

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass AmericansEN
  5. 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。