跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

虚假信息网络内幕:从南港到Spamouflage

一段巴勒斯坦短片的幕后花絮被当成以色列摆拍伤亡的证据转发,在哈马斯10月7日袭击后几天内于X上获得约两百万次浏览。这是那场不断制造假消息的战争中最先走红的假货之一,也定下了如今网络虚假信息网络的运作套路。

媒体与互联网分析林晓雯发布: 2026年9月28日10 分钟阅读资料来源 6
虚假信息网络内幕:从南港到Spamouflage

片段里,一个穿黑T恤的男孩躺在血泊中,上方架着摄像机,一名男子在喊口令。周围站着戴基帕的男子,还有穿绿色作训服、酷似以色列国防军制服的人。一名认证的X用户转发时配文:“视频显示以色列试图伪造死亡画面。”《卫报》查明,这段素材出自巴勒斯坦短片《空位》的幕后花絮。影片讲的是逃离以色列占领的巴勒斯坦人留下的空缺。它先在TikTok上传开,随后转到X。原TikTok帖已不可见,但改头换面的版本继续流传,浏览量不断累积。发布那条两百万浏览帖的用户后来承认,片段可能被断章取义地使用了。

这件事的意义不在某一个视频,而在它揭示的供应链。真实素材被剥离语境,就成了某个它本来并不支持的说法的证据。更正即使出现,也来得晚,传得差。

是网络,不是孤立的发帖人

10月7日袭击后几天内,X上涌满同类材料。第二段视频同样来自TikTok,如今在该平台已不可见,在X上获得两百万次浏览,声称显示以色列高级将领被哈马斯武装俘获。据《卫报》报道,实际上是阿塞拜疆国家安全局几天前在其官方YouTube频道发布的,画面是纳戈尔诺-卡拉巴赫分离政府前领导人被捕。一份伪造文件称乔·拜登向以色列提供了80亿美元援助,在X上被浏览40万次。它是拜登7月宣布向乌克兰提供4亿美元援助的备忘录的篡改版。白宫向NBC证实文件是假的。共同点不是某种意识形态,而是一种方法:拿真实材料,换个标签,剩下的交给平台的传播机制。

《卫报》报道,俄罗斯长期在X上散布虚假信息,似乎还利用了巴以冲突。袭击后的那个周一,俄罗斯前总统、俄联邦安全会议副主席德米特里·梅德韦杰夫发帖称:“北约伙伴们,你们可真行啊。交给乌克兰纳粹政权的武器,现在正被积极用来对付以色列。”另有一个与瓦格纳雇佣兵集团有关联的X账号发布视频,看似显示哈马斯感谢乌克兰提供其计划用于对付以色列的武器。该视频获得超过30万次浏览,美国极右翼账号大量转发。

乌克兰方面予以反驳。乌情报部门指责俄罗斯把从乌克兰战场缴获的西方“战利品”武器交给哈马斯,以削弱对基辅的支持。五角大楼监察长早在2月就报告,迄今没有证据表明援乌武器和援助被转给第三方。调查媒体Bellingcat创始人埃利奥特·希金斯标记了一段冒充BBC的假视频,它声称是Bellingcat对乌克兰向哈马斯走私武器的调查。希金斯说,俄罗斯社交媒体用户在推它,但补充说,不清楚这是俄政府的行动还是草根自发。这个限定值得保留。归因是这类工作中最难的部分,而喊得最响的说法往往证据最薄。

当假名字变成热搜话题

2024年8月的英国骚乱显示了当一个网络拿到契合既有怨气的故事时会发生什么。7月南港发生持刀袭击,三名年轻女孩遇害,几小时内就出现了关于袭击者姓名、宗教和移民身份的虚假信息。战略对话研究所仇恨与极端主义分析师汉娜·罗斯在给CNBC的邮件中说:“一条X帖子引用领英上的内容,错误地把行凶者称为‘阿里·阿尔-沙卡蒂’,传言他是穆斯林移民。到第二天下午3点,这个假名字仅在X上就有超过3万次提及。”据该研究所分析,其他帖子称袭击者在情报部门监视名单上,2023年乘小船抵达,且为当地心理卫生机构所知。警方在说法出现次日辟谣,称嫌疑人出生在英国。但那时叙事已经扎了根。

极右团体组织了反移民和反伊斯兰抗议,包括在女孩们计划举行的守夜活动上示威。示威演变成持续数日的骚乱,清真寺、移民中心和安置寻求庇护者的酒店遭到袭击。科技公司Logically英国研究与技术主管乔·翁德拉克对CNBC说,这些虚假说法对早已准备好做出反应的团体来说是“猫薄荷”。他说:“并不是说这条假说法一出来,所有人就都信了。”这些报道反而成了“在真相确立之前,为既有偏见、成见和猜测提供合理化并加以强化的方式”。

算法不只是没能阻止它。至少在一个案例里,算法推荐了它。

平台机制放大谎言的方式,只看是谁发的帖很容易漏掉。罗斯对CNBC说,拥有数十万粉丝和付费蓝标认证的账号转发了虚假信息,算法随后加以推送。在TikTok上,用户搜索“南港”时,“其他人还搜了”这一推荐相似内容的栏目推广了袭击者的假名字,其中包括警方已确认其错误的八小时之后。该研究所的分析发现X上有类似情况,错误名字成了热搜话题。虚假说法还流到Telegram,翁德拉克称该平台整合各种叙事,让更多人接触“更强硬的信念”,包括一些最初反疫苗、后被极右人物接手的频道。Telegram对CNBC否认帮助传播错误信息,称其审核人员正在监控局势,并删除呼吁暴力的频道和帖子。

据Logically的分析,一些呼吁参加抗议的账号可追溯到极右翼,部分与被禁组织“国民行动”有关,该组织2016年依据英国《反恐法》被列为恐怖组织。英国《在线安全法》本应处理仇恨言论,但直到次年年初才生效,对某些形式的虚假信息可能不够。骚乱最严重之后的那个周三,媒体监管机构Ofcom致函社交媒体平台,称它们不应等新法生效。到那时,成千上万的反种族主义抗议者已在英国各地城镇集会,人数超过反移民示威。

已知规模最大的行动

并非所有网络都是围绕突发新闻临时搭起来的。CNN在2023年11月报道,中国政府建立了世界上已知规模最大的网络虚假信息行动,利用它骚扰美国居民、政界人士和企业,有时以暴力威胁目标。报道基于对法庭文件和社交媒体公司公开披露的审查。受害者描述称,数以万计的社交媒体帖子称他们是叛徒、狗,并夹杂种族主义和恐同侮辱。一些人曾向包括FBI在内的执法部门反映,收效甚微。科技和社交媒体公司关停了数千个账号,但新账号几乎每天都在出现。

该网络以“Spamouflage”和“Dragonbridge”等名称被追踪,数十万账号遍布各大社交媒体平台。它们骚扰批评中国共产党(CCP)的美国人,试图抹黑美国政客,贬损与中国利益相悖的美国公司,并劫持可能让中共形象受损的网络对话。私人研究者自四年多前发现它以来一直在追踪。直到近几个月,联邦检察官和Meta才公开认定该行动与中国警方有关。Meta称,仅2023年第二季度就下架了归属于该组织的近8000个账号。拥有YouTube的谷歌对CNN说,近年来已关停超过10万个相关账号。据公司博客,X已封禁数十万个中国“国家支持”或“与国家有关联”的账号。

规模本身就是目的。低廉的运营成本意味着这些网络能承受被关停并重建。美国众议院中共问题特别委员会主席迈克·加拉格尔众议员对CNN说:“我们可能以为这只限于某些聊天室,或这个平台、那个平台,但它在全面扩张。而且迟早会落到那些现在觉得事不关己的普通美国公民头上。”美国国务院称这些手法是一场耗资数十亿美元的更大行动的一部分,目的是塑造世界信息环境、让批评北京的人噤声,并称这一行动在习近平主席任内扩大。

受众说他们想要什么

公众的担忧并非小众立场。联合国教科文组织委托益普索对16个将在2024年举行全国选举、合计25亿选民的国家中的8000人进行调查,发现85%的人担心网络虚假信息的影响,87%的人说它对国家政治生活产生了重大影响。社交媒体是56%互联网用户的主要新闻来源,高于电视的44%和媒体网站的29%,尽管对它的信任度更低:50%,而电视为66%、广播为63%、媒体网站和应用为57%。在全部16个国家中,68%的人说社交媒体是假新闻最泛滥的地方,高于即时通讯应用的38%。

联合国教科文组织总干事奥德蕾·阿祖莱对记者说,网络上的虚假信息和仇恨言论被平台加速和放大,对“社会凝聚力、和平与稳定构成重大风险”。她说,迫切需要进行监管,“以保护信息获取……同时保护言论自由和人权”,并提出了治理蓝图。该组织称,已有50多个国家在监管社交媒体,但往往不符合国际言论自由和人权规范。它说,至少有一个主要平台告诉这个拥有194个成员的机构,它更希望有一致的全球框架,而不是各国制度拼凑而成。该组织计划在2024年召开世界监管机构会议。

政策之争尚无定论,其中一些主张与平台自身的商业模式相悖。参议员谢尔登·怀特豪斯主张废除《通信规范法》第230条,代之以更窄的版本,强制“披露虚假信息出资者”。他写道,法律责任的风险“可能让Facebook和其他公司更愿意采取措施阻止错误信息传播,即使这会降低用户参与度,因为不作为会带来自身的财务风险”。批评者则认为,许多虚假信息最终会受到第一修正案保护。双方争的其实是同一件事:当谎言比更正跑得快时,谁来承担代价。

这些案例的共同点是分工。有人制造虚假说法,往往靠改造真实材料。有影响力的人把它发出去。算法决定它传多远。监管者在事后才到,甚至不到。而最可能成为目标的人,从南港居民到在美国的中国异见者,恰恰是对这一切最没有话语权的人。

评论 0

资料来源

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass Americans, a CNN review findsEN
  5. 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。