从南港骚乱到黑公关公司:网络虚假信息网络如何运作
2025年7月的一份议会报告显示,关于南港袭击者的虚假说法在不到两周内于X上获得15500万次曝光。随后的骚乱表明,虚假信息网络能把谎言变成街头暴力。

2024年7月29日,英格兰西北部南港的一堂舞蹈课上,三名儿童遇害。几小时内,关于袭击者姓名、宗教和移民身份的虚假说法就在社交媒体上流传。据CNBC援引战略对话研究所的Hannah Rose的说法,到次日下午3点,其中一个假名字仅在X上就被提及超过3万次。
这就是现代虚假信息网络的解剖结构:一个真实事件、一套迅速传播的虚假叙事、算法的放大,以及线下的后果。警方在说法出现后的第二天就予以辟谣,称嫌疑人出生在英国。那时叙事已经获得了势头。
虚假信息网络到底是什么
这个词涵盖的范围很广。一端是松散关联的账号,它们在一则突发新闻下蜂拥跟进。另一端是把操纵当作服务出售的商业机构,通常被称为黑公关。
BuzzFeed News对平台清理行动和安全公司调查的梳理发现,自2011年以来,至少有27起网络信息行动被部分或完全归因于公关或营销公司。其中19起发生在2019年。该梳理与台湾调查新闻网站Reporter合作报道。
Facebook网络安全政策负责人Nathaniel Gleicher对BuzzFeed News表示,“欺骗的职业化”是一个日益严重的威胁。“欺骗和影响力行动这一更宽泛的概念已经存在一段时间,但过去几年里,我们看到[…]一些公司成长起来,基本上围绕欺骗构建自己的商业模式,”他说。
一个例子:Archimedes Group,一家以色列公司,建立了由数百个Facebook页面、账号和群组构成的网络。其网站承诺“使用一切工具、利用一切可用的优势,按照客户的意愿改变现实”。在马里,它运营一个冒充当地学生管理的假事实核查页面。在突尼斯,它运营一个名为“Stop a la Desinformation et aux Mensonges”的页面。在尼日利亚,它同时运营支持与反对同一位政治人物、前副总统Atiku Abubakar的页面。
流水线:抓取、改写、发布、放大
现年32岁、住在台湾台中的Peng Kuan Chin向Reporter展示了他的系统如何运作。服务器抓取网络上的中文文章和帖子,把词语和句子重新组织成新文本,然后把产出发布到他控制的一系列网站上。数千个虚假社交媒体账号把它推入信息流、通讯应用和搜索结果。
“我开发这个是为了操纵舆论,”Peng对Reporter说。自动化和人工智能“能比人快得多地迅速制造流量和曝光”。
他的客户是亚洲的公司、品牌、政党和候选人。“客户有钱,我不在乎他们买什么,”他说。
并非所有行动都依赖定制软件。在乌克兰,公关公司Pragmatico雇了几十名年轻、熟悉数字技术的人,用虚假Facebook账号为客户发布正面评论。在波兰,Cat@Net运营着由在家工作的残障员工操作的虚假Twitter账号网络。该机构雇用他们,是因为可以付给他们低于市场水平的报酬,同时他们还领取政府补贴。Investigate Europe的报道还发现,Cat@Net为波兰最知名的公关公司之一Art-Media做过活。Art-Media否认与Cat@Net合作。
前CIA官员、《True or False: A CIA Analyst's Guide to Spotting Fake News》一书的作者Cindy Otis对BuzzFeed News表示,俄罗斯和伊朗等民族国家开展的信息行动,为“受经济利益驱动的个人和团体”进入这一领域提供了“一本行动手册”。
南港叙事如何传播
南港事件不需要付费承包商。它需要一个平台、一群受众,以及一个契合部分受众本就相信之事的故事。
Logically英国研究与技术负责人Joe Ondrak对CNBC表示,这些虚假说法对反移民团体来说是“猫薄荷”。“这确实正是那种能激起比没有虚假信息传播时更愤怒反应的说法,”他说。
Ondrak还说,这些报道充当了“一种途径,在任何既成真相传开之前,为已有的偏见、成见和猜测提供合理化依据并加以强化”。
放大效应完成了大部分工作。Rose说,拥有数十万粉丝和付费蓝标的账号转发了虚假信息,平台算法随后把它推给其他用户。“例如,当你在TikTok上搜索‘Southport’时,在推荐相似内容的‘Others Searched For’栏目里,袭击者的假名字被平台自己推广,包括在警方确认该信息不实8小时之后,”她说。
ISD的分析发现,算法在X上的运作方式类似,错误的名字在那里成为热门话题。虚假说法也传到了Telegram,Ondrak说该平台整合各种叙事,让更多人接触到“更强硬的信念”。Telegram对CNBC表示,它没有帮助传播虚假信息,称版主正在监控局势,并删除呼吁暴力的频道和帖子。
数字变得很大。英国下议院科学、创新与技术委员会2025年7月的一份报告称,2024年7月29日至8月9日期间,关于南港袭击者的虚假或无根据说法在X上获得15500万次曝光。报告称,在整个社交媒体上,这个假名字被看到42万次,潜在触达17亿人。它被算法工具直接推广,出现在X的“Trending in the UK”和TikTok的“Others searched for”功能中。
当网络离开屏幕
极右团体组织了反移民和反伊斯兰抗议,包括在遇害女孩计划举行的守夜活动上示威。骚乱升级为持续数日的暴动。清真寺、移民中心和收容寻求庇护者的酒店遭到袭击。
据Logically的分析,至少部分呼吁参加抗议的账号可以追溯到极右势力,其中一些与National Action有关联。这是一个被禁的右翼极端组织,2016年依据英国《恐怖主义法》被列为恐怖组织。Ondrak还指出,许多此前传播袭击虚假信息的团体已开始改口,称那是骗局。
X老板Elon Musk在骚乱期间发声,就暴力示威发表争议性言论。英国法院事务大臣呼吁他“负责任地行事”。TikTok和X没有立即回应CNBC的置评请求。
暴力最严重之后的那个周三,数千名反种族主义抗议者在英国各地城镇集会,人数远超近期的反移民抗议。
规则手册的问题
英国有《在线安全法》,但它覆盖这类内容的能力存在争议。该法于2023年10月获得御准。要求社交媒体公司保护用户免受非法内容侵害的条款于2025年3月17日生效。
在4月29日科学、创新与技术委员会的听证会上,DSIT及商业和贸易部大臣Baroness Jones of Whitchurch表示,错误信息和虚假信息属于该法覆盖范围。Ofcom在线安全战略交付总监Mark Bunting表示,上届政府把可能对成年人有害的合法材料从该法适用范围中移除,包括各种形式的错误信息。他补充说,“有一个小提醒”:该法新增了意图造成伤害的虚假通信罪,前提是公司有合理理由推断其意图。
委员会主席Chi Onwurah指出,意图非常难以证明。她说,即使相关准则讨论了错误信息,Ofcom也没有义务就此采取行动。“这似乎是一个关键问题,”她说。
DSIT安全与在线伤害总监Talitha Rowland对委员会表示,“错误信息和虚假信息不是一回事”。它可能是非法的、外国干涉、煽动仇恨或暴力的内容,也可能是低于非法门槛但仍对儿童有害的内容。
到7月,委员会的报告更为直白。报告称,该法未能处理“合法但有害内容”的算法放大问题,使公众容易再次遭遇去年夏天的情况。“很明显,《在线安全法》根本不够用,”Onwurah说。委员会敦促政府为未来监管采纳五项原则,从保护言论自由到让平台对其上线内容负责。
还有一个麻烦:传播这些材料的工具正在变化。Andrew Orlowski在UnHerd撰文称,Musk于2025年10月推出的Grokipedia利用AI抓取和改造内容,几乎没有人工监督。关于0.1版本的早期报告注意到AI生成的虚假内容和贬损段落是“以准确之名”添加的。Orlowski认为,大语言模型“是会产生幻觉的统计词语补全引擎,而这些幻觉是普遍存在的”。
资料来源
5- 01Online disinformation sparked a wave of far-right violence in the UKEN
- 02Disinformation For Hire: How A New Breed Of PR Firms Is Selling Lies OnlineEN
- 03Does the Online Safety Act cover misinformation? Well, that dependsEN
- 04UK Online Safety Act 'not up to scratch' on misinformation, warn MPsEN
- 05Grokipedia is another form of online disinformationEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。