从绍斯波特骚乱到黑公关：虚假信息网络如何运作

2024年7月29日，英格兰西北部绍斯波特的一个舞蹈班上，三名儿童被杀。几小时内，关于袭击者姓名、宗教和移民身份的虚假说法就在社交媒体上传开。据CNBC引用战略对话研究所汉娜·罗斯的话，到第二天下午3点，仅一个虚假姓名在X平台上就被提及超过3万次。

这就是现代虚假信息网络的构造：一件真事，一套迅速传开的假叙事，算法的放大，线下的后果。警方在说法出现后的第二天辟谣，说嫌疑人出生于英国。那时叙事已经站稳了脚跟。

虚假信息网络究竟是什么

这个说法涵盖的范围很广。一端是松散关联的账号，它们一拥而上，追着突发新闻跑。另一端是把操纵当作服务出售的商业机构，通常被称为黑公关。

BuzzFeed News梳理了平台下架记录和安全公司的调查，发现自2011年以来，至少有27个网络信息行动被部分或全部归因于公关或营销公司。其中19个发生在2019年。这项梳理与台湾调查新闻网站《报导者》合作完成。

Facebook网络安全政策负责人纳撒尼尔·格莱彻对BuzzFeed News说，“欺骗的职业化”是一个日益增长的威胁。他说：“欺骗和影响力行动这个更宽泛的概念已经存在一段时间，但在过去几年里，我们看到……一些公司成长起来，基本上把商业模式建立在欺骗之上。”

一个例子：以色列公司阿基米德集团建立了由数百个Facebook页面、账号和群组构成的网络。其网站承诺“使用一切工具，利用一切可用的优势，按照客户的意愿改变现实”。在马里，它运营一个假事实核查页面，声称由当地学生运营。在突尼斯，它运营一个名为“停止虚假信息和谎言”的页面。在尼日利亚，它为同一位政客、前副总统阿提库·阿布巴卡尔同时运营支持和反对的页面。

流水线：抓取、改写、发布、放大

32岁、住在台湾台中的彭冠钦向《报导者》展示了他的系统如何运作。服务器抓取网络上的中文文章和帖子，把词语和句子重新组织成新文本，然后发布到他控制的多个网站。数千个虚假社交媒体账号把它推送到信息流、通讯应用和搜索结果中。

“我开发这个是为了操纵舆论，”彭冠钦对《报导者》说。自动化和人工智能“能比人快得多地迅速制造流量和曝光”。

他的客户是亚洲的公司、品牌、政党和候选人。他说：“客户有钱，我不在乎他们买什么。”

并非每个行动都依赖定制软件。在乌克兰，公关公司Pragmatico雇用数十名年轻、熟悉数字技术的人，用虚假Facebook账号发布关于客户的正面评论。在波兰，Cat@Net运营着一批虚假Twitter账号，操作者是居家工作的残疾员工。该机构雇用他们，是因为可以支付低于市场的报酬，同时他们还领取政府补贴。Investigate Europe的报道还发现，Cat@Net为波兰最知名的公关机构之一Art-Media工作。Art-Media否认与Cat@Net合作。

前中央情报局官员、《真或假：中情局分析师识别假新闻指南》的作者辛迪·奥蒂斯对BuzzFeed News说，俄罗斯和伊朗等民族国家开展的信息行动，为“出于经济动机的个人和团体”进入这一领域提供了“一本行动手册”。

绍斯波特叙事如何传播

绍斯波特案不需要付费承包商。它需要一个平台、一批受众，以及一个契合部分受众本来就想相信的内容的故事。

Logically英国研究与技术负责人乔·翁德拉克对CNBC说，这些虚假说法对反移民团体来说是“猫薄荷”。他说：“这确实正是能激起比没有传播虚假信息时更愤怒反应的那种话。”

翁德拉克还说，这些报道起到了“一种作用，在任何确立的真相传出来之前，为既有的偏见、成见和猜测提供合理化和强化”。

放大完成了大部分工作。罗斯说，拥有数十万粉丝和付费蓝标的账号分享了虚假信息，平台算法随后把它推送给其他用户。她说：“例如，当你在TikTok上搜索‘Southport’时，在推荐相似内容的‘其他人搜索过’栏目里，袭击者的虚假姓名被平台自己推广，包括在警方确认这一信息不实8小时之后。”

战略对话研究所的分析发现，算法在X上以类似方式运作，错误姓名成为热门话题。虚假说法也传到Telegram，翁德拉克说，Telegram整合叙事，让更多人接触到“更强硬的信念”。Telegram对CNBC说，它没有帮助传播错误信息，称审核人员正在监控局势，并删除呼吁暴力的频道和帖子。

数字变得很大。英国下议院科学、创新与技术委员会2025年7月的一份报告称，2024年7月29日至8月9日期间，关于绍斯波特袭击者的虚假或没有根据的说法在X上获得1.55亿次曝光。报告说，在整个社交媒体上，虚假姓名被看到42万次，潜在触达17亿人。它被算法工具直接推广，出现在X的“英国热门话题”和TikTok的“其他人搜索过”功能中。

当网络离开屏幕

极右团体组织了反移民和反伊斯兰抗议，包括在被杀女孩计划举行的守夜活动上示威。骚乱升级为持续数天的暴乱。清真寺、移民中心和安置寻求庇护者的酒店遭到袭击。

根据Logically的分析，至少部分呼吁参加抗议的账号可以追溯到极右翼，其中一些与“国家行动”有关联。这是一个被禁的右翼极端组织，2016年根据英国《恐怖主义法》被列为恐怖组织。翁德拉克还指出，许多此前传播关于这次袭击的虚假信息的团体已经开始收回说法，称那是骗局。

X所有者埃隆·马斯克在骚乱期间发声，就暴力示威发表争议性言论。英国法院事务大臣呼吁他“负责任地行事”。TikTok和X没有立即回应CNBC的置评请求。

在最严重暴力发生后的那个周三，数千名反种族主义抗议者在英国各地的城市和城镇集会，人数远远超过最近的反移民抗议。

规则手册的问题

英国有《在线安全法》，但它覆盖这类内容的能力存在争议。该法于2023年10月获得御准。要求社交媒体公司保护用户免受非法内容侵害的条款于2025年3月17日生效。

在4月29日科学、创新与技术委员会的听证会上，DSIT和商业贸易部大臣琼斯女男爵说，错误信息和虚假信息受该法覆盖。Ofcom在线安全战略交付主任马克·邦廷说，前政府把可能对成年人有害的合法材料从该法范围中移除，包括某些形式的错误信息。他补充说，有“一个小小的限定”：该法引入了意图造成伤害的虚假通信罪，前提是公司有合理理由推断出意图。

委员会主席奇·翁乌拉指出，意图很难证明。她说，即使准则讨论了错误信息，Ofcom也没有对此采取行动的义务。她说：“这似乎是一个关键问题。”

DSIT安全与在线危害主任塔莉莎·罗兰对委员会说，“错误信息和虚假信息不是一件事”。它可能是非法的、外国干预、煽动仇恨或暴力的内容，也可能是低于违法门槛但仍对儿童有害的内容。

到7月，委员会的报告说得更直白。报告说，该法未能处理对“合法但有害内容”的算法放大，使公众容易再次遭遇上一个夏天的情况。翁乌拉说：“很明显，《在线安全法》根本不够格。”委员会敦促政府为未来监管采纳五项原则，从保护言论自由到让平台对其上线的内容负责。

还有一个新情况：用来传播这些材料的工具正在变化。安德鲁·奥洛夫斯基在UnHerd上写道，马斯克于2025年10月推出的Grokipedia使用人工智能抓取和转换内容，几乎没有人工监督。关于0.1版本的早期报告注意到，人工智能生成的虚假内容和贬损段落是“以准确之名”加入的。奥洛夫斯基认为，大型语言模型“是会幻觉的统计词语补全引擎，而这些幻觉是普遍存在的”。