跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

从南港骚乱到黑公关公司:网络虚假信息网络如何运作

2025年7月的一份议会报告显示,关于南港袭击者的虚假说法在不到两周内于X上获得15500万次曝光。随后的骚乱表明,虚假信息网络能把谎言变成街头暴力。

媒体与互联网解释林晓雯发布: 2026年9月27日7 分钟阅读资料来源 5
从南港骚乱到黑公关公司:网络虚假信息网络如何运作

2024年7月29日,英格兰西北部南港的一堂舞蹈课上,三名儿童遇害。几小时内,关于袭击者姓名、宗教和移民身份的虚假说法就在社交媒体上流传。据CNBC援引战略对话研究所的Hannah Rose的说法,到次日下午3点,其中一个假名字仅在X上就被提及超过3万次。

这就是现代虚假信息网络的解剖结构:一个真实事件、一套迅速传播的虚假叙事、算法的放大,以及线下的后果。警方在说法出现后的第二天就予以辟谣,称嫌疑人出生在英国。那时叙事已经获得了势头。

虚假信息网络到底是什么

这个词涵盖的范围很广。一端是松散关联的账号,它们在一则突发新闻下蜂拥跟进。另一端是把操纵当作服务出售的商业机构,通常被称为黑公关。

BuzzFeed News对平台清理行动和安全公司调查的梳理发现,自2011年以来,至少有27起网络信息行动被部分或完全归因于公关或营销公司。其中19起发生在2019年。该梳理与台湾调查新闻网站Reporter合作报道。

Facebook网络安全政策负责人Nathaniel Gleicher对BuzzFeed News表示,“欺骗的职业化”是一个日益严重的威胁。“欺骗和影响力行动这一更宽泛的概念已经存在一段时间,但过去几年里,我们看到[…]一些公司成长起来,基本上围绕欺骗构建自己的商业模式,”他说。

一个例子:Archimedes Group,一家以色列公司,建立了由数百个Facebook页面、账号和群组构成的网络。其网站承诺“使用一切工具、利用一切可用的优势,按照客户的意愿改变现实”。在马里,它运营一个冒充当地学生管理的假事实核查页面。在突尼斯,它运营一个名为“Stop a la Desinformation et aux Mensonges”的页面。在尼日利亚,它同时运营支持与反对同一位政治人物、前副总统Atiku Abubakar的页面。

流水线:抓取、改写、发布、放大

现年32岁、住在台湾台中的Peng Kuan Chin向Reporter展示了他的系统如何运作。服务器抓取网络上的中文文章和帖子,把词语和句子重新组织成新文本,然后把产出发布到他控制的一系列网站上。数千个虚假社交媒体账号把它推入信息流、通讯应用和搜索结果。

“我开发这个是为了操纵舆论,”Peng对Reporter说。自动化和人工智能“能比人快得多地迅速制造流量和曝光”。

他的客户是亚洲的公司、品牌、政党和候选人。“客户有钱,我不在乎他们买什么,”他说。

并非所有行动都依赖定制软件。在乌克兰,公关公司Pragmatico雇了几十名年轻、熟悉数字技术的人,用虚假Facebook账号为客户发布正面评论。在波兰,Cat@Net运营着由在家工作的残障员工操作的虚假Twitter账号网络。该机构雇用他们,是因为可以付给他们低于市场水平的报酬,同时他们还领取政府补贴。Investigate Europe的报道还发现,Cat@Net为波兰最知名的公关公司之一Art-Media做过活。Art-Media否认与Cat@Net合作。

前CIA官员、《True or False: A CIA Analyst's Guide to Spotting Fake News》一书的作者Cindy Otis对BuzzFeed News表示,俄罗斯和伊朗等民族国家开展的信息行动,为“受经济利益驱动的个人和团体”进入这一领域提供了“一本行动手册”。

南港叙事如何传播

南港事件不需要付费承包商。它需要一个平台、一群受众,以及一个契合部分受众本就相信之事的故事。

Logically英国研究与技术负责人Joe Ondrak对CNBC表示,这些虚假说法对反移民团体来说是“猫薄荷”。“这确实正是那种能激起比没有虚假信息传播时更愤怒反应的说法,”他说。

Ondrak还说,这些报道充当了“一种途径,在任何既成真相传开之前,为已有的偏见、成见和猜测提供合理化依据并加以强化”。

放大效应完成了大部分工作。Rose说,拥有数十万粉丝和付费蓝标的账号转发了虚假信息,平台算法随后把它推给其他用户。“例如,当你在TikTok上搜索‘Southport’时,在推荐相似内容的‘Others Searched For’栏目里,袭击者的假名字被平台自己推广,包括在警方确认该信息不实8小时之后,”她说。

ISD的分析发现,算法在X上的运作方式类似,错误的名字在那里成为热门话题。虚假说法也传到了Telegram,Ondrak说该平台整合各种叙事,让更多人接触到“更强硬的信念”。Telegram对CNBC表示,它没有帮助传播虚假信息,称版主正在监控局势,并删除呼吁暴力的频道和帖子。

数字变得很大。英国下议院科学、创新与技术委员会2025年7月的一份报告称,2024年7月29日至8月9日期间,关于南港袭击者的虚假或无根据说法在X上获得15500万次曝光。报告称,在整个社交媒体上,这个假名字被看到42万次,潜在触达17亿人。它被算法工具直接推广,出现在X的“Trending in the UK”和TikTok的“Others searched for”功能中。

当网络离开屏幕

极右团体组织了反移民和反伊斯兰抗议,包括在遇害女孩计划举行的守夜活动上示威。骚乱升级为持续数日的暴动。清真寺、移民中心和收容寻求庇护者的酒店遭到袭击。

据Logically的分析,至少部分呼吁参加抗议的账号可以追溯到极右势力,其中一些与National Action有关联。这是一个被禁的右翼极端组织,2016年依据英国《恐怖主义法》被列为恐怖组织。Ondrak还指出,许多此前传播袭击虚假信息的团体已开始改口,称那是骗局。

X老板Elon Musk在骚乱期间发声,就暴力示威发表争议性言论。英国法院事务大臣呼吁他“负责任地行事”。TikTok和X没有立即回应CNBC的置评请求。

暴力最严重之后的那个周三,数千名反种族主义抗议者在英国各地城镇集会,人数远超近期的反移民抗议。

规则手册的问题

英国有《在线安全法》,但它覆盖这类内容的能力存在争议。该法于2023年10月获得御准。要求社交媒体公司保护用户免受非法内容侵害的条款于2025年3月17日生效。

在4月29日科学、创新与技术委员会的听证会上,DSIT及商业和贸易部大臣Baroness Jones of Whitchurch表示,错误信息和虚假信息属于该法覆盖范围。Ofcom在线安全战略交付总监Mark Bunting表示,上届政府把可能对成年人有害的合法材料从该法适用范围中移除,包括各种形式的错误信息。他补充说,“有一个小提醒”:该法新增了意图造成伤害的虚假通信罪,前提是公司有合理理由推断其意图。

委员会主席Chi Onwurah指出,意图非常难以证明。她说,即使相关准则讨论了错误信息,Ofcom也没有义务就此采取行动。“这似乎是一个关键问题,”她说。

DSIT安全与在线伤害总监Talitha Rowland对委员会表示,“错误信息和虚假信息不是一回事”。它可能是非法的、外国干涉、煽动仇恨或暴力的内容,也可能是低于非法门槛但仍对儿童有害的内容。

到7月,委员会的报告更为直白。报告称,该法未能处理“合法但有害内容”的算法放大问题,使公众容易再次遭遇去年夏天的情况。“很明显,《在线安全法》根本不够用,”Onwurah说。委员会敦促政府为未来监管采纳五项原则,从保护言论自由到让平台对其上线内容负责。

还有一个麻烦:传播这些材料的工具正在变化。Andrew Orlowski在UnHerd撰文称,Musk于2025年10月推出的Grokipedia利用AI抓取和改造内容,几乎没有人工监督。关于0.1版本的早期报告注意到AI生成的虚假内容和贬损段落是“以准确之名”添加的。Orlowski认为,大语言模型“是会产生幻觉的统计词语补全引擎,而这些幻觉是普遍存在的”。

评论 0

资料来源

5
  1. 01Online disinformation sparked a wave of far-right violence in the UKEN
  2. 02Disinformation For Hire: How A New Breed Of PR Firms Is Selling Lies OnlineEN
  3. 03Does the Online Safety Act cover misinformation? Well, that dependsEN
  4. 04UK Online Safety Act 'not up to scratch' on misinformation, warn MPsEN
  5. 05Grokipedia is another form of online disinformationEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。