Facebook审核泄密、英国《在线安全法》与Reddit的Rules Hub,指向同一场争论
据Ars Technica报道,Facebook自家的审核准则允许一条让用户拧断女性脖子的帖子存在,却封禁了“Someone shoot Trump”。2017年5月,《卫报》公布了100多份内部培训手册。

这批泄密文件来得不是时候。据Ars Technica在2017年5月22日的报道,当时英国大选竞选正酣,保守党主张对未能及时删除违法内容的网站处以罚款。
Facebook当时的辩解,和如今大体上一样,靠的是规模和“法律类别”这两点。泄露的文件显示,公司把界线划在“可能切实造成现实伤害”的内容上,并且要求具备某些具体细节,威胁才算可信。按这套规则,带有暴力厌女色彩的帖子、号召殴打胖孩子的言论都留了下来;威胁总统的帖子则没有,部分原因是这在美国属于犯罪行为。公司长期坚称自己是平台而非出版方,在欧洲还可以援引《电子商务指令》第15条,该条规定托管服务没有义务监控其传输或存储的内容。可Facebook每介入一次内容,这个立场就更难站住,而审核规则手册恰恰就是介入。Facebook全球政策管理负责人Monika Bickert对《卫报》说,“多元的全球社群”让统一划线变得不可能,讽刺与不当内容之间的界限有时非常模糊。
六年后,英国不再好言相劝。
据The Verge报道,《在线安全法案》于2023年10月26日获得御准,成为《在线安全法》。它涵盖未成年人接触色情内容、匿名喷子、诈骗广告、未经同意的私密深度伪造、儿童性虐待材料和恐怖主义内容。Ofcom分三个阶段执行。
“我们的新权力不是为了下架内容,”Ofcom首席执行官Melanie Dawes在一份声明中说,“我们的工作是解决伤害的根源。”
罚款最高可达1800万英镑,约合2200万美元,或全球年营业额的10%,以较高者为准,公司高管还可能面临监禁。WhatsApp和Signal反对其中一项条款,该条款允许Ofcom要求公司识别公开或私下传播的儿童性虐待内容,两家公司称这损害端到端加密;一些服务商表示宁愿退出英国。维基媒体基金会警告说,严格的儿童保护义务与一个只收集极少用户数据(包括年龄)的服务很难相容。
自动化接手,规则变得更模糊
最新的变化是,平台把判断权交给了语言模型。据The Verge在2026年8月6日报道,Reddit正在推出一套名为Rules Hub的审核工具,用大语言模型评估一条帖子或评论是否符合某条规则的意图。Rules Hub已与来自700多个社区的版主一起测试,正在向所有新建社区推广,并将在2026年晚些时候广泛上线。
Reddit表示,Rules Hub最终有望取代社区目前依赖Automoderator的大量执法流程,后者依靠精确的关键词和模式匹配。CEO Steve Huffman称Automod难学、难维护,严重依赖脆弱的关键词匹配和沿用下来的配置。公司还要求新的第三方应用改用其开发者平台,而不是API,并表示正在研究对旧版Reddit的改动,但没有确定时间表。
拿Valve对比一下。据PC Gamer在2026年6月2日报道,彭博社援引一名匿名前员工的说法称,Valve在考虑是否接纳彻底的色情内容时,总法律顾问Karl Quackenbush主张加强人工审核,Gabe Newell当场对他发火:“如果这就是你的意见,我付你钱干什么?”Steam最终还是放开了闸门,后来在支付处理商的压力下又将成人内容下架。
于是同一场争论不断换着外衣重演。Facebook写下狭窄的规则,称之为中立。英国立法,让监管机构去写细节。Reddit用判断意图的模型取代脆弱的规则。Valve让市场来决定,偶尔也让支付处理商来决定。2017年那次泄密提出的问题,谁都没有解决:界线由谁来划,界线移动时又该由谁负责。
资料来源
4- 01Facebook content moderation guidelines leakedEN
- 02Reddit is introducing a new moderator: AIEN
- 03Gabe Newell reportedly snapped 'What the f*** do I pay you for if that's your opinion?' at Valve lawyer pushing for more content moderation on SteamEN
- 04The UK's controversial Online Safety Bill finally becomes lawEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。