跳到正文
世界时间EU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

关于人工智能与技术的门户事件 · 分析 · 访谈 · 技术背景

搜索
直播
›

Facebook审核泄密、英国《在线安全法》与Reddit的Rules Hub,指向同一场争论

据Ars Technica报道,Facebook自家的审核准则允许一条让用户拧断女性脖子的帖子存在,却封禁了“Someone shoot Trump”。2017年5月,《卫报》公布了100多份内部培训手册。

媒体与互联网分析林晓雯发布: 2026年9月27日3 分钟阅读资料来源 4
Facebook审核泄密、英国《在线安全法》与Reddit的Rules Hub,指向同一场争论

这批泄密文件来得不是时候。据Ars Technica在2017年5月22日的报道,当时英国大选竞选正酣,保守党主张对未能及时删除违法内容的网站处以罚款。

Facebook当时的辩解,和如今大体上一样,靠的是规模和“法律类别”这两点。泄露的文件显示,公司把界线划在“可能切实造成现实伤害”的内容上,并且要求具备某些具体细节,威胁才算可信。按这套规则,带有暴力厌女色彩的帖子、号召殴打胖孩子的言论都留了下来;威胁总统的帖子则没有,部分原因是这在美国属于犯罪行为。公司长期坚称自己是平台而非出版方,在欧洲还可以援引《电子商务指令》第15条,该条规定托管服务没有义务监控其传输或存储的内容。可Facebook每介入一次内容,这个立场就更难站住,而审核规则手册恰恰就是介入。Facebook全球政策管理负责人Monika Bickert对《卫报》说,“多元的全球社群”让统一划线变得不可能,讽刺与不当内容之间的界限有时非常模糊。

六年后,英国不再好言相劝。

据The Verge报道,《在线安全法案》于2023年10月26日获得御准,成为《在线安全法》。它涵盖未成年人接触色情内容、匿名喷子、诈骗广告、未经同意的私密深度伪造、儿童性虐待材料和恐怖主义内容。Ofcom分三个阶段执行。

“我们的新权力不是为了下架内容,”Ofcom首席执行官Melanie Dawes在一份声明中说,“我们的工作是解决伤害的根源。”

罚款最高可达1800万英镑,约合2200万美元,或全球年营业额的10%,以较高者为准,公司高管还可能面临监禁。WhatsApp和Signal反对其中一项条款,该条款允许Ofcom要求公司识别公开或私下传播的儿童性虐待内容,两家公司称这损害端到端加密;一些服务商表示宁愿退出英国。维基媒体基金会警告说,严格的儿童保护义务与一个只收集极少用户数据(包括年龄)的服务很难相容。

自动化接手,规则变得更模糊

最新的变化是,平台把判断权交给了语言模型。据The Verge在2026年8月6日报道,Reddit正在推出一套名为Rules Hub的审核工具,用大语言模型评估一条帖子或评论是否符合某条规则的意图。Rules Hub已与来自700多个社区的版主一起测试,正在向所有新建社区推广,并将在2026年晚些时候广泛上线。

Reddit表示,Rules Hub最终有望取代社区目前依赖Automoderator的大量执法流程,后者依靠精确的关键词和模式匹配。CEO Steve Huffman称Automod难学、难维护,严重依赖脆弱的关键词匹配和沿用下来的配置。公司还要求新的第三方应用改用其开发者平台,而不是API,并表示正在研究对旧版Reddit的改动,但没有确定时间表。

拿Valve对比一下。据PC Gamer在2026年6月2日报道,彭博社援引一名匿名前员工的说法称,Valve在考虑是否接纳彻底的色情内容时,总法律顾问Karl Quackenbush主张加强人工审核,Gabe Newell当场对他发火:“如果这就是你的意见,我付你钱干什么?”Steam最终还是放开了闸门,后来在支付处理商的压力下又将成人内容下架。

于是同一场争论不断换着外衣重演。Facebook写下狭窄的规则,称之为中立。英国立法,让监管机构去写细节。Reddit用判断意图的模型取代脆弱的规则。Valve让市场来决定,偶尔也让支付处理商来决定。2017年那次泄密提出的问题,谁都没有解决:界线由谁来划,界线移动时又该由谁负责。

评论 0

资料来源

4
  1. 01Facebook content moderation guidelines leakedEN
  2. 02Reddit is introducing a new moderator: AIEN
  3. 03Gabe Newell reportedly snapped 'What the f*** do I pay you for if that's your opinion?' at Valve lawyer pushing for more content moderation on SteamEN
  4. 04The UK's controversial Online Safety Bill finally becomes lawEN

本文所有数字与引语均来自下列来源,未添加来源之外的内容。

本内容由编辑部在人工智能辅助下制作完成。

林晓雯

林晓雯

人工智能、模型与技术

林晓雯负责FLASH24的人工智能、模型与技术方向,主要写科技、人工智能与模型、媒体与互联网三个领域。她习惯从论文预印本、开源代码库和厂商技术文档入手,先核对训练数据来源和评测口径,再决定是否落笔。遇到模型跑分,她会自己复现一遍小规模测试,并对照独立第三方榜单,确认数字没有注水。她常联系一线工程师和产品经理,也盯着各大会议截稿日,把不同版本的技术报告放在一起比。业余时间她玩3D打印、折腾老电脑,还关心模型从网络垃圾里学到的偏见问题,这让她对数据清洗格外敏感。她有一条原则:拿不到原始数据的性能宣称,不写。

编辑部 →

评论

0
  1. 还没有评论——来说两句吧。

写评论

评论公开展示。我们不发布辱骂、垃圾信息和广告内容。