Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Facebook-Moderationsleak, britischer Online Safety Act und Reddits Rules Hub zeigen denselben Streit

Facebooks eigene Moderationsrichtlinien erlaubten einen Beitrag, in dem Nutzer aufgefordert wurden, einer Frau das Genick zu brechen, untersagten aber „Someone shoot Trump“, berichtete Ars Technica im Mai 2017. The Guardian hatte mehr als 100 interne Schulungshandbücher veröffentlicht.

Medien & InternetAnalyseKatrin HoffmannVeröffentlicht: 27. September 20263 Min. LesezeitQuellen 4
Facebook-Moderationsleak, britischer Online Safety Act und Reddits Rules Hub zeigen denselben Streit

Der Leak kam zu einem unpassenden Zeitpunkt, mitten im britischen Wahlkampf. Die Konservativen drängten auf Geldstrafen für Seiten, die illegale Inhalte nicht schnell genug entfernen, berichtete Ars Technica am 22. Mai 2017.

Facebooks Verteidigung war damals und ist heute weitgehend dieselbe: die schiere Menge und die rechtliche Kategorie. Die geleakten Dokumente zeigen, dass das Unternehmen eine Grenze bei Inhalten zieht, die glaubhaft echten Schaden anrichten könnten. Sie verlangen außerdem bestimmte Details, bevor eine Drohung als glaubhaft gilt. Nach diesen Regeln blieben gewalttätige frauenfeindliche Beiträge und Aufrufe, dicke Kinder zu verprügeln, online. Die Drohung gegen einen Präsidenten nicht, unter anderem weil sie in den USA eine Straftat ist. Das Unternehmen betont seit Langem, eine Plattform zu sein, kein Herausgeber. In Europa kann es sich auf die E-Commerce-Richtlinie stützen. Deren Artikel 15 besagt, dass Hostingdienste nicht verpflichtet sind, zu überwachen, was sie übertragen oder speichern. Diese Position wird schwerer zu halten, sobald Facebook in Inhalte eingreift, und ein Moderationsregelwerk ist genau das. Monika Bickert, Chefin für globale Richtlinien bei Facebook, sagte The Guardian, eine „diverse globale Gemeinschaft“ mache es unmöglich, die Linie einheitlich zu ziehen. Der Abstand zwischen Satire und unangemessenem Inhalt sei manchmal sehr grau.

Sechs Jahre später hörte Großbritannien auf, freundlich zu fragen.

Der Online Safety Bill erhielt am 26. Oktober 2023 die königliche Zustimmung und wurde zum Online Safety Act, berichtete The Verge. Er regelt den Zugang Minderjähriger zu Pornografie, anonyme Trolle, Betrugsanzeigen, nicht einvernehmliche intime Deepfakes, Material sexuellen Kindesmissbrauchs und terroristische Inhalte. Ofcom setzt ihn in drei Phasen durch.

„Unsere neuen Befugnisse sollen keine Inhalte herunternehmen“, sagte Ofcom-Chefin Melanie Dawes in einer Erklärung. „Unsere Aufgabe ist es, die Ursachen des Schadens anzugehen.“

Die Strafen reichen bis zu 18.000.000 £, rund 22.000.000 $, oder 10 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Chefs können ins Gefängnis kommen. WhatsApp und Signal wandten sich gegen eine Klausel, die Ofcom erlaubt, Unternehmen aufzufordern, Inhalte sexuellen Kindesmissbrauchs zu identifizieren, egal ob öffentlich oder privat übermittelt. Sie sehen darin einen Angriff auf die Ende-zu-Ende-Verschlüsselung; einige Anbieter deuteten an, lieber das Vereinigte Königreich zu verlassen. Die Wikimedia Foundation warnte, strenge Pflichten zum Kinderschutz passten schlecht zu einem Dienst, der nur minimale Nutzerdaten sammelt, darunter das Alter.

Automatisierung zieht ein, und die Regeln werden unschärfer

Die neueste Wendung: Plattformen überlassen die Bewertung Sprachmodellen. Reddit führt eine Moderationssuite namens Rules Hub ein, die LLMs nutzt, um zu prüfen, ob ein Beitrag oder Kommentar der Absicht einer Regel entspricht, berichtete The Verge am 6. August 2026. Rules Hub wurde mit Moderatoren aus über 700 Communities getestet. Es wird auf alle neu erstellten Communities ausgeweitet und soll später im Jahr 2026 allgemein verfügbar sein.

Reddit sagt, Rules Hub könne irgendwann viele Durchsetzungsabläufe ersetzen, auf die Communities bei Automoderator setzen. Dieses Werkzeug arbeitet mit exaktem Abgleich von Schlüsselwörtern und Mustern. CEO Steve Huffman nannte Automod schwer zu erlernen, schwer zu pflegen und stark abhängig von brüchigem Schlüsselwortabgleich und übernommenen Konfigurationen. Das Unternehmen verlangt außerdem, dass neue Drittanbieter-Apps seine Entwicklerplattform statt der API nutzen. Es prüfe Änderungen am alten Reddit, einen festen Zeitplan gebe es nicht.

Dem steht Valve gegenüber. PC Gamer berichtete am 2. Juni 2026, Gabe Newell habe General Counsel Karl Quackenbush angefahren. Die Schilderung stammt aus einem Bloomberg-Bericht, der sich auf einen anonymen ehemaligen Mitarbeiter beruft. Quackenbush plädierte für mehr aktive Moderation, während Valve abwog, offen pornografische Inhalte zuzulassen: „What the fuck do I pay you for if that's your opinion?“ Steam öffnete die Schleusen trotzdem und nahm Erwachseneninhalte später unter Druck von Zahlungsdienstleistern wieder aus dem Programm.

Derselbe Streit kehrt also in wechselnden Gewändern wieder. Facebook schrieb enge Regeln und nannte das Neutralität. Großbritannien erließ ein Gesetz und ließ eine Aufsichtsbehörde die Details ausarbeiten. Reddit ersetzt brüchige Regeln durch Modelle, die Absichten beurteilen. Valve ließ den Markt entscheiden, gelegentlich auch einen Zahlungsdienstleister. Keiner von ihnen hat die Frage beantwortet, die der Leak von 2017 aufwarf: Wer zieht die Linie, und wer haftet, wenn sie sich verschiebt.

Kommentare 0

Quellen

4
  1. 01Facebook content moderation guidelines leakedEN
  2. 02Reddit is introducing a new moderator: AIEN
  3. 03Gabe Newell reportedly snapped 'What the f*** do I pay you for if that's your opinion?' at Valve lawyer pushing for more content moderation on SteamEN
  4. 04The UK's controversial Online Safety Bill finally becomes lawEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.