Geleakte Facebook-Regeln, UK-Gesetz und der Anwalt von Valve: Das ungleiche Jahrzehnt der Moderation

Über 100 interne Schulungshandbücher, Tabellen und Flussdiagramme landeten in der Nacht vom 21. Mai beim Guardian und wurden dort veröffentlicht. Ars Technica berichtete am Folgetag. Die Dokumente zeigen, wie das Unternehmen Hassrede, Gewalt, Selbstschädigung und terroristische Propaganda behandelte, als die Plattform weltweit fast zwei Milliarden Nutzer zählte.

Den geleakten Regeln zufolge durfte ein Beitrag mit dem Text „Um einer Bitch den Hals zu brechen, drücke fest in die Mitte der Kehle“ online bleiben. Gleiches galt für Kommentare wie „Schlag eine Person mit rotem Haar“ oder „Lasst uns fette Kinder verprügeln“. Ein Beitrag mit der Botschaft „Jemand schießt auf Trump“ wurde jedoch verboten, Moderatoren sollten ihn entfernen. Ars Technica wies darauf hin, dass eine Drohung gegen den Präsidenten in den USA ein Straftatbestand ist.

Die Leitlinien erklärten die Logik dahinter:

Wir zielen darauf ab, so viel Rede wie möglich zu erlauben, ziehen aber die Grenze bei Inhalten, die glaubwürdig Schaden in der realen Welt verursachen könnten. Menschen drücken Verachtung oder Uneinigkeit oft aus, indem sie in allgemein spöttischer und unselbstverständlicher Weise Gewalt drohen oder dazu aufrufen.

Monika Bickert, damals Leiterin des globalen Policy-Managements bei Facebook, sagte dem Guardian, es sei unmöglich, eine „diverse globale Gemeinschaft“ zu überwachen. Die Grenze zwischen Satire und unangemessenen Inhalten sei „manchmal sehr grau“, so Bickert. Das Unternehmen erklärte damals, es stelle 3.000 zusätzliche Content-Moderatoren ein, um Hassrede und Kindesausbeutung stärker zu bekämpfen. Ob die Stellen inhouse oder outgesourct besetzt würden, verweigerte es die Auskunft.

Rund sechs Jahre und sechs Monate später verabschiedete das UK sein eigenes Antwort. Das Online Safety Bill erhielt am 26. Oktober die königliche Zustimmung und wurde zum Online Safety Act, berichtete The Verge. Es verpflichtet Tech-Firmen, den minderjährigen Zugang zu Online-Pornografie, anonymes Trolling, Betrugswerbung, nicht einvernehmliche intime Deepfakes sowie die Verbreitung von kinderspezifischem Missbrauchsmaterial und Terrorismus-Inhalten zu adressieren.

Die Durchsetzung erfolgt gestaffelt. Ofcom, der britische Telekommunikationsregulator, plante, Verhaltenskodizes in drei Stufen zu veröffentlichen, beginnend mit illegalem Inhalt wie Terrorismus und kinderspezifischem Missbrauchsmaterial, mit einer Konsultation, die am 9. November fällig war. Strafen reichen bis zu £18.000.000, rund $22.000.000 oder 10 Prozent des globalen Jahresumsatzes, je nachdem, was höher ist, wobei Chefs potenziell ins Gefängnis kommen können. Nachrichten-Apps wie WhatsApp und Signal wandten sich gegen eine Klausel, die Ofcom erlauben würde, Unternehmen zu bitten, kinderspezifischen Missbrauchsinhalt zu identifizieren, „ob öffentlich oder privat kommuniziert“, da dies die Ende-zu-Ende-Verschlüsselung fatal untergraben würde. Einige Anbieter schlugen vor, sie würden das UK eher verlassen, als den Vorschriften zu folgen.

Valves interne Auseinandersetzung

Gaming-Plattformen führten dasselbe Argument unter anderen Bedingungen. PC Gamer berichtete am 2. Juni 2026 über ein Bloomberg-Konto, das einem anonymen ehemaligen Valve-Mitarbeiter zugeschrieben wurde, über einen Streit zwischen Mitgründer Gabe Newell und General Counsel Karl Quackenbush. Quackenbush plädierte für einen aktiveren Ansatz zur Content-Moderation auf Steam, während das Unternehmen erwog, expliziten pornografischen Inhalt zu akzeptieren.

Newells angebliche Antwort war blasiert: „Wofür zum Teufel zahle ich dir, wenn das deine Meinung ist?“ PC Gamer merkt an, dass keine weiteren Details des Austauschs verfügbar sind, aber dass das Ergebnis sichtbar ist: Steam öffnete sich NSFW-Inhalten, und sein Moderationsansatz bleibt laissez-faire, abgesehen von gelegentlichen Konflikten mit Zahlungsprozessoren. Valve hatte im Vorjahr erwachsenen Inhalt von der Plattform genommen, nach Druck durch diese Prozessoren.

Die drei Episoden verweisen auf dieselbe ungelöste Frage. Facebook verbrachte Jahre damit, zu argumentieren, es sei eine Plattform und kein Verleger, eine Position, die es vor Verleumdungsklagen schützte und sich auf die EU-E-Commerce-Richtlinie stützte, deren Artikel 15 besagt, dass Hosting-Dienste nicht verpflichtet sind, zu überwachen, was sie speichern. Das UK antwortete mit gesetzlichen Pflichten und Geldstrafen. Valve antwortete mit einer Achselzucken. Was keines von ihnen klärte, ist, wo die Grenze liegt, und wer zur Rechenschaft gezogen wird, wenn sich der Graubereich als realer Schaden für jemanden herausstellt.