Abgeordnete: Online Safety Act erfasst schädliche, aber legale Desinformation nicht

Der Bericht des Ausschusses verweist auf die Unruhen des vergangenen Sommers in Großbritannien. Auslöser waren tödliche Messerangriffe bei einem Kindertanzkurs in Southport. Danach kursierten Online-Falschinformationen und Hassinhalte, die zu den Ausschreitungen beitrugen. Empfehlungsalgorithmen auf Social-Media-Plattformen verstärkten diese Beiträge, so die Abgeordneten.

Der Online Safety Act erhielt im Oktober 2023 die königliche Zustimmung. Die Teile, die Social-Media-Unternehmen verpflichten, Nutzer vor illegalen Inhalten zu schützen, traten im März 2025 in Kraft. Der Ausschuss warnt, das Gesetz gehe weiterhin nicht auf die algorithmische Verstärkung dessen ein, was er "rechtlich zulässige, aber schädliche Inhalte" nennt. Damit bleibe die Öffentlichkeit einer Wiederholung der Krise des vergangenen Sommers ausgesetzt. The Register berichtete am 11. Juli 2025 über die Ergebnisse des Ausschusses.

155 Millionen Impressionen auf X

Die Zahlen im Bericht sind deutlich. Zwischen dem 29. Juli und dem 9. August 2024 erreichten falsche oder unbegründete Behauptungen über den Angreifer von Southport 155.000.000 Impressionen auf X. In den sozialen Medien wurde der falsche Name 420.000 Mal gesehen, bei einer möglichen Reichweite von 1.700.000.000 Menschen. Algorithmische Werkzeuge hätten ihn direkt befördert, so der Ausschuss: Er habe in X' Funktion "Trending in the UK" und in TikToks "Others searched for" gestanden.

Dame Chi Onwurah, Abgeordnete und Vorsitzende des Ausschusses für Wissenschaft, Innovation und Technologie, sagte, die Gesetzgebung "genügt einfach nicht". Die Regierung müsse weiter gehen, um Falschinformationen zu bekämpfen, die Schaden anrichten, ohne die Grenze zur Illegalität zu überschreiten. "Social-Media-Unternehmen sind keine neutralen Plattformen, sondern kuratieren aktiv, was Sie online sehen, und sie müssen zur Rechenschaft gezogen werden", sagte sie. Der Ausschuss forderte die Regierung auf, fünf Prinzipien als Grundlage künftiger Regulierung zu übernehmen, vom Schutz der freien Meinungsäußerung bis zur Verantwortung der Plattformen für Inhalte, die sie online stellen.

Wie sich die falschen Behauptungen überhaupt verbreiteten, ist detailliert dokumentiert. CNBC berichtete am 9. August 2024, dass innerhalb von Stunden nach dem Messerangriff in Southport, bei dem drei junge Mädchen getötet wurden, falsche Informationen über Name, Religion und Migrationsstatus des Angreifers erhebliche Verbreitung fanden. Hannah Rose, Analystin für Hass und Extremismus beim Institute for Strategic Dialogue, sagte CNBC, ein Beitrag auf X habe den Täter fälschlich als "Ali al-Shakati" benannt, angeblich ein Migrant muslimischen Glaubens. Bis 15 Uhr des folgenden Tages habe der falsche Name allein auf X über 30.000 Erwähnungen gehabt.

Weitere in sozialen Medien geteilte Falschbehauptungen besagten, der Angreifer stehe auf einer Beobachtungsliste eines Geheimdienstes, er sei 2023 in einem kleinen Boot nach Großbritannien gekommen und er sei den örtlichen psychiatrischen Diensten bekannt. Das geht aus der von CNBC zitierten Analyse des ISD hervor. Die Polizei widerlegte die Behauptungen am Tag nach ihrem ersten Auftauchen und erklärte, der Verdächtige sei in Großbritannien geboren. Zu diesem Zeitpunkt hatte das Narrativ bereits an Fahrt gewonnen. Rechtsextreme Gruppen begannen, antimigrantische und antiislamische Proteste zu organisieren, darunter eine Kundgebung bei der geplanten Mahnwache für die getöteten Mädchen. Die Unruhen eskalierten zu Tagen von Ausschreitungen mit Angriffen auf Moscheen, Einwanderungszentren und Hotels, in denen Asylsuchende untergebracht waren.

Wie die Plattformen den falschen Namen beförderten

Die sozialen Medien beherbergten die Falschheiten nicht nur. Laut ISD-Analystin Rose verbreiteten Konten mit Hunderttausenden Followern und bezahlten blauen Häkchen auf X die falschen Informationen. Die Algorithmen der Plattform reichten sie dann an andere Nutzer weiter. "Wenn man beispielsweise auf TikTok nach 'Southport' suchte, wurde im Bereich 'Others Searched For', der ähnliche Inhalte empfiehlt, der falsche Name des Angreifers von der Plattform selbst befördert, auch noch 8 Stunden, nachdem die Polizei bestätigt hatte, dass diese Information falsch war", sagte Rose zu CNBC. Die Analyse des ISD zeigte, dass Algorithmen auf anderen Plattformen wie X ähnlich arbeiteten, wo der falsche Name des Angreifers als Trendthema geführt wurde.

Joe Ondrak, Leiter Forschung und Technik für Großbritannien bei Logically, einem Technologieunternehmen, das KI-Werkzeuge zur Bekämpfung von Falschinformationen entwickelt, sagte CNBC, die Falschbehauptungen wirkten wie "Katzenminze" auf Gruppen, die der Migration ohnehin feindlich gegenüberstünden. "Es ist nicht so, dass diese falsche Behauptung hinausgeht und dann, nun ja, von allen geglaubt wird", sagte er. Die Berichte wirkten vielmehr als "Mittel, um bereits bestehende Vorurteile und Voreingenommenheit und Spekulation zu rationalisieren und zu verstärken, bevor irgendeine etablierte Wahrheit an die Öffentlichkeit gelangen konnte".

Die falschen Behauptungen erreichten auch Telegram. Laut Ondrak bündelt die Plattform Narrative und setzt immer mehr Menschen "härteren Überzeugungen" aus. Er beschrieb, wie Behauptungen durch das von ihm so genannte Post-Covid-Milieu von Telegram geschleust wurden, darunter Kanäle, die zunächst impfgegnerisch waren und später von rechtsextremen Akteuren vereinnahmt wurden, die antimigrantische Themen verbreiteten. Auf eine Bitte von CNBC um Stellungnahme bestritt Telegram, zur Verbreitung von Falschinformationen beizutragen. Seine Moderatoren beobachteten die Lage und entfernten Kanäle und Beiträge, die zu Gewalt aufriefen, was nach seinen Nutzungsbedingungen nicht erlaubt sei, erklärte das Unternehmen.

Zumindest ein Teil der Konten, die zur Teilnahme an den Protesten aufriefen, ließ sich laut einer Analyse von Logically bis zur extremen Rechten zurückverfolgen, darunter einige mit Verbindungen zur verbotenen rechtsextremen Gruppe National Action, die 2016 nach dem britischen Terrorism Act als terroristische Organisation eingestuft wurde. Ondrak merkte zudem an, dass viele Gruppen, die zuvor falsche Informationen über den Angriff verbreitet hatten, begonnen hätten, davon abzurücken und von einem Schwindel zu sprechen.

Während die Ausschreitungen weitergingen, mischte sich X-Eigentümer Elon Musk mit kontroversen Kommentaren zu den gewalttätigen Demonstrationen auf seiner Plattform ein, was Widerspruch von der britischen Regierung auslöste. Der Justizminister des Landes forderte Musk auf, "sich verantwortungsvoll zu verhalten". TikTok und X reagierten nicht unmittelbar auf die Bitte von CNBC um Stellungnahme. Am Mittwoch nach den schlimmsten Ausschreitungen versammelten sich Tausende Gegner von Rassismus in Städten und Gemeinden in ganz Großbritannien und übertrafen damit die jüngsten antimigrantischen Proteste bei Weitem.

Ofcom forderte Plattformen auf, nicht zu warten

Großbritannien hat einen Online Safety Act, der Hassrede bekämpfen soll. Zum Zeitpunkt der Unruhen war er noch nicht in Kraft und reicht, wie CNBC anmerkte, möglicherweise nicht aus, um vor einigen Formen von Desinformation zu schützen. Die Medienaufsicht Ofcom richtete ein Schreiben an die Social-Media-Plattformen, in dem sie erklärte, sie sollten nicht auf das Inkrafttreten des neuen Gesetzes warten. Auch die britische Regierung erklärte, Social-Media-Unternehmen sollten handeln.

Der Bericht des Ausschusses geht über den Anstoß der Aufsichtsbehörde hinaus. Die Abgeordneten argumentierten, Plattformen müssten für die algorithmische Verbreitung irreführender oder täuschender Inhalte verantwortlich gemacht werden, die Nutzer radikalisieren und schädigen könnten. Der Online Safety Act gehe auf diesen Punkt nicht ein. "Es ist unerlässlich, dass wir diese Technologien nach den in diesem Bericht dargelegten Grundsätzen regulieren und gesetzlich regeln und die digitale Welt so nutzen, dass sie Bürger schützt und befähigt", heißt es in dem Bericht. In den Anhörungen davor hörte der Ausschuss eine Reihe von Auslegungen des britischen Rechts. Darin zeigte sich, wie unklar bei Ofcom und im öffentlichen Dienst die Frage war, ob der Online Safety Act Falschinformationen überhaupt erfasst.

Der Fall Southport ist nicht das einzige Beispiel für Desinformation, die aus Geld und nicht aus Überzeugung produziert wird. Eine Untersuchung von BuzzFeed News, die in Partnerschaft mit dem Reporter in Taiwan veröffentlicht wurde, ergab, dass seit 2011 mindestens 27 Online-Informationskampagnen teilweise oder vollständig PR- oder Marketingfirmen zugeschrieben wurden, 19 davon allein 2019. Sie beschrieb eine weltweite Branche von "Black-PR"-Firmen, die bereit sind, für Kunden gefälschte Konten, falsche Narrative und Pseudo-Nachrichtenwebsites einzusetzen.

Eine davon, die israelische Firma Archimedes Group, schuf weltweit Netzwerke aus Hunderten von Facebook-Seiten, Konten und Gruppen. Auf ihrer Website prahlte sie, sie werde "jedes Werkzeug nutzen und jeden verfügbaren Vorteil ergreifen, um die Realität nach den Wünschen unserer Kunden zu verändern". Für eine Wahl in Mali betrieb sie eine gefälschte Faktencheck-Seite, die angeblich von lokalen Studenten geführt wurde. In Tunesien betrieb sie eine Seite mit dem Titel "Stop a la Desinformation et aux Mensonges". In Nigeria betrieb sie Seiten, die für und gegen denselben Politiker warben, den ehemaligen Vizepräsidenten Atiku Abubakar. Forscher vermuteten, dass die Pro-Aubakar-Seite "wahrscheinlich dazu gedacht war, seine Unterstützer zu identifizieren, um sie später mit Anti-Aubakar-Inhalten zu bearbeiten".

Nathaniel Gleicher, damals Leiter der Cybersicherheitspolitik von Facebook, sagte zu BuzzFeed News, "die Professionalisierung der Täuschung" sei eine wachsende Bedrohung. "Es entstehen Unternehmen, die ihr Geschäftsmodell im Grunde auf Täuschung aufbauen", sagte er. Cindy Otis, ehemalige CIA-Offizierin und Autorin von True or False: A CIA Analyst's Guide to Spotting Fake News, sagte, Informationskampagnen von Nationalstaaten wie Russland und Iran hätten "ein Drehbuch für Einzelpersonen und Gruppen geliefert, die aus finanziellen Motiven in diesen Raum drängen".

In Großbritannien ist die unmittelbare Frage, ob das Gesetz die Art von Inhalten erfasst, die den Unruhen vorausgingen. Die Antwort des Ausschusses lautet faktisch, dass es das nicht tut. Der falsche Name war rechtlich zulässige Rede, befördert durch Empfehlungssysteme und 420.000 Mal gesehen. Die seit März geltenden Pflichten des Online Safety Act zu illegalen Inhalten reichen nicht an ihn heran. Diese Lücke wollen die Abgeordneten schließen.