Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Abgeordnete: Online Safety Act erfasst rechtlich zulässige, aber schädliche Desinformation nicht

Der Online Safety Act deckt die algorithmische Verstärkung irreführender Inhalte nicht ab, die schädlich, aber nicht illegal sind. Das erklärten Abgeordnete des Ausschusses für Wissenschaft, Innovation und Technologie in einem am 11. Juli 2025 veröffentlichten Bericht.

Medien & InternetNachrichtLena BrandtVeröffentlicht: 27. September 20267 Min. LesezeitQuellen 3
Abgeordnete: Online Safety Act erfasst rechtlich zulässige, aber schädliche Desinformation nicht

Der Bericht des Ausschusses nimmt Bezug auf die Unruhen des vergangenen Sommers in Großbritannien. Nach Darstellung des Ausschusses wurden sie teilweise durch Online-Falschinformationen und hasserfüllte Inhalte angeheizt, die nach den tödlichen Messerattacken bei einem Tanzkurs für Kinder in Southport kursierten. Diese Beiträge, so die Abgeordneten, verstärkten Empfehlungsalgorithmen auf sozialen Plattformen.

Der Online Safety Act erhielt im Oktober 2023 die königliche Zustimmung. Die Vorschriften, die soziale Medienunternehmen verpflichten, Nutzer vor illegalen Inhalten zu schützen, traten im März 2025 in Kraft. Der Ausschuss warnt, das Gesetz gehe weiterhin nicht auf die algorithmische Verstärkung dessen ein, was er „rechtlich zulässige, aber schädliche Inhalte“ nennt. Damit bleibe die Öffentlichkeit offen für eine Wiederholung der Krise des vergangenen Sommers. The Register berichtete am 11. Juli 2025 über die Ergebnisse des Ausschusses.

155 Millionen Impressionen auf X

Die Zahlen im Bericht sind deutlich. Zwischen dem 29. Juli und dem 9. August 2024 erreichten falsche oder unbegründete Behauptungen über den Angreifer von Southport 155 Millionen Impressionen auf X. In den sozialen Medien wurde der falsche Name 420.000 Mal gesehen, bei einer möglichen Reichweite von 1,7 Milliarden Menschen. Er wurde direkt durch algorithmische Werkzeuge beworben und erschien in X' Funktion „Trending in the UK“ und in TikToks „Others searched for“, so der Ausschuss.

Dame Chi Onwurah, Abgeordnete und Vorsitzende des Ausschusses für Wissenschaft, Innovation und Technologie, sagte, die Gesetzgebung „sei einfach nicht gut genug“. Die Regierung müsse weiter gehen, um Falschinformationen zu bekämpfen, die Schaden anrichten, ohne die Grenze zur Illegalität zu überschreiten. „Soziale Medienunternehmen sind keine neutralen Plattformen, sondern kuratieren aktiv, was Sie online sehen, und sie müssen zur Rechenschaft gezogen werden“, sagte sie. Der Ausschuss forderte die Regierung auf, fünf Grundsätze als Grundlage künftiger Regulierung zu übernehmen, von der Wahrung der Meinungsfreiheit bis zur Verantwortung der Plattformen für die Inhalte, die sie online stellen.

Wie sich die falschen Behauptungen ursprünglich verbreiteten, ist im Detail dokumentiert. CNBC berichtete am 9. August 2024, dass innerhalb von Stunden nach der Messerattacke in Southport, bei der drei junge Mädchen getötet wurden, falsche Informationen über Name, Religion und Migrationsstatus des Angreifers erhebliche Verbreitung fanden. Hannah Rose, Analystin für Hass und Extremismus beim Institute for Strategic Dialogue, sagte CNBC, ein Beitrag auf X habe den Täter fälschlich als „Ali al-Shakati“ benannt, angeblich ein Migrant muslimischen Glaubens. Bis 15 Uhr des folgenden Tages habe der falsche Name allein auf X über 30.000 Erwähnungen erreicht.

Andere in sozialen Medien geteilte Falschbehauptungen besagten, der Angreifer stehe auf einer Beobachtungsliste eines Geheimdienstes, er sei 2023 in einem kleinen Boot nach Großbritannien gekommen und er sei den örtlichen psychiatrischen Diensten bekannt. Das geht aus der von CNBC zitierten Analyse des ISD hervor. Die Polizei widerlegte die Behauptungen einen Tag nach ihrem ersten Auftauchen und erklärte, der Verdächtige sei in Großbritannien geboren. Zu diesem Zeitpunkt hatte die Erzählung bereits Fuß gefasst. Rechtsextreme Gruppen begannen, antimigrantische und antiislamische Proteste zu organisieren, darunter eine Demonstration bei der geplanten Trauerfeier für die getöteten Mädchen. Die Unruhen eskalierten zu tagelangen Ausschreitungen mit Angriffen auf Moscheen, Einwanderungszentren und Hotels, in denen Asylbewerber untergebracht waren.

Wie die Plattformen den falschen Namen verbreiteten

Soziale Medien beherbergten die Falschheiten nicht nur. Laut ISD-Analystin Rose verbreiteten Konten mit Hunderttausenden Followern und bezahlten blauen Haken auf X die falschen Informationen. Die Algorithmen der Plattform reichten sie dann an andere Nutzer weiter. „Wenn Sie zum Beispiel auf TikTok nach ‚Southport‘ suchten, wurde im Bereich ‚Others Searched For‘, der ähnliche Inhalte empfiehlt, der falsche Name des Angreifers von der Plattform selbst beworben, auch noch 8 Stunden nachdem die Polizei bestätigt hatte, dass diese Information falsch war“, sagte Rose zu CNBC. Die Analyse des ISD zeigte, dass Algorithmen auf anderen Plattformen wie X ähnlich wirkten, wo der falsche Name des Angreifers als Trendthema erschien.

Joe Ondrak, Leiter Forschung und Technik für Großbritannien bei Logically, einem Technologieunternehmen, das KI-Werkzeuge zur Bekämpfung von Falschinformationen entwickelt, sagte CNBC, die Falschbehauptungen wirkten wie „Katzenminze“ auf Gruppen, die der Migration ohnehin feindlich gegenüberstanden. „Es ist nicht so, dass diese Falschbehauptung verbreitet wird und dann, nun ja, von allen geglaubt wird“, sagte er. Die Berichte dienten vielmehr als „Mittel, um bereits bestehende Vorurteile, Voreingenommenheit und Spekulation zu rationalisieren und zu verstärken, bevor irgendeine gesicherte Wahrheit an die Öffentlichkeit gelangen konnte“.

Die Falschbehauptungen erreichten auch Telegram, das laut Ondrak Erzählungen bündelt und immer mehr Menschen „radikaleren Überzeugungen“ aussetzt. Er beschrieb, wie Behauptungen durch das von ihm so bezeichnete Post-Covid-Milieu von Telegram geschleust wurden. Dazu gehörten Kanäle, die ursprünglich impfgegnerisch waren und später von rechtsextremen Akteuren übernommen wurden, die antimigrantische Themen verbreiteten. Auf eine Bitte von CNBC um Stellungnahme bestritt Telegram, zur Verbreitung von Falschinformationen beizutragen. Seine Moderatoren beobachteten die Lage und entfernten Kanäle und Beiträge, die zu Gewalt aufriefen, was nach seinen Nutzungsbedingungen nicht erlaubt sei.

Zumindest einige der Konten, die zur Teilnahme an den Protesten aufriefen, ließen sich laut einer Analyse von Logically bis in das rechtsextreme Spektrum zurückverfolgen. Darunter waren einige mit Verbindungen zu der verbotenen rechtsextremen Gruppe National Action, die 2016 nach dem britischen Terrorism Act als terroristische Organisation eingestuft wurde. Ondrak merkte zudem an, dass viele Gruppen, die zuvor Falschinformationen über den Angriff verbreitet hatten, begonnen hätten, sich davon zu distanzieren und von einer Falschmeldung zu sprechen.

Während die Unruhen weitergingen, äußerte sich X-Eigentümer Elon Musk mit umstrittenen Kommentaren zu den gewalttätigen Demonstrationen auf seiner Plattform, was Widerspruch von der britischen Regierung auslöste. Der Justizminister des Landes forderte Musk auf, sich „verantwortungsvoll zu verhalten“. TikTok und X antworteten nicht unmittelbar auf die Bitte von CNBC um Stellungnahme. Am Mittwoch nach den schlimmsten Ausschreitungen versammelten sich Tausende Teilnehmer von Antirassismus-Protesten in Städten und Gemeinden Großbritanniens und übertrafen die jüngsten antimigrantischen Proteste bei Weitem.

Ofcom forderte Plattformen auf, nicht zu warten

Großbritannien hat einen Online Safety Act, der Hassrede bekämpfen soll. Zum Zeitpunkt der Unruhen war er jedoch noch nicht in Kraft und reicht, wie CNBC anmerkte, möglicherweise nicht aus, um vor bestimmten Formen von Desinformation zu schützen. Die Medienaufsicht Ofcom richtete ein Schreiben an soziale Plattformen, in dem sie erklärte, sie sollten nicht auf das Inkrafttreten des neuen Gesetzes warten. Auch die britische Regierung erklärte, soziale Medienunternehmen sollten handeln.

Der Bericht des Ausschusses geht weiter als der Anstoß der Aufsichtsbehörde. Die Abgeordneten argumentierten, Plattformen müssten für die algorithmische Verbreitung irreführender oder täuschender Inhalte verantwortlich gemacht werden, die Nutzer radikalisieren und schädigen können. Der Online Safety Act gehe auf diesen Punkt nicht ein. „Es ist unerlässlich, dass wir diese Technologien auf Grundlage der in diesem Bericht dargelegten Prinzipien regulieren und gesetzlich regeln und die digitale Welt so nutzen, dass Bürger geschützt und gestärkt werden“, heißt es im Bericht. In den Anhörungen davor hörte der Ausschuss eine Reihe von Auslegungen des britischen Rechts. Darin zeigte sich, wie unklar Ofcom und der öffentliche Dienst darüber sind, ob der Online Safety Act Falschinformationen überhaupt erfasst.

Der Fall Southport ist nicht das einzige Beispiel für Desinformation, die aus finanziellen Motiven statt aus Überzeugung produziert wird. Eine Untersuchung von BuzzFeed News, die in Partnerschaft mit dem Reporter in Taiwan veröffentlicht wurde, ergab, dass seit 2011 mindestens 27 Online-Informationskampagnen teilweise oder vollständig PR- oder Marketingfirmen zugeschrieben wurden, 19 davon allein im Jahr 2019. Sie beschrieb eine weltweite Branche von „Black-PR“-Firmen, die bereit sind, für Kunden gefälschte Konten, falsche Erzählungen und Pseudo-Nachrichtenwebsites einzusetzen.

Eine davon, die israelische Firma Archimedes Group, baute weltweit Netzwerke aus Hunderten von Facebook-Seiten, Konten und Gruppen auf. Auf ihrer Website rühmte sie sich, sie werde „jedes Werkzeug nutzen und jeden verfügbaren Vorteil ergreifen, um die Realität nach den Wünschen unserer Kunden zu verändern“. Für eine Wahl in Mali betrieb sie eine gefälschte Faktencheck-Seite, die angeblich von lokalen Studenten betrieben wurde. In Tunesien betrieb sie eine Seite mit dem Titel „Stop a la Desinformation et aux Mensonges“. In Nigeria betrieb sie Seiten, die für und gegen denselben Politiker eintraten, den ehemaligen Vizepräsidenten Atiku Abubakar. Forscher vermuteten, die Seite für Abubakar „sei wahrscheinlich darauf ausgelegt gewesen, seine Anhänger zu identifizieren, um sie später mit Anti-Abubakar-Inhalten zu erreichen“.

Nathaniel Gleicher, damals Leiter der Cybersicherheitspolitik bei Facebook, sagte zu BuzzFeed News, die „Professionalisierung der Täuschung“ sei eine wachsende Bedrohung. „Es entstehen Unternehmen, die ihr Geschäftsmodell im Grunde auf Täuschung aufbauen“, sagte er. Cindy Otis, ehemalige CIA-Offizierin und Autorin von True or False: A CIA Analyst's Guide to Spotting Fake News, sagte, Informationskampagnen von Nationalstaaten wie Russland und Iran hätten „eine Anleitung für Einzelpersonen und Gruppen geliefert, die aus finanziellen Motiven in diesen Bereich eindringen“.

In Großbritannien ist die unmittelbare Frage, ob das Gesetz die Art von Inhalten erfasst, die den Unruhen vorausgingen. Die Antwort des Ausschusses lautet im Ergebnis: nein. Der falsche Name war rechtlich zulässige Äußerung, von Empfehlungssystemen beworben und 420.000 Mal gesehen. Die Pflichten des Online Safety Act zu illegalen Inhalten, die seit März gelten, erfassen ihn nicht. Diese Lücke wollen die Abgeordneten schließen.

Kommentare 0

Quellen

3
  1. 01UK Online Safety Act 'not up to scratch' on misinformation, warn MPsEN
  2. 02Online disinformation sparked a wave of far-right violence in the UKEN
  3. 03Disinformation For Hire: How A New Breed Of PR Firms Is Selling Lies OnlineEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.