Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Wie Desinformationsnetzwerke funktionieren: von den Southport-Unruhen bis zu Black-PR-Agenturen

Falsche Behauptungen über den Täter von Southport erreichten laut einem Parlamentsbericht vom Juli 2025 auf X in weniger als zwei Wochen 155 Millionen Impressionen. Die folgenden Unruhen zeigten, wie Desinformationsnetzwerke aus einer Lüge Straßengewalt machen.

Medien & InternetErklärtKatrin HoffmannVeröffentlicht: 27. September 20267 Min. LesezeitQuellen 5
Wie Desinformationsnetzwerke funktionieren: von den Southport-Unruhen bis zu Black-PR-Agenturen

Am 29. Juli 2024 wurden bei einem Tanzkurs in Southport im Nordwesten Englands drei Kinder getötet. Innerhalb weniger Stunden kursierten in den sozialen Medien falsche Behauptungen über Name, Religion und Migrationsstatus des Täters. Bis 15 Uhr des folgenden Tages hatte ein falscher Name allein auf X mehr als 30.000 Erwähnungen, wie Hannah Rose vom Institute for Strategic Dialogue laut CNBC sagte.

Das ist die Anatomie eines modernen Desinformationsnetzwerks: ein reales Ereignis, eine schnelle und falsche Erzählung, algorithmische Verstärkung und Folgen außerhalb des Netzes. Die Polizei widerlegte die Behauptungen einen Tag nach ihrem Auftauchen und erklärte, der Verdächtige sei in Großbritannien geboren. Zu diesem Zeitpunkt hatte die Erzählung bereits an Zugkraft gewonnen.

Was ein Desinformationsnetzwerk tatsächlich ist

Der Begriff deckt viel ab. Am einen Ende stehen lose verbundene Konten, die sich auf eine Eilmeldung stürzen. Am anderen kommerzielle Operationen, die Manipulation als Dienstleistung verkaufen, oft Black PR genannt.

BuzzFeed News hat Plattformsperrungen und Ermittlungen von Sicherheitsfirmen ausgewertet. Ergebnis: Seit 2011 wurden mindestens 27 Online-Informationsoperationen teilweise oder vollständig PR- oder Marketingfirmen zugeschrieben. Neunzehn davon allein im Jahr 2019. Der Bericht entstand in Partnerschaft mit dem Reporter, einem investigativen Nachrichtenportal in Taiwan.

Nathaniel Gleicher, bei Facebook Leiter der Cybersicherheitspolitik, sagte BuzzFeed News, die Professionalisierung der Täuschung sei eine wachsende Bedrohung. "Der weitere Begriff der Täuschung und der Einflussoperationen existiert seit einiger Zeit, aber in den vergangenen Jahren haben wir gesehen, dass Unternehmen entstanden sind, die ihr Geschäftsmodell im Grunde auf Täuschung aufbauen", sagte er.

Ein Beispiel: die Archimedes Group, eine israelische Firma, die Netzwerke aus Hunderten Facebook-Seiten, Konten und Gruppen aufbaute. Ihre Website versprach, "jedes Mittel zu nutzen und jeden Vorteil zu ergreifen, um die Realität nach den Wünschen unserer Kunden zu verändern". In Mali betrieb sie eine gefälschte Faktencheck-Seite, die angeblich von örtlichen Studenten betrieben wurde. In Tunesien betrieb sie eine Seite mit dem Titel "Stop a la Desinformation et aux Mensonges". In Nigeria betrieb sie Seiten für und gegen denselben Politiker, den früheren Vizepräsidenten Atiku Abubakar.

Die Pipeline: auslesen, umschreiben, veröffentlichen, verstärken

Peng Kuan Chin, 32 Jahre alt und in Taichung in Taiwan ansässig, zeigte dem Reporter, wie sein System funktioniert. Server durchsuchten das Netz nach chinesischen Artikeln und Beiträgen, ordneten Wörter und Sätze zu neuem Text um und veröffentlichten das Ergebnis auf einer Reihe von Websites, die er kontrollierte. Tausende gefälschte Social-Media-Konten schoben es in Feeds, Messaging-Apps und Suchergebnisse.

"Ich habe das entwickelt, um die öffentliche Meinung zu manipulieren", sagte Peng dem Reporter. Automatisierung und künstliche Intelligenz "können schnell Traffic und Aufmerksamkeit erzeugen, viel schneller als Menschen".

Seine Kunden waren Unternehmen, Marken, Parteien und Kandidaten in Asien. "Kunden haben Geld, und mir ist egal, was sie kaufen", sagte er.

Nicht jede Operation setzt auf eigene Software. In der Ukraine beschäftigte die PR-Firma Pragmatico Dutzende junger, digital versierter Menschen, die auf gefälschten Facebook-Konten positive Kommentare über Kunden veröffentlichten. In Polen betrieb Cat@Net Netzwerke gefälschter Twitter-Konten, die von Beschäftigten mit Behinderungen von zu Hause aus bedient wurden. Die Agentur stellte sie ein, weil sie ihnen unter dem Marktniveau zahlen konnte, während sie staatliche Zuschüsse erhielten. Recherchen von Investigate Europe ergaben zudem, dass Cat@Net für Art-Media arbeitete, eine der bekanntesten PR-Agenturen Polens. Art-Media bestritt eine Zusammenarbeit mit Cat@Net.

Cindy Otis, ehemalige CIA-Offizierin und Autorin von True or False: A CIA Analyst's Guide to Spotting Fake News, sagte BuzzFeed News, Informationsoperationen von Nationalstaaten wie Russland und Iran lieferten "ein Drehbuch für Einzelpersonen und Gruppen, die finanziell motiviert sind", in diesen Bereich einzusteigen.

Wie sich die Southport-Erzählung verbreitete

Der Fall Southport brauchte keinen bezahlten Auftragnehmer. Er brauchte eine Plattform, ein Publikum und eine Geschichte, die zu dem passte, was Teile dieses Publikums ohnehin glaubten.

Joe Ondrak, Leiter Forschung und Technik für Großbritannien bei Logically, sagte CNBC, die falschen Behauptungen seien für einwanderungsfeindliche Gruppen "ein gefundenes Fressen" gewesen. "Es ist wirklich genau das Richtige, um eine viel wütendere Reaktion hervorzurufen, als es sie wahrscheinlich gegeben hätte, wäre die Desinformation nicht verbreitet worden", sagte er.

Ondrak ergänzte, die Meldungen hätten als "Mittel gedient, um bestehende Vorurteile, Voreingenommenheit und Spekulation zu rechtfertigen und zu verstärken, bevor irgendeine gesicherte Wahrheit an die Öffentlichkeit gelangen konnte".

Die Verstärkung erledigte einen Großteil der Arbeit. Rose sagte, Konten mit Hunderttausenden Followern und bezahlten blauen Haken hätten die falschen Informationen geteilt, die Algorithmen der Plattformen sie dann anderen Nutzern ausspielten. "Wenn man zum Beispiel bei TikTok 'Southport' suchte, wurde im Bereich 'Others Searched For', der ähnliche Inhalte empfiehlt, der falsche Name des Täters von der Plattform selbst beworben, auch noch 8 Stunden nachdem die Polizei bestätigt hatte, dass diese Information falsch war", sagte sie.

Die Analyse des ISD ergab, dass die Algorithmen auf X ähnlich arbeiteten, wo der falsche Name als Trendthema erschien. Falsche Behauptungen erreichten auch Telegram, das laut Ondrak Erzählungen bündelt und mehr Menschen "radikaleren Überzeugungen" aussetzt. Telegram teilte CNBC mit, nicht zur Verbreitung von Falschinformationen beizutragen; Moderatoren beobachteten die Lage und entfernten Kanäle und Beiträge, die zu Gewalt aufriefen.

Die Zahlen wurden groß. Ein Bericht des Ausschusses für Wissenschaft, Innovation und Technologie des britischen Unterhauses vom Juli 2025 stellte fest, dass zwischen dem 29. Juli und dem 9. August 2024 falsche oder unbegründete Behauptungen über den Täter von Southport auf X 155 Millionen Impressionen erreichten. In den sozialen Medien insgesamt wurde der falsche Name 420.000 Mal gesehen, bei einer möglichen Reichweite von 1,7 Milliarden Menschen, heißt es in dem Bericht. Er sei direkt von algorithmischen Werkzeugen beworben worden und habe in X' "Trending in the UK" und TikToks "Others searched for" gestanden.

Wenn das Netzwerk den Bildschirm verlässt

Rechtsextreme Gruppen organisierten einwanderungsfeindliche und islamfeindliche Proteste, darunter eine Kundgebung bei der geplanten Trauerfeier für die getöteten Mädchen. Die Unruhen eskalierten zu tagelangen Ausschreitungen. Moscheen, Einwanderungszentren und Hotels mit Asylbewerbern wurden angegriffen.

Zumindest ein Teil der Konten, die zur Teilnahme an den Protesten aufriefen, ließ sich laut einer Analyse von Logically bis in die extreme Rechte zurückverfolgen, darunter einige mit Verbindungen zu National Action, einer verbotenen rechtsextremen Gruppe, die 2016 nach dem britischen Terrorism Act als terroristische Organisation eingestuft wurde. Ondrak merkte außerdem an, dass viele Gruppen, die zuvor falsche Informationen über den Angriff verbreitet hatten, begonnen hätten, davon abzurücken und von einem Hoax zu sprechen.

X-Eigentümer Elon Musk schaltete sich während der Unruhen ein und äußerte kontroverse Bemerkungen über die gewaltsamen Demonstrationen. Der britische Justizminister forderte ihn auf, "verantwortungsvoll zu handeln". TikTok und X antworteten nicht unmittelbar auf die Bitte von CNBC um Stellungnahme.

Am Mittwoch nach den schlimmsten Ausschreitungen gingen in Städten und Gemeinden Großbritanniens Tausende Gegendemonstranten gegen Rassismus auf die Straße, deutlich mehr als die jüngsten einwanderungsfeindlichen Proteste.

Das Problem mit dem Regelwerk

Großbritannien hat einen Online Safety Act, doch seine Reichweite für solche Inhalte ist umstritten. Das Gesetz erhielt im Oktober 2023 die königliche Zustimmung. Die Teile, die soziale Medien dazu verpflichten, Nutzer vor illegalen Inhalten zu schützen, traten am 17. März 2025 in Kraft.

Bei einer Anhörung des Ausschusses für Wissenschaft, Innovation und Technologie am 29. April sagte Baroness Jones of Whitchurch, Staatsministerin im DSIT und im Ministerium für Wirtschaft und Handel, Fehl- und Desinformation seien vom Gesetz erfasst. Mark Bunting, bei Ofcom Direktor für die Umsetzung der Online-Sicherheitsstrategie, sagte, die vorherige Regierung habe rechtmäßiges Material, das für Erwachsene schädlich sein könnte, aus dem Anwendungsbereich des Gesetzes gestrichen, darunter Formen von Falschinformation. Er ergänzte, es gebe "einen kleinen Vorbehalt": Das Gesetz führte einen Straftatbestand der falschen Kommunikation mit Schädigungsabsicht ein, bei dem Unternehmen vernünftige Gründe haben müssen, auf eine Absicht zu schließen.

Die Ausschussvorsitzende Chi Onwurah wies darauf hin, dass sich eine Absicht sehr schwer beweisen lässt. Sie sagte, Ofcom habe keine Pflicht, gegen Falschinformation vorzugehen, selbst wenn die Regelwerke sie behandelten. "Das scheint ein Kernproblem zu sein", sagte sie.

Talitha Rowland, bei DSIT Direktorin für Sicherheit und Online-Schäden, sagte dem Ausschuss, "Fehl- und Desinformation ist nicht eine einzige Sache". Sie könne illegal sein, ausländische Einflussnahme, Inhalt, der zu Hass oder Gewalt anstiftet, oder Inhalt unterhalb der Illegalitätsschwelle, der für Kinder dennoch schädlich ist.

Bis Juli fiel der Bericht des Ausschusses deutlicher aus. Darin heißt es, das Gesetz gehe die algorithmische Verstärkung "rechtmäßiger, aber schädlicher Inhalte" nicht an und lasse die Öffentlichkeit anfällig für eine Wiederholung des vorigen Sommers. "Es ist klar, dass der Online Safety Act einfach nicht ausreicht", sagte Onwurah. Der Ausschuss drängte die Regierung, fünf Prinzipien für die künftige Regulierung zu übernehmen, vom Schutz der freien Meinungsäußerung bis zur Verantwortung der Plattformen für Inhalte, die sie online stellen.

Eine weitere Feinheit: Die Werkzeuge, mit denen dieses Material verbreitet wird, verändern sich. Grokipedia, im Oktober 2025 von Musk gestartet, nutzt KI, um Inhalte mit wenig menschlicher Aufsicht auszulesen und umzuwandeln, schrieb Andrew Orlowski in UnHerd. Frühe Berichte über Version 0.1 vermerkten KI-generierte Falschheiten und abwertende Passagen, die "im Namen der Genauigkeit" eingefügt wurden. Orlowski argumentiert, große Sprachmodelle seien "statistische Wortvervollständigungsmaschinen, die halluzinieren, und diese Halluzinationen sind endemisch".

Kommentare 0

Quellen

5
  1. 01Online disinformation sparked a wave of far-right violence in the UKEN
  2. 02Disinformation For Hire: How A New Breed Of PR Firms Is Selling Lies OnlineEN
  3. 03Does the Online Safety Act cover misinformation? Well, that dependsEN
  4. 04UK Online Safety Act 'not up to scratch' on misinformation, warn MPsEN
  5. 05Grokipedia is another form of online disinformationEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.