Anatomie eines Online-Desinformationsnetzwerks: was vier dokumentierte Fälle zeigen
Ein Making-of-Clip aus einem palästinensischen Kurzfilm, neu verpackt als Beweis dafür, dass Israel falsche Todesfälle inszeniert, erreichte auf X rund zwei Millionen Aufrufe. Forscher und Redaktionen führten mehrere solche Falschbehauptungen auf identifizierbare Netzwerke zurück, nicht auf spontane Fehler von Nutzern.

Die Desinformationsforschung bekommt selten einen sauberen Blick auf die Maschinerie eines Netzwerks. Zwischen Oktober 2023 und August 2024 lieferten mehrere Fälle genau das: dokumentierte Falschbehauptungen, messbare Reichweite und namentlich bekannte Akteure. Zusammen zeigen sie, wie moderne Einflussoperationen aufgebaut, verstärkt und monetarisiert werden.
Das deutlichste Beispiel stammt aus den ersten Tagen des Kriegs zwischen Israel und der Hamas. Laut Guardian zeigte ein Video einen Jungen in schwarzem T-Shirt, der in scheinbarem Blut liegt, umgeben von einer Kamera und Männern mit Kippa und grünen Uniformen. Es wurde auf X mit der Bildunterschrift "Video showing Israel attempting to create fake footage of deaths" veröffentlicht und etwa zwei Millionen Mal angesehen. Tatsächlich handelte es sich um eine Making-of-Aufnahme aus Empty Place, einem palästinensischen Kurzfilm über die Leere, die Palästinenser nach der Flucht vor der israelischen Besatzung hinterlassen. Der Nutzer, der den Clip veröffentlichte, räumte später ein, er könne aus dem Zusammenhang gerissen worden sein.
Das war kein Einzelfall.
Ein zweites Video, ebenfalls von TikTok, wollte zeigen, wie hochrangige israelische Generäle von der Hamas gefangen genommen wurden. Auf X sammelte es zwei Millionen Aufrufe. Die Aufnahmen stammten in Wahrheit vom offiziellen YouTube-Kanal des aserbaidschanischen Inlandsgeheimdienstes. Sie zeigten festgenommene frühere Anführer der abtrünnigen Regierung von Bergkarabach. Ein gefälschtes Memorandum, das Joe Biden 8.000.000.000 Dollar Hilfe für Israel zuschrieb, wurde 400.000 Mal angesehen. Laut Guardian handelte es sich um eine bearbeitete Version von Bidens Memorandum vom Juli, in dem er 400.000.000 Dollar Unterstützung für die Ukraine ankündigte. Das Weiße Haus bestätigte gegenüber NBC, dass das Dokument gefälscht war. Ein viertes Video, das angeblich zeigte, wie die Hamas der Ukraine für Waffen dankt, veröffentlichte ein mit der russischen Söldnergruppe Wagner verbundenes Konto. Es wurde mehr als 300.000 Mal angesehen.
Die Mechanik zählt ebenso viel wie die Falschbehauptungen. Auf X wurde der Trust and Safety Council nach Elon Musks Übernahme 2022 aufgelöst. Seither setzt das Unternehmen auf Community Notes, ein Programm zur Moderation durch die Nutzer selbst, das ihnen die Korrektur von Fakten überlässt. Die Europäische Kommission schickte Musk am Dienstag einen Brief und warnte ihn wegen angeblicher Desinformation über den Hamas-Angriff, darunter Falschnachrichten und "wiederverwendete alte Bilder". Laut Guardian kooperiert X mit der Auskunftsanfrage der EU.
Pat de Brún von Amnesty Tech sagte dem Guardian, Plattformen wie Meta und X hätten "klare Verantwortlichkeiten nach internationalen Menschenrechtsstandards". In Krisen- und Konfliktzeiten wüchsen diese Pflichten. "Doch allzu oft haben große Tech-Konzerne es versäumt, in solchen Notlagen einzugreifen", sagte de Brún der Zeitung zufolge.
Die Unruhen in Großbritannien im August 2024 zeigten, was passiert, wenn solche Versäumnisse auf eine aufgeladene lokale Geschichte treffen. Nachdem im Juli in Southport drei junge Mädchen getötet worden waren, verbreiteten sich innerhalb von Stunden Falschbehauptungen über Name, Religion und Migrationsstatus des Täters. Hannah Rose vom Institute for Strategic Dialogue sagte gegenüber CNBC, ein Beitrag auf X habe den Täter fälschlich als "Ali al-Shakati" benannt, angeblich ein Migrant muslimischen Glaubens. Bis 15 Uhr am folgenden Tag kam der falsche Name allein auf X auf über 30.000 Erwähnungen. Die Polizei widerlegte die Behauptungen einen Tag nach ihrem Auftauchen und erklärte, der Verdächtige sei in Großbritannien geboren. Doch die Erzählung hatte bereits Fahrt aufgenommen.
Ein Teil der Arbeit kam von algorithmischen Empfehlungen. Rose sagte, als Nutzer auf TikTok nach "Southport" suchten, habe der Bereich "Others Searched For" den falschen Namen des Angreifers beworben. Das galt auch acht Stunden, nachdem die Polizei die Informationen als falsch bestätigt hatte. Beim ISD zeigten sich ähnliche Effekte auf X, wo der Name trendete.
Joe Ondrak von Logically sagte gegenüber CNBC, die Falschmeldungen hätten als "Mittel gewirkt, um bestehende Vorurteile, Voreingenommenheit und Spekulation zu rationalisieren und zu verstärken, bevor irgendeine gesicherte Wahrheit an die Öffentlichkeit gelangen konnte". Er nannte solche Behauptungen "Katzenminze" für einwanderungsfeindliche Gruppen: "Es ist genau das Richtige, um eine viel wütendere Reaktion hervorzurufen, als es sie ohne die Verbreitung der Desinformation wahrscheinlich gegeben hätte."
Telegram spielte laut Ondrak eine konsolidierende Rolle. Die Plattform habe Behauptungen in Kanäle geleitet, die als impfgegnerische Gemeinschaften begannen und von rechtsextremen Akteuren übernommen wurden. Telegram bestritt, zur Verbreitung von Falschinformationen beizutragen. Die Moderatoren des Dienstes entfernten Kanäle und Beiträge, die zu Gewalt aufriefen. Die Analyse von Logically führte mindestens einige Konten, die zur Teilnahme an Protesten aufriefen, zur extremen Rechten zurück. Darunter waren Verweise auf National Action, die 2016 nach dem britischen Terrorism Act als terroristische Organisation verboten wurde.
Chinas Operation ist größer und industrieller. CNN berichtete im November 2023, die chinesische Regierung habe die weltweit größte bekannte Online-Desinformationsoperation aufgebaut. Sie ist als "Spamouflage" oder "Dragonbridge" bekannt, mit Hunderttausenden Konten, die eingesetzt werden, um in den USA lebende Menschen, Politiker und Unternehmen zu belästigen. Meta erklärte, allein im zweiten Quartal 2023 einen Verbund von fast 8.000 Konten entfernt zu haben. Google teilte CNN mit, in den vergangenen Jahren mehr als 100.000 zugehörige Konten gesperrt zu haben. X erklärte, Hunderttausende "staatsgestützte" oder "staatlich verbundene" Konten Chinas blockiert zu haben. Das US-Außenministerium beschrieb die Taktiken als Teil eines breiteren, milliardenschweren Vorhabens zur Gestaltung des globalen Informationsumfelds.
Die öffentliche Sorge ist groß, auch wenn sie nicht immer gut informiert ist. Eine von der Unesco in Auftrag gegebene Ipsos-Umfrage unter 8.000 Menschen in 16 Ländern, die 2024 Wahlen abhalten sollten, ergab, dass 85 Prozent den Einfluss von Online-Desinformation fürchten. 87 Prozent sagten, er habe der Politik ihres Landes bereits geschadet. Soziale Medien waren für 56 Prozent der Internetnutzer die wichtigste Nachrichtenquelle, vor dem Fernsehen mit 44 Prozent, obwohl das Vertrauen in sie geringer ist: 50 Prozent gegenüber 66 Prozent beim Fernsehen.
Die Antwort der Unesco war ein Governance-Entwurf mit sieben Prinzipien, entstanden aus mehr als 10.000 Beiträgen aus 134 Ländern über 18 Monate. Guilherme Canela de Souza Godoi, Leiter der Sektion für Meinungsfreiheit der Organisation, merkte an, dass mehr als 50 Länder soziale Medien bereits regulieren, oft außerhalb internationaler Normen zur Meinungsfreiheit. Für 2024 war eine Weltkonferenz der Regulierungsbehörden geplant.
Was die vier Fälle verbindet, ist eher ein Muster als ein einzelner Akteur: altes Filmmaterial, wiederverwertete Dokumente, eine Handvoll reichweitenstarker Konten und Empfehlungssysteme, die Falschbehauptungen sichtbar halten, nachdem Korrekturen eingetroffen sind. Die Reichweite lässt sich messen. Die Aufräumarbeit bisher nicht.
Quellen
4- 01How Israel-Hamas war disinformation is being spread onlineEN
- 02Online disinformation sparked a wave of far-right violence in the UKEN
- 03China is using the world's largest online disinformation operation to harass AmericansEN
- 0485% of people worry about online disinformation, global survey findsEN
Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.
Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.
Kommentare
0- Noch keine Kommentare — seien Sie der Erste.