Desinformationsnetzwerke aufspüren: Neuer Leitfaden beschreibt Vier-Stufen-Methode

Der Leitfaden kommt aus dem Projekt Exposing the Invisible. Er beschreibt Desinformation als zunehmend organisiert in "Netzwerkinfrastrukturen", die auf koordinierte Manipulation und Täuschung angelegt sind. Der Leitfaden führt die Leser durch eine Vier-Stufen-Methode, mit der sich solche Netzwerke über Sprachen und Kontexte hinweg entdecken, kartieren und verfolgen lassen.

Im Kern geht es um die Unterscheidung zwischen Faktenprüfung und Netzwerkanalyse. Die Faktenprüfung prüft einen einzelnen Gegenstand: ein Foto, ein Video, eine Nachrichtengeschichte. Die Netzwerkverfolgung sieht sich an, was diesen Gegenstand umgibt: die Websites, die Konten, den Weg der Verstärkung. Der Leitfaden nennt das einen Wechsel vom Text zum Kontext. Die Methode sei zeitaufwendiger, aber besser geeignet, Akteure zu identifizieren, die über den Verfasser eines einzelnen Beitrags hinausgehen.

Die vier Schritte und warum sie sich wiederholen

Der Leitfaden stellt die vier Schritte der besseren Lesbarkeit wegen nacheinander vor und warnt dann, dass echte Untersuchungen rekursiv verlaufen. "Viele Schritte werden rekursiv sein, und deshalb wird es nötig sein, von einem Schritt zum nächsten nicht der Reihe nach zu wechseln", heißt es dort. Jeder Schritt enthält drei Unterabschnitte, die im Leitfaden mit verschiedenfarbigen Balken markiert sind.

Der Leitfaden benennt außerdem ein Terminologieproblem, über das beiläufige Leser stolpern. Nicht jeder, der in eine Desinformationskampagne gerät, weiß, dass er Teil einer solchen ist. Wo Beteiligte nichts davon ahnen, verwenden Fachleute laut Leitfaden den Begriff Fehlinformation statt Desinformation. Wer diese Unterscheidung in der Öffentlichkeit falsch trifft, kann gewöhnliche Nutzer zu Agenten erklären.

Der Leitfaden stützt sich auf eine Definition aus dem Media Manipulation Casebook am Shorenstein Center on Media, Politics and Public Policy. Danach ist Medienmanipulation ein Vorgang, bei dem Akteure "spezifische Bedingungen oder Merkmale innerhalb eines Informationsökosystems" nutzen, um Aufmerksamkeit zu erzeugen und den öffentlichen Diskurs mit täuschenden, kreativen oder unfairen Mitteln zu beeinflussen. Der Leitfaden merkt an, dass die Europäische Union die Abkürzung FIMI eingeführt hat, für foreign information manipulations and interference, und beschreibt sie als strategisch, koordiniert und absichtlich.

Mazedonische Teenager, italienische Websites, KI-generierte Nachrichten

Nicht jedes Netzwerk hat einen politischen Auftraggeber. Der Leitfaden verweist auf wirtschaftliche Motive, darunter die Monetarisierung über Werbung, und nennt das Netzwerk von Websites, das während der US-Wahlen 2016 von einer Gruppe Teenager aus einer kleinen Stadt in Mazedonien betrieben wurde. Er erwähnt außerdem einen Fall, an dem der Autor in Italien arbeitete und der zur Entdeckung eines Netzwerks von Websites in einer sehr kleinen Stadt in Süditalien führte.

Weitere Beispiele sind die Berichterstattung von Buzzfeed News darüber, wie eines der größten alternativen Mediennetzwerke Italiens Falschinformationen gegen Einwanderer auf Facebook verbreitete, sowie die Arbeit des Poynter Institute über eine Website, die sich als Faktenprüfungsredaktion ausgab, um in Brasilien Falschnachrichten zu veröffentlichen. Zur generativen KI zitiert der Leitfaden ein Netzwerk von 125 unzuverlässigen, KI-generierten Nachrichtenseiten, das NewsGuard aufgedeckt hat. Er erwähnt außerdem russische "Trollfabrik"-Aktionen und das, was er als bekannte pro-chinesische oder pro-indische Desinformationsnetzwerke bezeichnet.

Der Leitfaden zitiert Whitney Phillips und Ryan M. Milner aus "You Are Here: A Field Guide for Navigating Polarized Speech, Conspiracy Theories, and Our Polluted Media Landscape". Die beiden schreiben, "verschmutzte Informationen erscheinen nie einfach so", und Forscher sollten das, was sie finden, triangulieren. Die zitierte Passage nennt drei mögliche Wurzeln solcher Verschmutzung: wirtschaftliche, zwischenmenschliche und ideologische.

"Die erste Aufgabe ist, unsere jeweiligen 'You are here'-Aufkleber auf der Netzwerkkarte zu triangulieren (…) Der Blick hinunter auf die Wurzeln unter unseren Füßen hilft uns nachzuvollziehen, woher verschmutzte Informationen kamen und wie sie dorthin gelangten."

Warum die Netzwerkperspektive zählt

Wie nützlich eine Analyse auf Netzwerkebene ist, zeigt sich im Nachgang konkreter Vorfälle. Im Juli 2024 wurden in der britischen Stadt Southport drei junge Mädchen getötet. Laut CNBC verbreiteten sich innerhalb von Stunden falsche Behauptungen über Name, Religion und Migrationsstatus des Angreifers. Hannah Rose, Analystin für Hass und Extremismus am Institute for Strategic Dialogue, sagte CNBC, ein Beitrag auf X habe den Täter fälschlich "Ali al-Shakati" genannt. Bis 15 Uhr des folgenden Tages habe der falsche Name allein auf X über 30.000 Erwähnungen gehabt.

Die Polizei widerlegte die Behauptungen einen Tag nach ihrem Auftauchen und erklärte, der Verdächtige sei in Großbritannien geboren. Laut CNBC hatte die Erzählung aber bereits Zugkraft gewonnen. Rechtsextreme Gruppen organisierten anti-migrantische und anti-islamische Proteste, die zu tagelangen Ausschreitungen mit Angriffen auf Moscheen, Einwanderungszentren und Hotels mit Asylbewerbern eskalierten. Rose sagte, als Nutzer auf TikTok nach "Southport" suchten, habe die Plattform selbst den falschen Namen des Angreifers im Bereich "Others Searched For" beworben, auch noch acht Stunden, nachdem die Polizei bestätigt hatte, dass er falsch war.

Joe Ondrak, Research and Tech Lead für Großbritannien bei Logically, sagte CNBC, solche falschen Behauptungen dienten dazu, bestehende Vorurteile zu rationalisieren, bevor gesicherte Fakten vorliegen. Telegram bestritt gegenüber CNBC, zur Verbreitung von Falschinformationen beizutragen, und erklärte, die Moderatoren beobachteten die Lage und entfernten Kanäle und Beiträge, die zu Gewalt aufriefen.

Andere dokumentierte Aktionen sind größer und dauerhafter. CNN hat Gerichtsunterlagen und öffentliche Angaben der Social-Media-Unternehmen geprüft. Das Ergebnis: Die chinesische Regierung hat nach Einschätzung von CNN die größte bekannte Online-Desinformationsoperation der Welt aufgebaut und nutzt sie, um in den USA lebende Menschen, Politiker und Unternehmen zu belästigen. Meta habe erklärt, allein im zweiten Quartal 2023 einen Verbund von fast 8.000 Konten entfernt zu haben, die der Gruppe zugerechnet werden. Google habe CNN gesagt, in den vergangenen Jahren mehr als 100.000 zugehörige Konten geschlossen zu haben. X habe Hunderttausende staatlich unterstützte oder mit dem Staat verbundene chinesische Konten blockiert.

Das US-Außenministerium sagte CNN, die Taktiken seien Teil einer breiteren, milliardenschweren Anstrengung, das Informationsumfeld der Welt zu prägen und Kritiker Pekings zum Schweigen zu bringen. Das Netzwerk ist als "Spamouflage" oder "Dragonbridge" bekannt.

Regionale Wellen folgen demselben Muster. Balkan Insight berichtete, dass im Oktober 2023 während des Israel-Hamas-Konflikts falsche Behauptungen auf dem Balkan die Runde machten, darunter die haltlose Behauptung, Israel habe die orthodoxe Kirche St. Porphyrius in Gaza absichtlich bombardiert, was später von Faktenprüfern wie AP und AFP widerlegt wurde. Im Kosovo kursierte am 20. Oktober ein manipuliertes Bild, das nahelegte, Fans von Atlético Madrid hätten eine palästinensische Flagge gezeigt. Eine genauere Prüfung zeigte laut Balkan Insight, dass es mit KI-Technik digital gefälscht worden war.

Der Schlussfall des Leitfadens ist einfacher. Eine Studie von Bildungswissenschaftlern der UC Riverside und der USC, veröffentlicht in der Zeitschrift New Media & Society, ergab, dass schwarze und lateinamerikanische Teenager deutlich mehr Kompetenzen in digitaler Medienbildung angaben, etwa das Erkennen von Online-Desinformation, als ihre weißen Altersgenossen, besonders bei Inhalten zu Rasse und Ethnizität. Avriel Epps, Assistenzprofessorin an der School of Education der UC Riverside und Hauptautorin, sagte, die Fähigkeiten entstanden in vielen Fällen aus eigener Erfahrung im Umgang mit Online-Rassismus und nicht aus schulischer Unterweisung.

Dieses Ergebnis widerspricht einer Studie der Stanford History Education Group, heute Digital Inquiry Group, aus dem Jahr 2021, in der schwarze Schüler bei der Analyse realer digitaler Medien deutlich schlechter abschnitten als andere rassisch-ethnische Gruppen. Die UCR-Studie merkt an, dass die frühere Untersuchung Reaktionen im Zusammenhang mit Rasse oder Rassismus nicht geprüft habe.