Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Wie Desinformationsnetzwerke arbeiten: vier Fälle, ein Muster

Ein Making-of-Clip aus einem palästinensischen Kurzfilm bekam eine neue Bildunterschrift, um zu belegen, dass Israel Opfer vortäuscht. Auf X erreichte er rund 2 m Aufrufe. Er war ein Knoten in einem industriell betriebenen System, das Falschinformationen in kurzer Zeit herstellt.

Medien & InternetAnalyseKatrin HoffmannVeröffentlicht: 28. September 20269 Min. LesezeitQuellen 6
Wie Desinformationsnetzwerke arbeiten: vier Fälle, ein Muster

Das Video zeigte einen Jungen in einem schwarzen T-Shirt, der in einer Blutlache lag. Eine Kamera schwebte über ihm, ein Mann rief Anweisungen. Männer mit Kippa standen herum, ebenso Männer in grünen Uniformen, die denen der IDF glichen. Ein verifizierter Nutzer teilte das Video auf X mit der Bildunterschrift „Video showing Israel attempting to create fake footage of deaths“. Laut Guardian erreichte es rund 2 m Aufrufe. Der Clip war eine Making-of-Aufnahme aus dem palästinensischen Kurzfilm Empty Place. Er scheint zuerst auf TikTok aufgetaucht und dann zu X gewandert zu sein. Der Nutzer hinter dem Beitrag räumte später ein, der Clip könne aus dem Zusammenhang gerissen verwendet worden sein.

Der Guardian berichtete im Oktober 2023 über diesen Fall. Er ist ein brauchbares Beispiel, weil jede Etappe dokumentiert ist.

Desinformationsnetzwerke sind keine einheitliche Sache. Sie bestehen aus wiederholbaren Mechanismen. Man sucht Rohmaterial, das sich neu einordnen lässt. Man schiebt es durch Konten, die Reichweite haben. Die Verteilung übernimmt das Ranking der Plattform. Und man verlässt sich darauf, dass Korrekturen spät kommen und schlecht reisen. Die Analyse umfasst vier verschiedene Operationen in vier Ländern, angetrieben von vier unterschiedlichen Motivlagen. Die Mechanik überschneidet sich stärker als die Politik.

Wiederverwendetes Material, neu etikettiert

Ein weiteres Video, ebenfalls von TikTok und dort inzwischen nicht mehr verfügbar, wollte hochrangige israelische Generäle zeigen, die von der Hamas gefangen genommen wurden. Auf X kam es auf 2 m Aufrufe. Der Staatssicherheitsdienst Aserbaidschans hatte es zuerst auf seinem offiziellen YouTube-Kanal veröffentlicht. Es zeigte verhaftete frühere Anführer der abtrünnigen Regierung von Bergkarabach. Ein gefälschtes Dokument, das nahelegte, Joe Biden habe Israel Unterstützung in Höhe von 8.000.000.000 Dollar gewährt, wurde auf X 400.000 Mal angesehen. Es war eine bearbeitete Fassung von Bidens Juli-Memo, das 400.000.000 Dollar Hilfe für die Ukraine ankündigte. Ein solches Dokument gibt es weder auf der Website des Weißen Hauses noch in den sozialen Medien. Das Weiße Haus bestätigte gegenüber NBC, dass das Dokument gefälscht war.

Nichts davon verlangte technische Raffinesse. Es verlangte ein Publikum, das bereit war, die Behauptung zu glauben, und eine Plattform, die sie weitertrug.

Russland verbreitet seit Langem Desinformation auf X und hat den Konflikt offenbar ausgenutzt. Am Montag schrieb Dmitri Medwedew, früherer russischer Präsident und stellvertretender Vorsitzender des russischen Sicherheitsrats, auf X: „Well, Nato buddies, you've really got it, haven't you? The weapons handed to the Nazi regime in Ukraine are now being actively used against Israel.“ Ein X-Konto mit Verbindung zur Söldnergruppe Wagner veröffentlichte ein Video, das angeblich zeigt, wie die Hamas der Ukraine für Waffenverkäufe dankt. Es wurde mehr als 300.000 Mal angesehen und von rechtsextremen US-Konten weiterverbreitet. Im Februar meldete das Inspector General des Pentagon, es gebe bis dahin keine Belege dafür, dass Waffen und Hilfsgüter für die Ukraine an Dritte abgeflossen seien. Der ukrainische Geheimdienst beschuldigte Russland diese Woche, bei der Hamas „Trophäen“-Waffen aus ukrainischen Kampfgebieten platziert zu haben, um die Unterstützung für Kyjiw zu untergraben. Eliot Higgins von Bellingcat machte auf ein gefälschtes BBC-Video aufmerksam, das angeblich eine Bellingcat-Untersuchung zu ukrainischem Waffenschmuggel an die Hamas zeigte. Russische Social-Media-Nutzer verbreiteten es. Higgins sagte, es sei unklar, ob es sich um eine staatliche Kampagne oder eine Basisinitiative handele.

Wenn die Lüge den Bildschirm verlässt

Im Juli 2024 wurden in Southport in Großbritannien drei junge Mädchen bei einem Messerangriff getötet. Innerhalb von Stunden gewannen falsche Informationen über Name, Religion und Migrationsstatus des Täters erhebliche Reichweite. Sie lösten tagelange gewaltsame Ausschreitungen im ganzen Land aus. Hannah Rose, Analystin für Hass und Extremismus am Institute for Strategic Dialogue, sagte gegenüber CNBC, ein Beitrag auf X habe den Täter fälschlich als „Ali al-Shakati“ benannt, angeblich ein Migrant muslimischen Glaubens. Bis 15 Uhr des folgenden Tages hatte der falsche Name allein auf X über 30.000 Erwähnungen.

Andere falsche Behauptungen besagten, der Täter stehe auf einer Beobachtungsliste eines Geheimdienstes. Er sei 2023 mit einem kleinen Boot nach Großbritannien gekommen und den örtlichen psychiatrischen Diensten bekannt gewesen, heißt es in der Analyse des ISD. Die Polizei widerlegte die Behauptungen einen Tag nach ihrem Auftauchen und erklärte, der Verdächtige sei in Großbritannien geboren. Da hatte die Erzählung bereits Zugkraft.

Joe Ondrak, Leiter Forschung und Technik für Großbritannien bei Logically, sagte gegenüber CNBC, die falschen Berichte hätten als „a way to rationalize and reinforce pre-existing prejudice and bias and speculation before any sort of established truth could get out there“ gewirkt. Er nannte das Material „catnip“ für einwanderungsfeindliche Gruppen: „It's really the exact right thing to say to provoke a much angrier reaction than there likely would have been were the disinformation not circulated.“

Die Verteilungsseite zählt ebenso viel wie die Behauptung. Rose sagte, Konten mit Hunderttausenden Followern hätten die falschen Informationen geteilt, ebenso die bezahlten blauen Haken auf X. Die Algorithmen der Plattform spielten sie dann anderen Nutzern zu. Als Nutzer auf TikTok nach „Southport“ suchten, bewarb die Plattform selbst im Bereich „Others Searched For“ den falschen Namen des Täters. Das galt auch acht Stunden, nachdem die Polizei bestätigt hatte, dass die Information falsch war. Das ISD fand ähnliches algorithmisches Verhalten auf X, wo der falsche Name trendete. Die Behauptungen erreichten auch Telegram. Ondrak sagte, die Plattform festige Erzählungen und setze mehr Menschen „more hardline beliefs“ aus. Telegram bestritt, zur Verbreitung von Falschinformationen beizutragen. Moderatoren beobachteten die Lage und entfernten Kanäle und Beiträge, die zu Gewalt aufriefen; das sei nach den Nutzungsbedingungen nicht erlaubt. Einige Konten, die zur Teilnahme an Protesten aufriefen, ließen sich laut Logically bis zur extremen Rechten zurückverfolgen. Darunter waren einige mit Verbindungen zur verbotenen Gruppe National Action, die 2016 nach dem britischen Terrorism Act als terroristische Organisation eingestuft wurde.

Die größte bekannte Operation

Der Maßstab verändert das Bild. Eine Auswertung von CNN von Gerichtsdokumenten und öffentlichen Angaben der Social-Media-Unternehmen ergab, dass die chinesische Regierung die größte bekannte Online-Desinformationsoperation der Welt aufgebaut hat. Sie nutzt sie, um US-Bürger, Politiker und Unternehmen zu belästigen und Ziele mitunter mit Gewalt zu bedrohen. Das Netzwerk mit den Namen „Spamouflage“ oder „Dragonbridge“ betreibt Hunderttausende Konten auf jeder großen Social-Media-Plattform. Das US-Außenministerium beschreibt die Taktiken als Teil eines breiteren milliardenschweren Vorhabens, das Informationsumfeld der Welt zu formen und Kritiker Pekings zum Schweigen zu bringen. Es sei unter Präsident Xi Jinping ausgeweitet worden.

Betroffene beschrieben einen Hagel von Zehntausenden Beiträgen, die sie als Verräter, Hunde und mit rassistischen und homophoben Beschimpfungen belegten. Einige wandten sich an Strafverfolgungsbehörden einschließlich des FBI, doch es geschah wenig, berichtete CNN. Die Plattformen haben Tausende Konten abgeschaltet, die diese Betroffenen angriffen, kommen aber gegen die täglich neu auftauchenden nicht an. Meta erklärte im August, allein im zweiten Quartal 2023 einen Verbund von fast 8.000 Konten entfernt zu haben, die der Gruppe zugeordnet werden. Google teilte CNN mit, in den vergangenen Jahren mehr als 100.000 zugehörige Konten abgeschaltet zu haben. X hat Hunderttausende Konten chinesischer „staatlicher“ oder „staatsnaher“ Herkunft gesperrt, wie aus Unternehmensblogs hervorgeht.

Private Forscher verfolgen das Netzwerk seit seiner Entdeckung vor mehr als vier Jahren. Erst in den vergangenen Monaten kamen Bundesstaatsanwälte und Meta öffentlich zu dem Schluss, die Operation habe Verbindungen zur chinesischen Polizei. Der Abgeordnete Mike Gallagher, Vorsitzender des House Select Committee on the CCP, sagte gegenüber CNN: „We might think that this is confined to certain chatrooms, or this platform or that platform, but it's expanding across the board. And it's only a matter of time before it happens to that average American citizen who doesn't think it's their problem right now.“

Chen Pokong, ein in New York lebender Aktivist, erlebte im Januar 2021, wie Trolle eine von ihm organisierte Zoom-Veranstaltung gegen den Kommunismus störten. Sie verspotteten die Teilnehmer und drohten, einem Betroffenen werde es „die miserably“ ergehen. Seine Vermutungen, wer dahintersteckte, verfestigten sich Anfang dieses Jahres. Das Justizministerium erhob dann Anklage gegen mehr als 30 chinesische Funktionäre wegen einer weitverzweigten Desinformationsoperation gegen Regimekritiker in den USA, darunter Menschen aus jener Zoom-Runde.

Was die Öffentlichkeit sagt

Die öffentliche Sorge ist nicht randständig. Eine von der Unesco in Auftrag gegebene Ipsos-Umfrage erfasste 8.000 Menschen in 16 Ländern, die nationale Wahlen abhalten sollten, mit insgesamt 2.500.000.000 Wählern. Sie ergab, dass 85% die Wirkung von Online-Desinformation fürchteten. 87% sagten, sie habe bereits großen Einfluss auf das nationale politische Leben gehabt. 56% der Internetnutzer bezogen ihre Nachrichten vor allem aus sozialen Medien, mehr als aus dem Fernsehen (44%) oder von Medienseiten (29%). Das Vertrauen in soziale Medien lag bei 50%, gegenüber 66% für Fernsehen, 63% für Radio und 57% für Medienwebsites und -apps. In allen 16 Ländern sagten 68%, Falschnachrichten seien in sozialen Medien am weitesten verbreitet, vor Messaging-Apps mit 38%.

Audrey Azoulay, Generaldirektorin der Unesco, sagte vor Reportern, Falschinformationen und Hassrede im Netz, beschleunigt und verstärkt durch die Plattformen, stellten „major risks to social cohesion, peace and stability“ dar. Regulierung sei dringend nötig, „to protect access to information ... while at the same time protecting freedom of expression and human rights“. Der Unesco-Plan stützt sich auf sieben Prinzipien aus einer nach ihren Angaben beispiellosen Konsultation mit mehr als 10.000 Beiträgen aus 134 Ländern über 18 Monate. Guilherme Canela de Souza Godoi, Leiter der Unesco-Sektion für Meinungsfreiheit, sagte, mehr als 50 Länder regulierten soziale Medien bereits, oft nicht im Einklang mit internationalen Normen für Meinungsfreiheit und Menschenrechte. Die Unesco plant für 2024 eine Weltkonferenz der Regulierungsbehörden.

Auch die Regulierung hat ihre eigene Debatte. Senator Sheldon Whitehouse hat laut Reclaim The Net gefordert, Section 230 des Communications Decency Act aufzuheben und durch eine engere Fassung zu ersetzen, die die „disclosure of disinformation funders“ erzwingen würde. Whitehouse argumentiert, das Haftungsrisiko könne Unternehmen dazu bringen, gegen Falschinformationen vorzugehen, selbst auf Kosten der Interaktion. Kritiker halten dagegen, die meisten Desinformationen würden als geschützte Meinungsäußerung enden.

Keine dieser Debatten ändert die operative Rechnung. Der Bericht des Guardian über X hält fest, dass Musk nach seiner Übernahme 2022 den Trust and Safety Council der Plattform auflöste. Das Unternehmen erklärte, es wolle das Team neu aufstellen, doch die Pläne bleiben unklar. X führte Community Notes ein, ein Programm zur Moderation durch die Nutzer, das viel Verantwortung auf sie verlagert statt auf angestellte Moderatoren. Die Union of Concerned Scientists berichtete unter Berufung auf das Center for Countering Digital Hate, X „continues to host nearly 86% of a set of 300 hateful posts after a week since we reported them“. Der Forscher Abbie Richards fand, dass Tweets zur Klimaleugnung von durchschnittlich 30.000 pro Woche zwischen Dezember 2021 und Juli 2022 auf fast 110.000 pro Woche nach Juli 2022 stiegen.

Das Muster ist in allen vier Fällen dasselbe. Eine Behauptung wird hergestellt oder wiederverwendet. Sie wird über Konten mit Reichweite gestreut. Systeme, die auf Interaktion ausgelegt sind, stufen sie nach oben. Die Korrektur kommt nach dem Schaden. Wie der Fall Southport zeigt, kann sie innerhalb eines Tages eintreffen. Die Ausschreitungen fanden trotzdem statt.

Kommentare 0

Quellen

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass AmericansEN
  5. 05Senator Sheldon Whitehouse: Repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.