Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

In den Netzen der Desinformation: von Southport bis Spamouflage

Ein Making-of-Clip aus einem palästinensischen Kurzfilm, erneut gepostet als Beweis dafür, dass Israel Opfer inszeniert, erreichte auf X innerhalb weniger Tage nach dem Hamas-Angriff vom 7. Oktober rund zwei Millionen Aufrufe. Er war eine der ersten viralen Fälschungen eines Krieges, der immer neue hervorbrachte, und er zeigte das Muster, nach dem Desinformationsnetze heute arbeiten.

Medien & InternetAnalyseKatrin HoffmannVeröffentlicht: 28. September 202610 Min. LesezeitQuellen 6
In den Netzen der Desinformation: von Southport bis Spamouflage

Der Clip zeigte einen Jungen in einem schwarzen T-Shirt, der in einer Blutlache lag, über ihm eine Kamera, daneben ein Mann, der Anweisungen brüllte. Männer mit Kippa und Männer in grünen Kampfanzügen, die an IDF-Uniformen erinnerten, standen herum. Ein verifizierter X-Nutzer teilte das Video mit der Bildunterschrift: „Video zeigt Israel beim Versuch, gefälschtes Material über Todesfälle zu produzieren.“ Der Guardian identifizierte das Material als Making-of-Aufnahme aus Empty Place, einem palästinensischen Kurzfilm über die Leere, die palästinensische Flüchtlinge hinterlassen haben, die vor der israelischen Besatzung flohen. Es begann auf TikTok und wanderte zu X. Der ursprüngliche TikTok-Post ist nicht mehr verfügbar, die umgedeutete Version lief weiter und sammelte Aufrufe. Der Nutzer hinter dem Post mit zwei Millionen Aufrufen räumte später ein, der Clip könne aus dem Zusammenhang gerissen worden sein.

An dieser Geschichte zählt weniger, was sie über ein einzelnes Video sagt, als was sie über die Lieferkette sagt. Echtes Material, vom Kontext befreit, wird zum Beleg für eine Behauptung, die es nie stützen sollte. Die Korrektur kommt, wenn überhaupt, spät und verbreitet sich schlecht.

Netzwerke, keine Einzeltäter

Innerhalb weniger Tage nach dem Angriff vom 7. Oktober war X voll mit ähnlichem Material. Ein zweites Video, ebenfalls von TikTok und dort inzwischen verschwunden, kam auf X auf zwei Millionen Aufrufe. Es sollte hochrangige israelische Generäle zeigen, die Hamas-Kämpfer gefangen genommen hätten. Tatsächlich hatte der staatliche Sicherheitsdienst Aserbaidschans es laut Guardian Tage zuvor auf seinem offiziellen YouTube-Kanal veröffentlicht. Es zeigte festgenommene frühere Anführer der abtrünnigen Regierung von Bergkarabach. Ein manipuliertes Dokument, das nahelegte, Joe Biden habe Israel Unterstützung in Höhe von 8.000.000.000 Dollar gewährt, wurde auf X 400.000 Mal angesehen. Es war eine bearbeitete Fassung seines Memorandums vom Juli, in dem er Hilfen von 400.000.000 Dollar für die Ukraine ankündigte. Das Weiße Haus bestätigte gegenüber NBC, dass das Dokument gefälscht war. Der gemeinsame Nenner ist keine einzelne Ideologie, sondern eine Methode: echtes Material nehmen, neu etikettieren und die Verbreitung der Plattform den Rest erledigen lassen.

Russland verbreitet seit Langem Desinformation auf X und hat offenbar vom israelisch-palästinensischen Konflikt profitiert, berichtete der Guardian. Am Montag nach dem Angriff schrieb der frühere russische Präsident Dmitri Medwedew, stellvertretender Vorsitzender des russischen Sicherheitsrats, auf X: „Na, Nato-Freunde, jetzt habt ihr es wirklich erwischt, oder? Die Waffen, die dem Nazi-Regime in der Ukraine übergeben wurden, werden jetzt aktiv gegen Israel eingesetzt.“ Separat postete ein mit der Söldnergruppe Wagner verbundenes X-Konto ein Video, das angeblich Hamas zeigt, die sich bei der Ukraine für Waffen bedankt, die sie gegen Israel einsetzen wollte. Es kam auf mehr als 300.000 Aufrufe, und rechtsextreme US-Konten verbreiteten es weiter.

Die ukrainische Seite widersprach. Der ukrainische Geheimdienst beschuldigte Russland, westliche „Trophäen“-Waffen, die auf ukrainischen Schlachtfeldern erbeutet wurden, bei der Hamas platziert zu haben, um die Unterstützung für Kiew zu untergraben. Im Februar hatte das Generalinspektorat des Pentagon gemeldet, es gebe bis dahin keine Belege dafür, dass Waffen und Hilfen für die Ukraine an Dritte abgeflossen seien. Eliot Higgins, Gründer des Investigativportals Bellingcat, wies auf ein gefälschtes Video hin, das sich als BBC-Auftritt ausgab. Es behauptete, eine Bellingcat-Untersuchung über ukrainischen Waffenschmuggel an die Hamas zu zeigen. Higgins sagte, russische Social-Media-Nutzer verbreiteten es, fügte aber hinzu, es sei unklar, ob es sich um eine Kampagne der russischen Regierung oder eine Basisbewegung handele. Diese Einschränkung sollte man beibehalten. Die Zuordnung ist der schwierigste Teil dieser Arbeit, und die lautesten Behauptungen kommen oft mit den dünnsten Belegen.

Wenn der falsche Name zum Trendthema wird

Die Unruhen in Großbritannien im August 2024 zeigten, was passiert, wenn ein Netzwerk eine Geschichte bekommt, die zu einer bestehenden Kränkung passt. Nachdem im Juli in Southport drei junge Mädchen bei einem Messerangriff getötet worden waren, tauchten innerhalb von Stunden falsche Informationen über Name, Religion und Migrationsstatus des Täters auf. „Unter Bezug auf einen LinkedIn-Post nannte ein Post auf X den Täter fälschlich ‚Ali al-Shakati‘, angeblich ein Migrant muslimischen Glaubens. Bis 15 Uhr am folgenden Tag hatte der falsche Name allein auf X über 30.000 Erwähnungen“, sagte Hannah Rose, Analystin für Hass und Extremismus am Institute for Strategic Dialogue, per E-Mail zu CNBC. Andere Posts behaupteten, der Täter stehe auf einer Beobachtungsliste der Geheimdienste, sei 2023 mit einem kleinen Boot gekommen und den örtlichen psychiatrischen Diensten bekannt, so die Analyse des ISD. Die Polizei widerlegte die Behauptungen einen Tag nach ihrem Auftauchen und erklärte, der Verdächtige sei in Großbritannien geboren. Da hatte die Erzählung längst Zugkraft.

Rechtsextreme Gruppen organisierten antimigrantische und antiislamische Proteste, darunter eine Demonstration bei der geplanten Gedenkfeier für die Mädchen. Die Demonstrationen eskalierten zu tagelangen Unruhen mit Angriffen auf Moscheen, Einwanderungszentren und Hotels, in denen Asylbewerber untergebracht waren. Joe Ondrak, Forschungs- und Technikleiter für Großbritannien beim Technologieunternehmen Logically, sagte zu CNBC, die falschen Behauptungen seien „Katzenminze“ für Gruppen, die ohnehin zum Reagieren bereitstanden. „Es ist nicht so, dass diese falsche Behauptung rausgeht und dann, na ja, von allen geglaubt wird“, sagte er. Die Berichte wirkten vielmehr als „Mittel, um bestehende Vorurteile und Ressentiments zu rationalisieren und zu verstärken, bevor irgendeine gesicherte Wahrheit an die Öffentlichkeit gelangen konnte“.

Der Algorithmus hat es nicht nur versäumt, das zu stoppen. In mindestens einem Fall hat er es empfohlen.

Die Mechanik der Plattformen verstärkte die Lüge auf Wegen, die leicht übersehen werden, wenn man nur darauf schaut, wer sie gepostet hat. Rose sagte zu CNBC, Konten mit Hunderttausenden Followern und bezahlten blauen Haken hätten die falschen Informationen geteilt, und die Algorithmen hätten sie dann nach oben gedrückt. Auf TikTok förderte der Bereich „Others Searched For“, der ähnliche Inhalte empfiehlt, den falschen Namen des Täters, als Nutzer nach „Southport“ suchten. Das galt auch acht Stunden, nachdem die Polizei bestätigt hatte, dass der Name falsch war. Die Analyse des ISD fand ähnliches Verhalten auf X, wo der falsche Name als Trendthema erschien. Die falschen Behauptungen wanderten auch zu Telegram, das Ondrak als Ort beschrieb, an dem Erzählungen gebündelt und mehr Menschen „härteren Überzeugungen“ ausgesetzt werden, darunter Kanäle, die als impfgegnerisch begannen und von rechtsextremen Figuren übernommen wurden. Telegram erklärte gegenüber CNBC, es bestreite, zur Verbreitung von Falschinformationen beizutragen; die Moderatoren beobachteten die Lage und entfernten Kanäle und Posts, die zu Gewalt aufriefen.

Einige Konten, die zur Teilnahme an den Protesten aufriefen, ließen sich laut der Analyse von Logically der extremen Rechten zuordnen. Einige standen in Verbindung mit der verbotenen Gruppe National Action, die 2016 nach dem britischen Terrorism Act als terroristische Organisation eingestuft wurde. Der britische Online Safety Act sollte Hassrede adressieren, trat aber erst Anfang des folgenden Jahres in Kraft und reicht für manche Formen der Desinformation womöglich nicht aus. Am Mittwoch nach den schlimmsten Unruhen schrieb die Medienaufsicht Ofcom an die Social-Media-Plattformen, sie sollten nicht auf das Inkrafttreten des neuen Gesetzes warten. Zu diesem Zeitpunkt hatten sich in Städten und Gemeinden Großbritanniens bereits Tausende Gegendemonstranten gegen Rassismus versammelt, mehr als die antimigrantischen Demonstrationen.

Die größte bekannte Operation

Nicht jedes Netzwerk entsteht improvisiert um ein aktuelles Ereignis herum. CNN berichtete im November 2023, die chinesische Regierung habe die weltweit größte bekannte Online-Desinformationsoperation aufgebaut. Sie setze sie ein, um in den USA lebende Menschen, Politiker und Unternehmen zu belästigen und Ziele mitunter mit Gewalt zu bedrohen. Der Bericht stützte sich auf eine Prüfung von Gerichtsdokumenten und öffentlichen Angaben von Social-Media-Unternehmen. Betroffene beschrieben eine Flut von Zehntausenden Social-Media-Posts, die sie als Verräter und Hunde beschimpften und mit rassistischen und homophoben Beleidigungen überzogen. Einige hatten sich an Strafverfolgungsbehörden gewandt, auch an das FBI, mit wenig Ergebnis. Technologie- und Social-Media-Unternehmen hatten Tausende Konten gesperrt, aber praktisch täglich tauchten neue auf.

Das Netzwerk wird unter Namen wie „Spamouflage“ und „Dragonbridge“ geführt. Seine Hunderttausenden Konten verteilen sich auf jede große Social-Media-Plattform. Sie belästigen Amerikaner, die die Kommunistische Partei Chinas kritisieren, versuchen US-Politiker zu diskreditieren, verunglimpfen amerikanische Firmen, die mit Chinas Interessen kollidieren, und kapern Online-Diskussionen, die die KPCh negativ darstellen könnten. Private Forscher verfolgen es seit seiner Entdeckung vor mehr als vier Jahren. Erst in den vergangenen Monaten kamen Bundesstaatsanwälte und Meta öffentlich zu dem Schluss, die Operation habe Verbindungen zur chinesischen Polizei. Meta erklärte im August, allein im zweiten Quartal 2023 einen Cluster von fast 8.000 Konten entfernt zu haben, die der Gruppe zugerechnet werden. Google, dem YouTube gehört, sagte zu CNN, in den vergangenen Jahren mehr als 100.000 zugehörige Konten gesperrt zu haben. X hat laut Unternehmensblogs Hunderttausende „staatsgestützte“ oder „staatsnahe“ Konten aus China blockiert.

Der Maßstab ist der Punkt. Niedrige Betriebskosten bedeuten, dass die Netzwerke Sperrungen verkraften und sich neu aufbauen können. „Wir könnten denken, das beschränkt sich auf bestimmte Chatrooms oder diese oder jene Plattform, aber es breitet sich überall aus“, sagte der Abgeordnete Mike Gallagher, Vorsitzender des House Select Committee on the CCP, zu CNN. „Und es ist nur eine Frage der Zeit, bis es den durchschnittlichen amerikanischen Bürger trifft, der jetzt nicht glaubt, dass es sein Problem ist.“ Das US-Außenministerium hat die Taktiken als Teil eines breiteren, milliardenschweren Bestrebens beschrieben, das Informationsumfeld der Welt zu prägen und Kritiker Pekings zum Schweigen zu bringen. Dieses Bestreben habe unter Präsident Xi Jinping zugenommen, heißt es.

Was das Publikum nach eigenen Angaben will

Öffentliche Besorgnis ist keine Nischenposition. Eine von der Unesco in Auftrag gegebene Ipsos-Umfrage unter 8.000 Menschen in 16 Ländern, die 2024 nationale Wahlen abhalten sollten, mit insgesamt 2.500.000.000 Wählern, ergab, dass 85 Prozent die Wirkung von Online-Desinformation beunruhigt. 87 Prozent sagten, sie habe großen Einfluss auf das nationale politische Leben gehabt. Social Media war für 56 Prozent der Internetnutzer die Hauptnachrichtenquelle, vor dem Fernsehen mit 44 Prozent und Medienseiten mit 29 Prozent, obwohl das Vertrauen geringer war: 50 Prozent gegenüber 66 Prozent für das Fernsehen, 63 Prozent für Radio und 57 Prozent für Medienwebsites und -apps. In allen 16 Ländern sagten 68 Prozent, Social Media sei der Ort, an dem Falschnachrichten am weitesten verbreitet seien, vor Messaging-Apps mit 38 Prozent.

Audrey Azoulay, Generaldirektorin der Unesco, sagte vor Reportern, Falschinformation und Hassrede im Netz, beschleunigt und verstärkt durch die Plattformen, stellten „große Risiken für den gesellschaftlichen Zusammenhalt, den Frieden und die Stabilität“ dar. Regulierung sei dringend nötig, „um den Zugang zu Informationen zu schützen … und zugleich die Meinungsfreiheit und die Menschenrechte zu schützen“, sagte sie bei der Vorstellung eines Governance-Blueprints. Die Unesco erklärte, mehr als 50 Länder regulierten Social Media bereits, oft aber nicht im Einklang mit internationalen Normen für Meinungsfreiheit und Menschenrechte. Mindestens eine große Plattform habe dem 194 Mitglieder zählenden Gremium gesagt, sie bevorzuge einen einheitlichen globalen Rahmen gegenüber einem Flickenteppich nationaler Systeme. Die Organisation plant für 2024 eine Weltkonferenz der Regulierungsbehörden.

Der politische Streit ist nicht entschieden, und ein Teil davon läuft den Geschäftsmodellen der Plattformen zuwider. Senator Sheldon Whitehouse hat sich für die Aufhebung von Section 230 des Communications Decency Act ausgesprochen. Er würde sie durch eine engere Fassung ersetzen, die die „Offenlegung der Geldgeber von Desinformation“ erzwingen würde. Er schrieb, die Aussicht auf rechtliche Haftung „könnte Facebook und andere Unternehmen eher dazu bringen, Maßnahmen gegen die Verbreitung von Falschinformationen zu ergreifen, selbst wenn sie dadurch das Nutzerengagement senken, weil Untätigkeit eigene finanzielle Risiken birgt“. Kritiker dieses Ansatzes argumentieren, ein Großteil der Desinformation würde am Ende durch den First Amendment geschützt. Beide Seiten streiten über dasselbe: Wer trägt die Kosten, wenn eine Lüge schneller reist als die Korrektur.

Gemeinsam ist den Fällen eine Arbeitsteilung. Jemand produziert die falsche Behauptung, oft indem er echtes Material umdeutet. Jemand mit Reichweite postet sie. Algorithmen entscheiden, wie weit sie kommt. Regulierer treffen danach ein, wenn überhaupt. Und die Menschen, die am ehesten ins Visier geraten, von den Bewohnern Southports bis zu chinesischen Dissidenten in den USA, haben am wenigsten Einfluss auf all das.

Kommentare 0

Quellen

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass Americans, a CNN review findsEN
  5. 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Katrin Hoffmann

Katrin Hoffmann

KI, Modelle und Technik

Katrin Hoffmann schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Primärquellen wie Herstellerangaben, Studien und Protokolle statt auf Pressemitteilungen. Bei Benchmarks prüft sie Messmethoden, Testumgebungen und Reproduzierbarkeit, bevor sie Zahlen übernimmt. Für ihre Artikel spricht sie mit Entwicklern und Forschern, wartet auf Konferenzankündigungen und vergleicht Versionsstände von Modellen und Standards. Privat betreibt sie Selfhosting und Heimnetze und dokumentiert ihre eigene Infrastruktur, was ihrer Redaktionsarbeit zugutekommt. Sie veröffentlicht keine Zahlen ohne nachvollziehbare Quelle.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.