Zum Inhalt
WeltzeitEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal über KI und Technologieereignisse · analysen · interviews · technischer hintergrund

Suche
LIVE
›

Wie Desinformationsnetzwerke im Netz arbeiten und warum sie immer wieder gewinnen

Ein Clip aus den Kulissen eines palästinensischen Kurzfilms wurde auf X rund zwei Millionen Mal angesehen, berichtete der Guardian. Die Bildunterschrift lautete: „Video zeigt, wie Israel versucht, gefälschtes Material über Todesfälle zu erzeugen.“ Der Clip war echt. Die Behauptung war es nicht.

Medien & InternetErklärtLena BrandtVeröffentlicht: 28. September 20268 Min. LesezeitQuellen 6
Wie Desinformationsnetzwerke im Netz arbeiten und warum sie immer wieder gewinnen

Der Guardian berichtete am 11. Oktober 2023 über diesen Post. Er taugt als Einstieg in die Arbeitsweise von Desinformationsnetzwerken im Netz. Selten erfinden sie Material aus dem Nichts. Sie nehmen echtes Filmmaterial, setzen es in einen falschen Rahmen und lassen die Plattform den Rest erledigen.

Dieselbe Guardian-Recherche führte weitere Beispiele aus den Tagen nach dem Angriff der Hamas auf Israel am Samstag, 7. Oktober, auf. Ein Video stammte vom offiziellen YouTube-Kanal des staatlichen Sicherheitsdienstes von Aserbaidschan. Es zeigte festgenommene frühere Regierungsvertreter der abtrünnigen Verwaltung von Bergkarabach. Auf X wurde es als Aufnahme gefangener israelischer Generäle geteilt und erreichte zwei Millionen Aufrufe. Ein manipuliertes Memo des Weißen Hauses, das Joe Biden angeblich 8.000.000.000 Dollar für Israel zusprach, wurde 400.000 Mal angesehen. Laut Guardian handelte es sich um eine bearbeitete Version seines Juli-Memos, in dem er 400.000.000 Dollar Hilfe für die Ukraine ankündigte. Das Weiße Haus bestätigte gegenüber NBC, dass das Dokument gefälscht war.

Vier bewegliche Teile, nicht eines

Die Berichterstattung verweist auf eine wiederkehrende Struktur. Erstens das Rohmaterial: ein echtes Bild, Video, Dokument oder Ereignis. Zweitens der Rahmen: eine Bildunterschrift, ein Name, eine Nationalität, eine Religion. Drittens die Verbreitung: große Konten, bezahlte Verifizierung und Empfehlungssysteme. Sie spielen den falschen Rahmen Leuten zu, die gar nicht danach gesucht haben. Viertens die Verzögerung: Die Korrektur kommt, wenn sich die Erzählung längst verfestigt hat.

Der Fall Southport im Juli 2024 zeigt diese Verzögerung deutlich. Ein Messerangriff tötete drei junge Mädchen. Innerhalb von Stunden verbreiteten sich online falsche Behauptungen über Name, Religion und Migrationsstatus des Täters. Hannah Rose ist Analystin für Hass und Extremismus beim Institute for Strategic Dialogue. Sie sagte CNBC, ein Post auf X habe den Täter fälschlich als „Ali al-Shakati“ benannt, angeblich ein Migrant muslimischen Glaubens. Bis 15 Uhr des folgenden Tages, so Rose, habe der falsche Name allein auf X über 30.000 Erwähnungen gehabt. Die Polizei widerlegte die Behauptungen einen Tag nach ihrem ersten Auftauchen. Sie teilte mit, der Verdächtige sei in Großbritannien geboren, doch die Erzählung hatte bereits Fuß gefasst. Rechtsextreme Gruppen organisierten Proteste gegen Migranten und gegen den Islam. Diese eskalierten zu tagelangen Ausschreitungen und Angriffen auf Moscheen, Einwanderungszentren und Hotels, in denen Asylsuchende untergebracht waren.

Rose beschrieb auch, wie die Maschinerie der Plattformen den falschen Namen verstärkte, statt ihn nur zu hosten. Wenn Nutzer auf TikTok nach „Southport“ suchten, so Rose, habe der Bereich „Andere suchten nach“ den falschen Namen des Täters beworben. Das sei auch noch 8 Stunden geschehen, nachdem die Polizei die Information als falsch bestätigt hatte. Die Analyse des ISD ergab, dass Algorithmen auf X ähnlich wirkten, wo der falsche Name als Trendthema erschien.

Warum falsche Rahmen reisen

Joe Ondrak leitet Forschung und Technik für Großbritannien bei Logically. Er sagte CNBC, die Behauptungen zu Southport hätten auf ein Publikum wie „Katzenminze“ gewirkt, das durch jahrelange Rhetorik gegen Migration bereits vorbereitet war. „Es ist nicht so, dass diese falsche Behauptung rausgeht und dann, na ja, von allen geglaubt wird“, sagte er. Die Meldungen wirkten vielmehr als „Mittel, um bestehende Vorurteile, Voreingenommenheit und Spekulation zu rationalisieren und zu verstärken, bevor irgendeine gesicherte Wahrheit an die Öffentlichkeit gelangen konnte.“

Dieser Mechanismus ist nicht auf ein Land oder einen Konflikt beschränkt. Die Oktober-Rundschau des Guardian von 2023 vermerkte, Russland sei ein langjähriger Täter bei der Verbreitung von Desinformation auf X. Es habe offenbar vom Konflikt zwischen Israel und der Hamas profitiert. Der frühere russische Präsident Dmitri Medwedew, stellvertretender Vorsitzender des russischen Sicherheitsrats, tweetete, Nato-Waffen, die an die Ukraine geliefert worden seien, würden nun gegen Israel eingesetzt. Ein mit der Söldnergruppe Wagner verbundenes X-Konto postete ein Video, das offenbar zeigt, wie die Hamas der Ukraine für Waffen dankt. Es wurde über 300.000 Mal angesehen und von rechtsextremen Konten in den USA weiterverbreitet. Eliot Higgins von Bellingcat machte auf ein gefälschtes BBC-Video aufmerksam. Es gab vor, eine Bellingcat-Untersuchung über ukrainischen Waffenschmuggel an die Hamas zu zeigen, und wurde von russischen Social-Media-Nutzern verbreitet. Higgins sagte, es sei unklar, ob es sich um eine Kampagne der russischen Regierung oder um eine Basisbewegung handele.

Die Größenordnung spielt hier eine Rolle. Eine am 13. November 2023 veröffentlichte CNN-Recherche ergab, dass die chinesische Regierung die größte bekannte Desinformationsoperation im Netz aufgebaut hatte. Sie nutzte sie, um in den USA lebende Menschen, Politiker und Unternehmen zu belästigen und Ziele teils mit Gewalt zu bedrohen. Das Netzwerk mit den Namen „Spamouflage“ oder „Dragonbridge“ verfügt über Hunderttausende Konten auf den großen Plattformen. Meta teilte im August 2023 mit, allein im zweiten Quartal jenes Jahres einen Cluster von fast 8.000 Konten entfernt zu haben, die der Gruppe zugerechnet werden. Google erklärte gegenüber CNN, in den vergangenen Jahren mehr als 100.000 zugehörige Konten gesperrt zu haben. X hatte Hunderttausende chinesische Konten blockiert, die als „staatsgestützt“ oder „staatsnah“ galten. Das US-Außenministerium beschrieb die Taktiken als Teil einer breiteren Milliardensummen-Kampagne, um das Informationsumfeld der Welt zu formen und Kritiker Pekings zum Schweigen zu bringen.

Die Lücke bei der Moderation

Plattformen sind keine passiven Rohre, und mehrere Berichte belegen das konkret. Der Guardian berichtete, Elon Musk habe nach seiner Übernahme 2022 den Trust and Safety Council von X aufgelöst. Er habe im vergangenen Jahr zwei Leiterinnen und Leiter für Vertrauen und Sicherheit entlassen, meldete die Zeitung. Das Unternehmen erklärte, es wolle das Team neu organisieren, doch blieb das unklar. X führte Community Notes ein, ein Programm zur Moderation durch die Nutzer selbst. Es legt die Korrektur von Fakten weitgehend in die Hände der Nutzer statt bei angestellten Moderatoren. Am Dienstag, 10. Oktober 2023, schickte die Europäische Kommission Musk einen Brief. Darin warnte sie ihn wegen angeblicher Desinformation auf X über den Hamas-Angriff, einschließlich Falschnachrichten und „wiederverwendeter alter Bilder“.

Unabhängige Forschung hat die Richtung der Entwicklung verfolgt. Die Union of Concerned Scientists zitierte am 20. September 2023 eine Erkenntnis des Center for Countering Digital Hate. X „hostet weiterhin fast 86 % einer Gruppe von 300 hasserfüllten Posts, eine Woche nachdem wir sie gemeldet haben.“ Die Forscherin Abbie Richards fand heraus, dass Tweets zur Leugnung des Klimawandels zwischen Dezember 2021 und Juli 2022 im Schnitt 30.000 pro Woche erreichten. Nach Juli 2022 stiegen sie auf fast das Dreifache, auf 110.000 pro Woche. Ein Forscher der University of Southern California stellte fest, dass die durchschnittliche tägliche Hassrede hasserfüllter Nutzer sich in den ersten sechs Monaten von Musks Eigentümerschaft fast verdoppelte. Der UCS-Beitrag nannte zudem einen Rückgang der Werbeeinnahmen um etwa 60 %.

Nichts davon ist unumstrittenes Terrain. Derselbe UCS-Beitrag merkte an, dass der größte Teil der Klima-Desinformation auf X von verhältnismäßig wenigen Nutzern stammt. Im Vorfeld und während der COP27 sammelten Tweets und Zitat-Tweets von nur 16 Konten 507.000 Likes und Retweets. Eine kleine Zahl entschlossener Konten kann den Eindruck einer Massenbewegung erzeugen. Genau das macht das Netzwerkmodell so schwer zu kontrollieren.

Was die Öffentlichkeit nach eigenen Angaben will

Eine von der Unesco in Auftrag gegebene Ipsos-Umfrage erfasste 8.000 Menschen in 16 Ländern, die 2024 nationale Wahlen abhalten sollten. Der Guardian berichtete am 7. November 2023 darüber. Demnach sorgten sich 85 % über den Einfluss von Desinformation im Netz. 87 % sagten, sie habe bereits große Auswirkungen auf das nationale politische Leben gehabt. Soziale Medien waren für 56 % der Internetnutzer die Hauptnachrichtenquelle, vor dem Fernsehen mit 44 % und Nachrichtenseiten mit 29 %. Das Vertrauen in Nachrichten aus sozialen Medien lag bei 50 %, beim Fernsehen bei 66 %. Über alle 16 Länder hinweg sagten 68 %, Falschnachrichten seien in sozialen Medien am weitesten verbreitet.

Die Generaldirektorin der Unesco, Audrey Azoulay, sagte vor Reportern, Falschinformationen und Hassrede im Netz stellten „große Risiken für den gesellschaftlichen Zusammenhalt, den Frieden und die Stabilität“ dar. Plattformen beschleunigten und verstärkten solche Inhalte, sagte sie. Regulierung sei dringend nötig, „um den Zugang zu Informationen zu schützen … und zugleich die Meinungsfreiheit und die Menschenrechte zu wahren.“ Die Unesco erklärte, ihr Governance-Konzept stütze sich auf mehr als 10.000 Beiträge aus 134 Ländern über 18 Monate. Mehr als 50 Länder regulierten soziale Medien bereits, oft nicht im Einklang mit internationalen Normen für Meinungsfreiheit und Menschenrechte.

Auch Regulierung ist keine geklärte Antwort. Senator Sheldon Whitehouse hat sich für die Aufhebung von Section 230 des Communications Decency Act ausgesprochen. Er will eine engere Fassung, die die „Offenlegung der Geldgeber von Desinformation“ erzwingen würde, so die Wiedergabe seines Buchkapitels und seines Twitter-Threads durch Reclaim The Net. Whitehouse argumentierte, „die Drohung rechtlicher Haftung könnte zum Beispiel Facebook und andere Unternehmen eher dazu bringen, Maßnahmen gegen die Verbreitung von Falschinformationen zu ergreifen, selbst wenn sie dadurch die Nutzerbindung senken, da Untätigkeit eigene finanzielle Risiken birgt.“ Kritiker dieses Ansatzes, so merkt Reclaim The Net an, vermuten, dass die meiste Desinformation dann einfach zu durch den First Amendment geschützter Rede würde.

Großbritannien bietet einen laufenden Test. Das Land hat einen Online Safety Act, der Hassrede bekämpfen soll. Doch er tritt laut CNBC erst Anfang nächsten Jahres in Kraft und reicht womöglich nicht aus, um vor einigen Formen der Desinformation zu schützen. Am Mittwoch, 7. August 2024, schrieb die britische Medienaufsicht Ofcom soziale Plattformen an. Sie sollten nicht auf das Inkrafttreten des neuen Gesetzes warten.

Pat de Brún, stellvertretender Direktor von Amnesty Tech, sagte dem Guardian, Plattformen wie Meta und X hätten nach internationalen Menschenrechtsstandards klare Pflichten. Diese Pflichten seien in Zeiten von Krise und Konflikt erhöht. „Social-Media-Unternehmen sind dafür verantwortlich, Risiken zu erkennen und wirksam darauf zu reagieren sowie wirksame Maßnahmen zu ergreifen, um die Verbreitung schädlicher Inhalte zu begrenzen“, sagte er. Große Tech-Konzerne hätten es in solchen Notlagen „allzu oft“ versäumt, ihrer Verantwortung nachzukommen.

Kommentare 0

Quellen

6
  1. 01How Israel-Hamas war disinformation is being spread onlineEN
  2. 0285% of people worry about online disinformation, global survey findsEN
  3. 03Online disinformation sparked a wave of far-right violence in the UKEN
  4. 04China is using the world's largest online disinformation operation to harass AmericansEN
  5. 05Senator Sheldon Whitehouse wants to repeal Section 230 to combat online "disinformation"EN
  6. 06For Online Disinformation and Hate, X Marks the SpotEN

Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.

Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.

Lena Brandt

Lena Brandt

KI, Modelle und Technik

Lena Brandt schreibt für FLASH24 über Technik, KI und Modelle sowie Medien und Internet und stützt sich dabei auf Herstellerangaben, Studien und öffentlich zugängliche Datensätze, statt Pressemitteilungen ungeprüft zu übernehmen. Bei Modellvergleichen kontrolliert sie Benchmark-Werte, Trainingsdaten und Versionsnummern und rechnet Angaben zu Rechenleistung und Kosten selbst nach. Sie spricht mit Entwicklern und Forschern, wartet auf angekündigte Updates und vergleicht Releases, bevor sie eine Einschätzung abgibt. Privat beschäftigt sie sich mit 3D-Druck, alten Rechnern und der Frage, wie Modelle aus Internetmüll lernen – Themen, die regelmäßig in ihre Texte einfließen. Sie publiziert keine Zahlen, deren Quelle sie nicht selbst überprüfen konnte.

Redaktion →

Kommentare

0
  1. Noch keine Kommentare — seien Sie der Erste.

Kommentar schreiben

Kommentare sind öffentlich sichtbar. Wir veröffentlichen keine Beleidigungen, Werbung oder Spam.