Wenn ein Bot etwas „sagt“, das er nie gesagt hat. Wie aus einem Gerücht eine Nachricht wird

These: Der Fehler liegt nicht im Modell, sondern in der Redaktion, die einen Chat-Screenshot als Quelle veröffentlicht. Solange fiktive Inhalte nicht verpflichtend gekennzeichnet werden, ist jeder „Chatbot-Beweis“ Munition für Desinformation.

Der Fall sah aus wie ein typischer Internet-Vir. Aufnahmen zeigten, wie ein chinesischer KI-Assistent angeblich empfahl, Hausschuhe zu kochen, damit sie „wieder ihre ursprüngliche Größe erreichen“. Das Material verbreitete sich weit. Ein Teil der Medien und einige institutionelle Konten behandelten es als Beweis für gefährliche Fehler von Chatbots. Als die Geschichte die Kommunikationsabteilung des Herstellers erreichte, gab dieser ein Dementi heraus: Das Modell habe nichts dergleichen gesagt.

Die Untersuchung ergab etwas Wichtigeres als den Irrtum selbst. Die Aufnahmen waren im Stil eines Scherzes inszeniert, der auf dem verbreiteten Spruch beruht, dass „eingelaufene Schuhe sich auskochen lassen“. Der Urheber gab zu, das Modell absichtlich zu einer falschen Antwort gelenkt und das Ergebnis aufgezeichnet zu haben. Als Fiktion oder Spaß kennzeichnete er das Material nicht. Der Effekt war vorhersehbar: Die Betrachter, darunter Journalisten, sahen einen kurzen Clip ohne Kontext und hielten ihn für das tatsächliche Verhalten des Produkts. In der offiziellen Erklärung des Unternehmens hieß es: „Ein Gerücht wurde zur Nachricht.“

Dieses Muster wiederholte sich übrigens zweimal. Dasselbe Team der Öffentlichkeitsarbeit dementierte zuvor eine andere Geschichte: ein Ranking der „zehn beliebtesten Stars“, das ein Blogger mit Hilfe von KI erzeugt und dem Produkt als dessen Antwort zugeschrieben hatte. In beiden Fällen war der Mechanismus identisch. Es gab keinen Systemausfall. Jemand hatte eine Antwort gezielt provoziert, sie aus dem Kontext geschnitten und als Tatsache weitergegeben.

Warum ist das kein rein chinesisches Problem? Weil genau dasselbe Muster regulatorische Entscheidungen weltweit antreibt. Artikel 50 der EU-KI-Verordnung verpflichtet dazu, generierte und manipulierte Inhalte in maschinell erkennbarer Form zu kennzeichnen. Der Zeitplan der Umsetzung zeigt, wie schwer sich Marktgeschwindigkeit und rechtliche Strenge vereinbaren lassen. Umfragen zeigen zudem, dass die Betrachter schon heute Kennzeichnungen wollen: 81 Prozent der Deutschen halten die transparente Kennzeichnung von Quellen und Trainingsdaten für wichtig, und 54 Prozent prüfen die Ergebnisse von Modellen auf Fehler.

Die Schlussfolgerung ist daher doppelt. Erstens sollte die Pflicht zur Kennzeichnung inszenierter und fiktiver Materialien nicht nur synthetische Inhalte erfassen, sondern auch Aufnahmen, in denen Modelle als Hauptbeweis auftreten. Zweitens, und wichtiger: Die Redaktion darf einen Screenshot aus dem Chatfenster nicht als Quelle behandeln. Wenn wir einen Bildschirm als Beweis veröffentlichen, müssen wir prüfen, ob die Antwort unter Druck erzeugt wurde und ob ihr vollständiger Kontext vorliegt. Das ist eine handwerkliche Grundanforderung, die im Zeitalter von Generatoren entscheidend geworden ist. Ein Gerücht wird nicht dadurch zur Tatsache, dass jemand es aufgenommen hat, sondern dadurch, dass jemand es ohne Prüfung veröffentlicht hat.