Gdy bot „mówi” coś, czego nie powiedział. Jak plotka staje się newsem

Awaria nie leży w modelu, lecz w redakcji, która publikuje ekran z czatu jako źródło. Dopóki treść fikcyjna nie będzie obowiązkowo oznaczana, każdy „dowód z chatbota” będzie amunicją dezinformacji.

Sprawa wyglądała jak typowy internetowy vir. Na nagraniach chiński asystent AI rzekomo radzi gotować kapcie, żeby „wróciły do pierwotnego rozmiaru”. Materiał krążył szeroko. Część mediów i kont instytucjonalnych potraktowała go jako dowód na niebezpieczne błędy chatbotów. Gdy historia dotarła do działu komunikacji producenta, ten wydał dementi: model nie powiedział niczego takiego.

Śledztwo wykazało coś ważniejszego niż sama pomyłka. Nagrania powstały jako żart, oparty na popularnym powiedzeniu, że „skurczone buty da się rozgotować”. Twórca przyznał, że celowo nakierował model na błędną odpowiedź i nagrał wynik, ale nie oznaczył materiału jako fikcji ani zabawy. Efekt był przewidywalny. Odbiorcy, w tym dziennikarze, zobaczyli krótki klip bez kontekstu i uznali go za faktyczne zachowanie produktu. W oficjalnym wyjaśnieniu firmy ujęto to tak: „jedna plotka stała się newsem”.

Ten schemat powtórzył się zresztą dwa razy. Ten sam zespół public relations dementował wcześniej inną historię: ranking „dziesięciu najpopularniejszych gwiazd”, wygenerowany przez blogera przy pomocy AI i przypisany produktowi jako jego odpowiedź. W obu przypadkach mechanizm był identyczny. System się nie zepsuł. Ktoś celowo wywołał odpowiedź, wyciął ją z kontekstu i podał dalej jako fakt.

Dlaczego to nie jest tylko chiński problem? Bo dokładnie ten sam schemat napędza decyzje regulacyjne na całym świecie. Unijny art. 50 AI Act nakłada obowiązek oznaczania treści wygenerowanych i zmanipulowanych w formacie wykrywalnym maszynowo, a kalendarz wdrożeń pokazuje, jak trudno pogodzić szybkość rynku z rygorem prawa. Badania opinii publicznej pokazują przy tym, że odbiorcy już dziś chcą oznaczeń: 81 proc. Niemców uznaje przejrzyste oznaczanie źródeł i danych treningowych za istotne, a 54 proc. weryfikuje wyniki modeli pod kątem błędów.

Wniosek jest więc podwójny. Po pierwsze, obowiązek oznaczania materiałów zainscenizowanych i fikcyjnych powinien obejmować nie tylko treści syntetyczne, ale też nagrania z modelami w roli głównego dowodu. Po drugie, i ważniejsze, redakcja nie może traktować zrzutu z okna czatu jako źródła. Jeśli publikujemy ekran jako dowód, mamy obowiązek sprawdzić, czy odpowiedź nie została wywołana pod naciskiem i czy istnieje jej pełny kontekst. To podstawowy wymóg warsztatowy, który w erze generatorów stał się krytyczny. Plotka nie staje się faktem, bo ktoś ją nagrał. Staje się nim, bo ktoś ją opublikował bez sprawdzenia.