Fałszywy protest wygenerowany przez AI krążył po TikToku. Polska właśnie dostała nadzorcę

Materiał wyglądał jak relacja reportera: ulica, transparenty, przechodnie, pasek informacyjny z logotypem stacji telewizyjnej. Problem w tym, że protestu nie było, a stacja nigdy nie zrealizowała takiego nagrania. Narzędzie Hive Moderation wskazało 75,4-procentowe prawdopodobieństwo, że cały materiał wygenerowała sztuczna inteligencja.

Ten sam film pojawiał się z kilkudziesięciu kont na TikToku, w wersjach różniących się drobnymi szczegółami. Najpopularniejsza publikacja przekroczyła 204 tys. wyświetleń. Nagranie nie było odosobnionym eksperymentem. Euronews opisał niemal identyczne materiały w Portugalii, Francji, Niemczech, Irlandii, Włoszech i Wielkiej Brytanii. W wersji portugalskiej wykorzystano wizerunek dziennikarza stacji RTP. Nadawca oświadczył, że osoba ta nigdy dla niego nie pracowała.

Dlaczego to działa

Skuteczność takich materiałów nie wynika z jakości technicznej. Drobiazgi zdradzają syntezę, jeśli patrzy się uważnie. Liczy się kontekst. Logotyp znanej stacji, pasek informacyjny, charakterystyczna kolorystyka i tempo montażu budują wrażenie wiarygodności, zanim odbiorca zada sobie pytanie o źródło. Algorytmiczna dystrybucja premiuje treści wywołujące emocje, a fałszywy protest dostarcza ich wyjątkowo dużo.

Polskie przepisy wchodzą w życie

Odpowiedź regulacyjna pojawiła się w lipcu 2026 roku. Prezydent podpisał ustawę o systemach sztucznej inteligencji, która wdraża unijne rozporządzenie o AI. Ustawa tworzy nowy organ nadzoru rynku, Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI). Komisja przyjmuje skargi, wydaje pozwolenia dla systemów wysokiego ryzyka i nakłada kary.

Przepisy przewidują również tak zwane piaskownice regulacyjne, czyli kontrolowane środowiska, w których firmy mogą testować systemy AI pod nadzorem urzędu bez pełnych obciążeń formalnych. Pierwszy taki mechanizm ma ruszyć bardzo szybko, co ma zachęcić polskie spółki do rozwijania własnych modeli i narzędzi. Unijne rozporządzenie o AI obowiązuje od 1 sierpnia 2024 roku, ale większość obowiązków dla systemów wysokiego ryzyka i modeli ogólnego przeznaczenia rozłożono na kolejne lata.

Luka, której nie zasypie ustawa

Nawet najlepszy nadzór instytucjonalny nie rozwiąże problemu, na który wskazuje fałszywy protest: momentu publikacji. Materiał zdobywa zasięg w kilka godzin, a weryfikacja trwa dni. W tym oknie nie działają kary, pozwy ani obowiązki oznaczania treści. Działa wyłącznie szybkość redakcji i mediów weryfikujących fakty.

Dlatego najważniejszy wniosek dla polskiego rynku jest praktyczny. Wykrywanie deepfake'ów musi stać się stałym elementem pracy newsroomów, a nie okazjonalnym projektem. To także wyzwanie dla mediów lokalnych, które nie mają zespołów fact-checkingowych. Ich materiały, najbardziej wiarygodne w sprawach lokalnych, stają się jednocześnie najłatwiejszym celem dla fałszywek podszywających się pod lokalną prasę.