Nowa maszyna dezinformacji: agenci AI, szyfrowane azyle i sieć, która niczego nie nagradza

Dziennikarze zajmujący się dezinformacją przez dekadę tropili strony na Facebooku, farmy trolli i skoordynowane nieautentyczne działania. Infrastruktura, która powstaje teraz, jest cichsza. W większości nie chodzi w niej o politykę. Chodzi o to, żeby samodzielne oprogramowanie miało własne sieci, własne tożsamości i własne szyfrowane kanały. Często z wyraźną obietnicą, że nikt nie zajrzy do środka, ani człowiek, ani platforma.

Agent dostaje klucz

Wpis na blogu Tailscale z 30 września opisuje, jak osobisty agent Meta, Muse, dołącza do tailnetu użytkownika jako osobny węzeł, gdy ten zaloguje się przez swojego dostawcę tożsamości. Widzi wtedy inne maszyny w tej sieci i może z nimi współdziałać. Firma podaje, że Muse nawiązuje wyłącznie połączenia wychodzące i przy pierwszym kontakcie z każdym urządzeniem w tailnecie wymaga wyraźnego potwierdzenia. Użytkownik może przyznać dostęp stały albo jednorazowy i w każdej chwili go odebrać. Kontrole dostępu, uprawnienia i znaczniki działają wobec agenta tak samo jak wobec każdego innego węzła, pisze Tailscale.

Agent Haven, usługa, która pojawiła się tego samego dnia, idzie dalej. Jej przekaz jest bez ogródek: klient szyfruje każdą wiadomość prywatną i notatkę, zanim opuszczą twoją maszynę, i tylko on ma klucze, a serwer przekazuje szyfrogram, nie trzymając u siebie klucza głównego. Serwis twierdzi, że widzi konta, czasy i dopełnione rozmiary, nigdy treść wiadomości. Przyznaje też oczywistą lukę: jeśli twój agent działa na modelu hostowanym, dostawca widzi jego kontekst i żadne szyfrowanie po stronie Agent Haven tego nie zmieni. Agenci mają tam "wypracowywać wspólny język poprzez gry, co podnosi wysiłek potrzebny, by śledzić ich z zewnątrz".

Przeczytaj te dwa dokumenty razem, a zobaczysz kształt następnego problemu. Sieć agentów, zaszyfrowana, samosterująca i tylko częściowo obserwowalna, świetnie nadaje się do domowego laboratorium. W zasadzie świetnie nadaje się też dla każdego, kto chce koordynacji, której platformy nie przeskanują. Żadne z tych źródeł nie mówi, że tak się dzieje. Chodzi o to, że sama konstrukcja z góry wyklucza łatwą odpowiedź.

Co nagradza reszta sieci

Szerszy obraz zachęt też nie napawa optymizmem. Tekst Big Think z 29 września o mapie świata z kamer internetowych stawia tezę, która brzmi miękko, dopóki się nad nią nie zatrzymać: w World Watcher Live chodzi o to, że nic się nie dzieje. Guziec pasie się przy Hwange Safari Lodge w Zimbabwe. Ciężarówka rozwozi towar na Bourbon Street. Żadnej narracji, dramatu, pętli zaangażowania.

"Te przekazy są cichym sprzeciwem wobec tego, czym stała się duża część kultury internetu: doomscrollingu do kolejnej katastrofy, kryzysu za każdym kliknięciem" - pisze Big Think.

To krytyka mediów z rubryki lifestylowej, nie śledztwo o dezinformacji. Mimo to trafia. Systemy, które najlepiej niosą fałszywe twierdzenia, są dostrojone do reakcji, a tego dostrojenia nikt nie naprawia. Obok tego trzy pozycje z dossier pokazują, gdzie naprawdę idzie uwaga techniczna.

• Geometry Matters opublikowało 30 września przegląd geometrii sieci: fraktalne samopodobieństwo, ukryte przestrzenie hiperboliczne i to, jak informacja krąży w złożonych systemach, od mózgu po trasowanie w internecie. To warstwa matematyczna pod każdą analizą sieci.
• Projekt z GitHuba, OpenDLSS-NR, opublikował reimplementację sieci renderowania neuronowego DLSS 5 firmy Nvidia w Vulkanie, zgodną bit po bicie z oryginałem, z portem na WebGPU, który uruchamia tę samą sieć w przeglądarce bez tensor cores i FP8. Autor zauważa, że ta dokładność siedzi w specyfikacji, nie w sprzęcie.
• Wywiad Dylana Muira o impulsowych sieciach neuronowych, opublikowany 30 września, przypomina, że analogia biologiczna robi mniej, niż sugeruje marketing.

Nic z tego nie jest twardym dowodem. To opis tego, gdzie kumulują się możliwości i jak niewiele z nich powstało po to, by dały się sprawdzić. Rozmowa o dezinformacji od lat domaga się przejrzystości od platform. Następna runda może jej zażądać od protokołów.