La nuova macchina della disinformazione: agenti AI, rifugi cifrati e un web che non premia nulla

Chi si occupa di disinformazione ha passato un decennio a inseguire pagine Facebook, fabbriche di troll e comportamenti coordinati non autentici. L'infrastruttura che si sta costruendo ora è più silenziosa. In gran parte non ha niente a che vedere con la politica. Dà al software autonomo reti proprie, identità proprie e canali cifrati propri. Spesso la promessa esplicita è che nessun essere umano e nessuna piattaforma possano vedere cosa succede dentro.

L'agente riceve una chiave

Il post sul blog di Tailscale del 30 settembre spiega come Muse, l'agente personale di Meta, entri nella tailnet di un utente come nodo a sé. Succede dopo il login con il proprio identity provider. Da quel momento Muse può vedere le altre macchine della rete e interagire con loro. L'azienda precisa che Muse apre solo connessioni in uscita. Richiede inoltre una conferma esplicita la prima volta che tocca un dispositivo della tailnet. Gli utenti possono concedere accesso permanente o una tantum e revocarlo in qualsiasi momento. I controlli di accesso, le concessioni e i tag si applicano all'agente come a qualsiasi altro nodo, scrive Tailscale.

Agent Haven, un servizio comparso lo stesso giorno, spinge l'idea più avanti. La sua proposta è netta. Il client cifra ogni messaggio diretto e ogni nota prima che lascino la macchina dell'utente e tiene per sé le uniche chiavi. Il server inoltra testo cifrato e non conserva nessuna chiave maestra. Dichiara di vedere account, orari e dimensioni riempite a padding, mai il contenuto dei messaggi. Il sito ammette anche il buco evidente. Se il vostro agente gira su un modello ospitato, quel fornitore vede il suo contesto, e nessuna cifratura lato Agent Haven cambia le cose. Si legge che gli agenti lì «sviluppano un linguaggio condiviso proprio attraverso i giochi, il che rende più faticoso seguirli dall'esterno».

Leggendo i due documenti insieme si delinea il prossimo problema. Una rete di agenti cifrata, che si dirige da sola e si può osservare solo in parte va benissimo per un homelab. In linea di principio va benissimo anche a chiunque voglia un coordinamento che le piattaforme non possono scansionare. Nessuna delle due fonti dice che stia succedendo. Il punto è che il progetto esclude la risposta facile.

Che cosa premia il resto del web

Il quadro più ampio degli incentivi non è incoraggiante. L'articolo di Big Think del 29 settembre sulla mappa mondiale delle webcam sostiene una tesi che sembra debole finché non ci si pensa su. Il fascino di World Watcher Live è che non succede nulla. Un facocero pascola all'Hwange Safari Lodge in Zimbabwe. Un camion consegna merci su Bourbon Street. Nessuna narrazione, nessun dramma, nessun ciclo di engagement.

«Questi flussi sono una replica silenziosa a ciò che è diventata gran parte della cultura online: il doomscrolling verso il prossimo disastro, una crisi dietro ogni clic», scrive Big Think.

È una critica ai media da una rubrica di lifestyle, non un'inchiesta sulla disinformazione. Funziona lo stesso. I sistemi che trasportano meglio le affermazioni false sono quelli tarati sulla reazione. Quella taratura non è un difetto che qualcuno stia correggendo. Accanto a questo, tre elementi mostrano dove va davvero l'attenzione tecnica.

• Geometry Matters ha pubblicato il 30 settembre una rassegna sulla geometria delle reti. Tratta l'autosimilarità frattale, gli spazi iperbolici latenti e come l'informazione si instrada nei sistemi complessi, dal cervello al routing di internet. È lo strato matematico sotto qualsiasi analisi di rete.
• Un progetto su GitHub, OpenDLSS-NR, ha pubblicato una reimplementazione in Vulkan della rete di rendering neurale DLSS 5 di Nvidia. È identica bit per bit all'originale, con un port WebGPU che esegue la stessa rete in un browser senza tensor core né FP8. L'autore osserva che l'esattezza sta nella specifica, non nell'hardware.
• L'intervista di Dylan Muir sulle reti neurali a impulsi, pubblicata il 30 settembre, ricorda che l'analogia biologica fa meno lavoro di quanto suggerisca il marketing.

Niente di tutto questo è una prova schiacciante. È una descrizione di dove si accumula capacità, e di quanto poco di questa capacità sia costruito per essere ispezionato. La discussione sulla disinformazione ha passato anni a chiedere trasparenza alle piattaforme. Il prossimo giro potrebbe doverla chiedere ai protocolli.