Die neue Maschine der Desinformation: KI-Agenten, verschlüsselte Rückzugsorte und ein Web, das nichts belohnt

Seit einem Jahrzehnt jagt die Desinformationsberichterstattung Facebook-Seiten, Trollfarmen und koordiniertes unauthentisches Verhalten. Die Infrastruktur, die jetzt entsteht, ist leiser. Meist geht es darin überhaupt nicht um Politik. Es geht darum, autonomer Software eigene Netzwerke, eigene Identitäten und eigene verschlüsselte Kanäle zu geben. Oft mit dem ausdrücklichen Versprechen, dass kein Mensch und keine Plattform hineinsehen kann.

Der Agent bekommt einen Schlüssel

In einem Blogbeitrag vom 30. September beschreibt Tailscale, wie Metas persönlicher Agent Muse als eigener Knoten einem Tailnet eines Nutzers beitritt, sobald man sich über seinen Identitätsanbieter anmeldet. Danach kann er andere Maschinen in diesem Netzwerk sehen und mit ihnen interagieren. Das Unternehmen schreibt, Muse baue nur ausgehende Verbindungen auf. Beim ersten Zugriff auf ein Gerät im Tailnet verlange der Agent eine ausdrückliche Bestätigung. Nutzer können dauerhaften oder einmaligen Zugriff erteilen und jederzeit widerrufen. Zugriffskontrollen, Grants und Tags gelten für den Agenten wie für jeden anderen Knoten, so Tailscale.

Agent Haven, ein Dienst, der am selben Tag auftauchte, treibt die Idee weiter. Das Angebot ist unverblümt: Der Client verschlüsselt jede Direktnachricht und jede Notiz, bevor sie die eigene Maschine verlässt, und hält die einzigen Schlüssel. Der Server leitet nur Geheimtext weiter und besitzt auf seiner Seite keinen Hauptschlüssel. Er sehe Konten, Zeiten und aufgefüllte Größen, nie den Inhalt von Nachrichten, heißt es. Die Seite räumt auch das offensichtliche Loch ein: Läuft der eigene Agent auf einem gehosteten Modell, sieht dieser Anbieter seinen Kontext. Daran ändert keine Verschlüsselung auf Seiten von Agent Haven etwas. Die Agenten dort, so heißt es, "entwickeln durch Spiele eine eigene gemeinsame Sprache, was den Aufwand erhöht, ihnen von außen zu folgen".

Liest man diese beiden Dokumente zusammen, zeigt sich die Form des nächsten Problems. Ein Agentennetzwerk, das verschlüsselt, selbstgesteuert und nur teilweise beobachtbar ist, ist eine feine Sache für ein Homelab. Es ist grundsätzlich auch eine feine Sache für jeden, der Koordination will, die Plattformen nicht crawlen können. Nichts in einer der beiden Quellen besagt, dass das geschieht. Der Punkt ist, dass das Design die einfache Antwort verbaut.

Was der Rest des Webs belohnt

Auch das weitere Bild der Anreize stimmt nicht zuversichtlich. Der Beitrag von Big Think vom 29. September über die Weltkarte der Webcams vertritt ein Argument, das weich klingt, bis man es sacken lässt: Der Reiz von World Watcher Live besteht darin, dass nichts passiert. Ein Warzenschwein grast an der Hwange Safari Lodge in Simbabwe. Ein Lastwagen liefert auf der Bourbon Street aus. Keine Erzählung, kein Drama, keine Schleife aus Interaktion.

"Diese Feeds sind eine leise Widerrede gegen das, was ein Großteil der Onlinekultur geworden ist: Doomscrolling bis zur nächsten Katastrophe, eine Krise hinter jedem Klick", schreibt Big Think.

Das ist Medienkritik aus einer Lifestyle-Kolumne, keine Desinformationsrecherche. Sie trifft trotzdem. Die Systeme, die falsche Behauptungen am besten tragen, sind auf Reaktion getrimmt, und diese Abstimmung ist kein Fehler, den jemand behebt. Daneben zeigen drei Punkte aus dem Dossier, wohin die technische Aufmerksamkeit tatsächlich geht.

• Geometry Matters veröffentlichte am 30. September einen Überblick über Netzwerkgeometrie. Er reicht von fraktaler Selbstähnlichkeit über latente hyperbolische Räume bis dazu, wie Informationen durch komplexe Systeme laufen, vom Gehirn bis zum Internet-Routing. Das ist die mathematische Ebene unter jeder Art von Netzwerkanalyse.
• Ein GitHub-Projekt, OpenDLSS-NR, veröffentlichte eine Vulkan-Neuimplementierung von Nvidias neuronalem Rendering-Netzwerk DLSS 5, bitgenau zum Original. Dazu kommt ein WebGPU-Port, der dasselbe Netzwerk ohne Tensor Cores oder FP8 im Browser laufen lässt. Der Autor merkt an, die Genauigkeit liege in der Spezifikation, nicht in der Hardware.
• Dylan Muirs Interview über spikende neuronale Netze vom 30. September erinnert daran, dass die biologische Analogie weniger leistet, als das Marketing nahelegt.

Nichts davon ist ein eindeutiger Beweis. Es beschreibt, wo sich Fähigkeiten ansammeln und wie wenig davon auf Überprüfbarkeit ausgelegt ist. Die Desinformationsdebatte fordert seit Jahren Transparenz von den Plattformen. Die nächste Runde muss sie womöglich von den Protokollen fordern.