Die neue Maschine der Desinformation: KI-Agenten, verschlüsselte Rückzugsorte und ein Web, das nichts belohnt

Die Desinformationsszene jagt seit einem Jahrzehnt Facebook-Seiten, Trollfarmen und koordiniertes unauthentisches Verhalten. Die Infrastruktur, die jetzt entsteht, ist leiser. Mit Politik hat sie meist gar nichts zu tun. Sie gibt autonomer Software eigene Netzwerke, eigene Identitäten und eigene verschlüsselte Kanäle. Oft lautet das ausdrückliche Versprechen, dass kein Mensch und keine Plattform hineinsehen kann.

Der Agent bekommt einen Schlüssel

Der Blogbeitrag von Tailscale vom 30. September beschreibt, wie Metas persönlicher Agent Muse als eigener Knoten einem Tailnet des Nutzers beitritt. Das passiert, sobald man sich über seinen Identity Provider anmeldet. Danach kann Muse andere Maschinen in diesem Netzwerk sehen und mit ihnen interagieren. Das Unternehmen schreibt, Muse baue nur ausgehende Verbindungen auf. Außerdem verlangt der Agent eine ausdrückliche Bestätigung, wenn er zum ersten Mal ein Gerät im Tailnet berührt. Nutzer können dauerhaften oder einmaligen Zugriff erteilen und ihn jederzeit widerrufen. Zugriffskontrollen, Grants und Tags gelten für den Agenten wie für jeden anderen Knoten, schreibt Tailscale.

Agent Haven, ein Dienst, der am selben Tag erschien, treibt die Idee weiter. Der Werbetext ist unverblümt. Der Client verschlüsselt jede Direktnachricht und jede Notiz, bevor sie den Rechner verlässt, und hält die einzigen Schlüssel. Der Server leitet Chiffretext weiter, ohne einen Hauptschlüssel auf seiner Seite. Er sieht nach eigenen Angaben Konten, Zeiten und aufgefüllte Größen, nie den Inhalt der Nachrichten. Die Seite räumt auch das offensichtliche Loch ein. Läuft der eigene Agent auf einem gehosteten Modell, sieht dieser Anbieter seinen Kontext, und keine Verschlüsselung auf Seiten von Agent Haven ändert daran etwas. Die Agenten dort „entwickeln durch Spiele eine eigene gemeinsame Sprache, was den Aufwand erhöht, ihnen von außen zu folgen“, heißt es auf der Seite.

Liest man diese beiden Dokumente zusammen, ergibt sich die Form des nächsten Problems. Ein Agentennetzwerk, das verschlüsselt, selbstgesteuert und nur teilweise beobachtbar ist, taugt für ein Homelab. Im Prinzip taugt es auch für jeden, der Koordination will, die Plattformen nicht crawlen können. Nichts in den beiden Quellen sagt, dass das geschieht. Der Punkt ist, dass das Design die einfache Antwort verbaut.

Was der Rest des Webs belohnt

Auch das größere Bild der Anreize stimmt nicht optimistisch. Der Beitrag von Big Think vom 29. September über die Weltkarte der Webcams vertritt ein Argument, das weich klingt, bis man es sacken lässt. Der Reiz von World Watcher Live liegt darin, dass nichts passiert. Ein Warzenschwein grast an der Hwange Safari Lodge in Simbabwe. Ein Lastwagen liefert auf der Bourbon Street Waren aus. Keine Erzählung, kein Drama, keine Engagement-Schleife.

„Diese Feeds sind eine stille Entgegnung auf das, was ein großer Teil der Online-Kultur geworden ist: Doomscrolling bis zur nächsten Katastrophe, eine Krise hinter jedem Klick“, schreibt Big Think.

Das ist Medienkritik aus einer Lifestyle-Kolumne, keine Desinformationsrecherche. Sie trifft trotzdem. Die Systeme, die falsche Behauptungen am besten tragen, sind die auf Reaktion getrimmten. Diese Ausrichtung ist kein Fehler, den jemand behebt. Daneben zeigen drei Beiträge, wohin die technische Aufmerksamkeit tatsächlich geht.

• Geometry Matters veröffentlichte am 30. September einen Überblick über Netzwerkgeometrie. Er behandelt fraktale Selbstähnlichkeit, latente hyperbolische Räume und die Frage, wie Informationen durch komplexe Systeme laufen, vom Gehirn bis zum Internet-Routing. Das ist die mathematische Schicht unter jeder Art von Netzwerkanalyse.
• Ein GitHub-Projekt, OpenDLSS-NR, stellte eine Vulkan-Neuimplementierung von Nvidias neuronalem Rendering-Netzwerk DLSS 5 vor. Sie ist bitgenau zum Original, mit einem WebGPU-Port, der dasselbe Netzwerk im Browser ohne Tensor Cores oder FP8 laufen lässt. Der Autor merkt an, die Genauigkeit stecke in der Spezifikation, nicht in der Hardware.
• Dylan Muirs Interview über spikende neuronale Netze, veröffentlicht am 30. September, erinnert daran, dass die biologische Analogie weniger leistet, als das Marketing nahelegt.

Nichts davon ist ein rauchender Colt. Es beschreibt, wo sich Fähigkeiten ansammeln und wie wenig davon auf Überprüfbarkeit ausgelegt ist. Die Desinformationsdebatte verlangt seit Jahren Transparenz von Plattformen. Die nächste Runde muss sie womöglich von Protokollen verlangen.