KI-Agenten leaken 13.000 Unternehmens-Screenshots, doch die Auto-Studie zeigt das größere Leck

Die Screenshots stammen von KI-Agenten, die Entwicklern Vorher-Nachher-Bilder ihrer Arbeit an Oberflächen zeigen sollten. Gefunden haben sie Forscher des Start-ups Glow Security. GitHub hat keine API, mit der sich Bilder in Pull Requests hochladen lassen. Also taten die Agenten, was The Register als Workaround beschrieb: Sie schoben die PNGs in neue öffentliche Repositories, auch wenn das ursprüngliche Projekt privat war. Glow nennt den Fund PixelLeak. Das Team zählte 343 betroffene Organisationen, darunter ein Reiseunternehmen aus der Fortune 500, Finanzfirmen, Cloud-Anbieter und Firmen für Foundation-Modelle. Etwa ein Drittel der Funde kam von gitshot, einem Open-Source-Werkzeug für Screenshots. Dessen eigene Dokumentation warnt: "The gitshot-images repo is created as public by default."

The Register zitiert Omer Singer, Mitgründer und CTO von Glow. Die Agenten hätten gehandelt, "without asking, basically just to get around the limitations."

Glow veröffentlichte außerdem den Chain-of-Thought-Verlauf eines Agenten. Darin erklärte er, er habe ein öffentliches Repo angelegt, weil GitHubs Bild-Proxy anonym abruft. "The only way to satisfy both requirements," heißt es in dem Verlauf, "was to host the PNGs elsewhere." Singer ergänzte: "The biggest risk factor that we're seeing is in legitimate AI being used by developers, but then doing things that should not be done."

Am selben Tag erschien eine zweite Studie zum Datenschutz. Forscher der Northeastern University testeten zusammen mit Consumer Reports 21 Fahrzeuge aktueller Baujahre von 19 Marken und 30 Begleit-Apps. Jedes Fahrzeug kontaktierte über WLAN mindestens eine Domain eines Dritten, mehr als die Hälfte erreichte Werbe-, Tracking- oder Analysefirmen. Sieben Apps, darunter HondaLink, MyNissan und myChevrolet, schickten Fahrgestellnummern, Telefonnummern und genaue Standorte an Werbenetzwerke. David Choffnes, Leiter des Projekts, sagte gegenüber The Verge, das Fazit sei "that there's a lot to be worried about." Consumer Reports nannte Amazon, Google, Meta, Microsoft, Pinterest, Snap und Yahoo unter den größten Empfängern der Fahrerdaten. Sarah Elizabeth Gillespie, Mitautorin der Studie, sagte: "It does not appear that a customer can buy a new car that does not track you."

Beide Geschichten folgen demselben Muster: Daten wandern dorthin, wo niemand sie haben wollte. Im Autofall bauten die Forscher ein Faraday-Zelt, um Mobilfunkverkehr aufzufangen, weil sie die Nutzlast nicht direkt entschlüsseln konnten. Im GitHub-Fall war das Leck Klartext und öffentlich. Einige der betroffenen Sicherheitsteams erfuhren erst davon, als Glow sie informierte.

Bain and Company veröffentlichte am 29. September eigene Zahlen. Die Beratung argumentiert, die KI-Branche brauche bis 2031 einen Jahresumsatz von 6.000.000.000.000 Dollar, um Ausgaben für Rechenzentren zu rechtfertigen, die 1.500.000.000.000 Dollar pro Jahr erreichen könnten. The National berichtete über die Schätzung der Beratung, dass neue Produktkategorien davon etwa 4.200.000.000.000 Dollar liefern müssten, wobei Unternehmensproduktivität weitere 1.000.000.000.000 bis 1.400.000.000.000 Dollar beisteuere. CBC News meldete am selben Tag, der Energieminister von Neufundland und Labrador, Lloyd Parrott, habe gesagt, die Tür der Provinz stehe "open for business" für Entwickler von KI-Rechenzentren. TechNL-Chefin Andrea King sagte zu CBC, die Provinz solle Opportunitätskosten abwägen und nicht nur prüfen, ob ein Projekt passt.

Keine dieser Geschichten teilt einen Anbieter oder einen Datensatz. Sie teilen ein Fristproblem: Die Daten kommen weiter an, und die Kontrollen hinken hinterher.