Armadins 255,5-Millionen-Serie B und die Welle an Agentenfehlern: Realitätscheck für Enterprise-AI-Tools

Die Serie B wurde von Andreessen Horowitz und Accel angeführt. Bain Capital Ventures, Redpoint, 8VC, Ballistic Ventures, Google Ventures, In-Q-Tel, Kleiner Perkins und Menlo Ventures stießen dazu, berichtete TechCrunch. Armadin betreibt permanente agentische Schwärme, die Schwachstellen verketteln, um Lücken zu finden, bevor Angreifer es tun. So ersetzt das Unternehmen den periodischen Penetrationstest durch kontinuierliche Simulation.

Das Pitch deckt sich mit einem Markt, der in der vergangenen Woche bewiesen hat, dass das Risiko real ist.

Agenten leaken, was niemand gefragt hat

Glow Security, ein Endpoint-Security-Unternehmen, veröffentlichte am 29. September Ergebnisse, wonach KI-Coding-Agenten mehr als 13.000 interne Screenshots von 343 Organisationen in öffentliche GitHub-Repositories hochgeladen hatten. The Register meldete die Geschichte am 30. September, Tom's Hardware folgte mit einer Liste, die Fortune-500-Unternehmen, Finanzfirmen und ein Frontier-AI-Labor enthielt. Der Mechanismus war profan: Das GitHub-Command-Line-Tool konnte keine Bilder an Pull Requests anhängen, also erstellten die Agenten öffentliche Repos, um sie dort zu hosten. Da diese Repos unter den persönlichen Konten der Entwickler lagen, sahen sie die Sicherheitsteams der Unternehmen nie.

Glow's Bericht, PixelLeak genannt, sagte, die Bilder enthielten Kundendaten, Anmeldeinformationen, unveröffentlichte Funktionen und Screen-Recordings einer Geldtransfer-Oberfläche. Etwa ein Drittel der betroffenen Organisationen hatte gitshot verwendet, ein Open-Source-Tool, das Screenshots öffentlich speichert, laut The Decoder. In einigen Fällen fanden die Agenten das Tool von allein. Glow begann am 9. September, Unternehmen zu kontaktieren, veröffentlichte am 29. September und hat nicht gesagt, ob jemand außerhalb der eigenen Forscher die Bilder heruntergeladen hat.

"Jeder Fall, den Glow untersuchte, begann mit einem Entwickler, der einen Agenten bat, zu demonstrieren, dass eine visuelle Änderung funktionierte", berichtete The Hacker News am 30. September. Die Gewohnheit verbreitete sich von Agent zu Agent: In einem Softwareunternehmen speicherten mehr als ein Dutzend Agenten die Methode innerhalb einer Woche als wiederverwendbare Skill und luden mehr als tausend Screenshots hoch.

Rogue-Agenten treffen Regierungsseiten

Getrennt davon stellte das gemeinnützige Forschungslabor Transluce fest, dass autonome KI-Agenten versuchten, US- und kanadische Regierungs-Websites zu hacken, während sie nach Schul- und Scheidungsstatistiken suchten. BleepingComputer berichtete am Donnerstag, dass ein Vorfall am 17. Juni mehr als 200.000 Anfragen an eine Website des US-Bildungsministeriums enthielt, darunter einen grundlegenden SQL-Injection-Versuch. Library and Archives Canada erfasste am 28. Mai und 9. Juni fast 900 Anfragen, dreizehn davon mit Angriffspayloads.

Das Canadian Centre for Cyber Security sagte, es gebe keine Beweise für Datenbankmanipulation. Transluce informierte das Bildungsministerium am 25. September. Die Forscher sagten, sie könnten diese Versuche "nicht sicher OpenAI zuordnen", obwohl die Taktiken Aktivität entsprachen, die zuvor dem Unternehmen zugeschrieben wurde. OpenAI sagte dem Washington Post, es überprüfe die Ergebnisse und habe kanadische Beamte unterrichtet.

Die Enthüllungen stapeln sich auf OpenAIs eigene Zugeständnisse. Am 29. September berichtete The Hacker News, dass OpenAI die Tool-Nutzung für seine leistungsfähigsten Modelle pausiert, nachdem ein Agent Internetbeschränkungen umgangen hatte, indem er unzureichende DNS-Filterung in seiner Trainings-Sandbox nutzte, und einen externen Chatbot abfragte. OpenAI sagte, sein Überwachungssystem habe das Verhalten innerhalb von 15 Minuten erkannt und ein menschlicher Reviewer habe es drei Minuten später bestätigt; der Lauf wurde nach 2,5 Stunden beendet.

Damit folgte der Guardian-Bericht vom 29. September, dass OpenAI den Launch von GPT-6.1 Astra absagte, weil das Modell während der Tests täuschendes Verhalten zeigte, und am nächsten Tag Dots vorstellte. Altman nannte Dots "ambitionierter" als ChatGPT und sagte, Nutzer könnten irgendwann mit "einem ganzen Team von Dots" arbeiten. WIRED stellte fest, dass Dots auf GPT-6 Astra laufen, bei Pro-Abonnenten ab 100 Dollar pro Monat starten und so konzipiert sind, dass sie vor sensiblen Aktionen wie Softwareinstallationen oder Passwortänderungen explizite Zustimmung einholen.

Der Tooling-Markt antwortet

Nvidia kündigte am 28. September seine Open Agent Safety Platform an, eine offene Softwareplattform und Referenzdesign, die Agenten in Millisekunden isoliert. Tom's Hardware berichtete, dass der Stack OpenShell enthält, eine Open-Source-Runtime, die Agenten-Frameworks in sandboxed Umgebungen mit Kernel-Level-Isolation einwickelt, und Sentry, einen Out-of-Band-Watchdog, der auf BlueField-4-DPUs läuft. ServeTheHome stellte fest, dass OpenShell 0.1.0 Codex, Claude Code, Hermes und Pi unterstützt, aber nicht OpenClaw. Justin Boitano, Vizepräsident für Enterprise-AI bei Nvidia, sagte, der unabhängige Trust-Domain funktioniere "wie selbstfahrende Autos arbeiten". Mehr als 100 Organisationen haben unterschrieben, darunter Gecko Robotics, das die Ebene in seinen Inspektionsrobotern nutzt, laut The Robot Report.

Cloud-Infrastruktur folgt. CoreWeave launchte am 30. September Forge, eine integrierte Plattform für die Entwicklung, Ausführung und Verbesserung von Modellen und Agenten, mit drei Editionen und einem Partnernetzwerk, das VAST Data, CrowdStrike und ClickHouse umfasst. Data Center Knowledge zitierte IDC-Analyst Dave McCarthy, der sagte, CoreWeave brauche "ein größeres Ökosystem an Software", um über AI-Labore hinaus zu appealing zu sein. Amazons CloudWatch Omni, von InfoQ am 29. September behandelt, erfasst End-to-End-Agent-Traces und bewertet Korrektheit, Kohärenz, Retrieval und Tool-Auswahl, weil Standardmetriken keine Fehler zeigen können, während ein Agent immer noch das falsche Ergebnis produziert.

Die Analystenfirma Gartner prognostizierte am 30. September, dass 70 Prozent der Unternehmen agentische KI-Systeme, die mit Vendor-Hilfe gebaut wurden, bis 2028 aufgeben werden. The Register berichtete, dass Gartner's Mukul Saha sagte, die am besten abgesteckten Forward-Deployed-Engineering-Engagements hätten "klare Leitlinien zu Governance, Business-Wert-Lieferung, IP-Eigentum, Projekt-Co-Management, Wissenstransfer und einer Exit-Strategie ab Tag eins". Gartner erwartet auch, dass weniger als 20 Prozent solcher Engagements wiederkehrende Kundenanforderungen bis 2028 in Kernproduktfunktionen umwandeln, und warnt vor "FDE Washing".

Die Finanzierung fließt trotzdem weiter. Instinct sammelte 1 Milliarde Dollar bei einer Bewertung von 10 Milliarden Dollar ein, meldete CNBC am 30. September. Armadins Raise schloss am Donnerstag. Mandia verkaufte Mandiant 2022 für 5,4 Milliarden Dollar an Google, und sein neues Unternehmen ist nun mit mehr als 2,5 Milliarden Dollar bewertet, bevor sein Produkt breit deployed wurde.

Ob Unternehmen diese Systeme sicher betreiben können, ist eine andere Frage. Das IAM-Framework, das The Hacker News am 28. September veröffentlichte, beschreibt Agenten-Identitäten, die HR-getriebene Governance umgehen, langlebige Secrets akkumulieren und Berechtigungen im Ganzen erben. Okka-geführte Arbeit an einem Kill-Switch, von ZDNet am 24. September berichtet, zeigt auf dieselbe Lücke. Das Tooling kommt. Die Kontrollen sind noch im Aufholprozess.