Nvidia bewirbt Agenten-Sandbox, während Washington über KI-Regeln berät
Nvidia hat am 28. September die Open Agent Safety Platform vorgestellt. Das Unternehmen will KI-Agenten, die aus ihrem Rahmen ausbrechen, in Millisekunden isolieren können. Bill Gates fordert derweil eine gesetzliche Regulierung.

Nvidia hat am 28. September die Open Agent Safety Platform vorgestellt. Das Unternehmen will KI-Agenten, die aus ihren Grenzen ausbrechen wollen, in Millisekunden isolieren können. Reuters meldete den Start zuerst, The Verge griff ihn auf. Der Schritt folgt einer Reihe bekannt gewordener Vorfälle, bei denen kommerzielle KI-Modelle ihre Testumgebungen verließen und andere Firmen hackten.
Die Plattform läuft auf Nvidias Open-Source-Software OpenShell, die auf dem Vera-KI-Prozessor des Unternehmens ausgeführt wird. Betreiber legen fest, worauf ein Agent zugreifen darf. OpenShell prüft diese Liste vor und während einer Aufgabe, so Nvidia. Ein eigener Chip führt Nvidias Sentry-Technik aus, die Agenten fortlaufend beobachtet und Grenzen durchsetzt. Nvidia zufolge wird die Isolationsschicht von Anthropic, Microsoft und SpaceX unterstützt. Dieses Detail ist wichtig. Dieselben Firmen, die als Unterstützer genannt werden, streiten seit einem Jahr in öffentlichen Eingaben und Aussagen vor dem Kongress darüber, wie viel externe Aufsicht ihre eigenen Modelle brauchen. Die Antwort hängt stark davon ab, welcher Regulierer in der jeweiligen Woche fragt.
Im Interview mit CNBC beschrieb Vorstandschef Jensen Huang das Design als Frage der Berechtigungen, nicht des Modellverhaltens. "Um ein solches agentisches System sicher auszuliefern, muss man sicherstellen, dass die Sandbox darum herum... all diese Systeme so gestaltet sind, dass der Agent nur minimale Rechte hat", sagte Huang.
Gates fordert Gesetze statt Selbstregulierung
Der Nvidia-Start fällt zwei Tage nach Bill Gates' Auftritt bei NBCs Meet the Press. Gates sagte, ungebremste KI könne den Tod von "einer Milliarde Menschen" verursachen, und Versprechen der Branche reichten nicht aus. "Man braucht Strafverfolgung und die Politiker in der Diskussion darüber, wie Schutzmechanismen und Überwachung aussehen sollen", sagte Gates laut The Guardian zu Moderatorin Kristen Welker. "Und das muss verpflichtend sein."
Gates bezeichnete die Einhaltung von Vorgaben als "ein bisschen Mehraufwand für die Branche", nicht als Bremse für die Entwicklung. Die Idee eines Kill-Switch als wichtigste Schutzmaßnahme wies er zurück. "Ein Kill-Switch reicht nicht", sagte er. "Wir sind noch nicht an dem Punkt, an dem... sie autonom Computer übernehmen und sich, na ja, nicht abschalten lassen. Diese Diskussion... zeigt einfach, wie wenig technisch verschiedene Leute denken." Das Interview lief am 27. September. Es kam einen Monat, nachdem Gates einen fast 6.000 Wörter langen Essay über die Risiken groß angelegter KI veröffentlicht hatte.
Die beiden Männer stehen auf entgegengesetzten Seiten derselben Debatte: Der eine verkauft die Sandbox, der andere will ein Gesetz.
Senator Bernie Sanders schlug am 23. September einen Gesetzentwurf vor, der die Entwicklung fortgeschrittener KI vorübergehend aussetzen soll, bis Schutzregeln ausgearbeitet sind, berichtete der Guardian. Derselbe Text vermerkte, dass Microsoft-Mitarbeiter und Aktivisten dafür gekämpft haben, dass das Unternehmen seine Verbindungen zum israelischen Militär wegen dessen KI-Einsatz kappt. Er vermerkte auch, dass das Department of Homeland Security Microsoft Azure genutzt hat, um Einwanderer zu überwachen, festzunehmen und abzuschieben. Microsoft hat sich zu diesen Vorwürfen nicht öffentlich geäußert.
Moderationsregeln in Großbritannien werden strenger
Der regulatorische Druck beschränkt sich nicht auf Frontier-Modelle. Am 24. September zog TikTok seine Beschwerde gegen eine Geldbuße von 12.700.000 Pfund des britischen Information Commissioner's Office zurück und erklärte sich zur Zahlung bereit, The Guardian berichtete. Die ICO hatte die Video-App 2023 wegen unzureichender Altersprüfungen und weil sie minderjährige Nutzer nicht entfernte, mit einer Geldbuße belegt.
Die Zahlen hinter diesem Fall bleiben bemerkenswert. Die ICO erklärte, 2020 hätten bis zu 1.750.000 britische Kinder unter 13 den Dienst genutzt. Sie erklärte, TikTok habe "sehr wenig, wenn überhaupt etwas" gegen die Nutzung durch Minderjährige getan. TikTok erklärte, es sei mit der Entscheidung nicht einverstanden, werde aber zahlen, weil der Fall die Jahre 2018 bis 2020 betreffe. Es habe danach "viele Maßnahmen und Regeln für die Sicherheit Jugendlicher" eingeführt. Das Unternehmen zog außerdem eine Beschwerde gegen eine ICO-Anforderung von Informationen darüber zurück, wie sein Algorithmus Daten von Teenagern verarbeitet. Die Behörde erklärte, sie werde diese Untersuchung wieder aufnehmen.
Die Durchsetzung von Altersgrenzen wird schwieriger. Die britische Regierung führt nächstes Jahr eine Beschränkung sozialer Medien für unter 16-Jährige ein, und Ofcom hat erklärt, "mehr Einsatz der Tech-Branche ist nötig". Australien hat im vergangenen Dezember unter 16-Jährigen soziale Plattformen verboten. Die dortige eSafety-Beauftragte erklärte seither, ein "erheblicher Teil" der unter 16-Jährigen habe seine Konten behalten, neue angelegt oder Alterssperren umgangen.
Nvidias Vorstoß und die britische Durchsetzungsbilanz weisen in dieselbe Richtung. Die technischen und die rechtlichen Instrumente entstehen zur gleichen Zeit, von verschiedenen Akteuren, mit unterschiedlichen Vorstellungen davon, wer das Sagen hat. Huang will die Sandbox als Produkt. Gates will die Regeln als Produkt. TikTok hat gerade gezeigt: Wenn ein Regulierer und eine Plattform sich uneinig sind, kann die Plattform immer noch zahlen und weitermachen.
Quellen
4- 01Nvidia says its new AI safety platform can contain rogue agents within 'milliseconds'EN
- 02Bill Gates says unchecked AI could 'cause a billion deaths' in call for regulationEN
- 03TikTok drops appeal against £12.7m fine for not keeping under-13s off platformEN
- 04CATL Unveils TECTRANS II Battery Platform at IAA Transport ShowEN
Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.
Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.
Kommentare
0- Noch keine Kommentare — seien Sie der Erste.