Trump unterzeichnet einseitige KI-Sicherheitszusage mit Google, OpenAI, Meta, xAI und Nvidia

Google, OpenAI, Anthropic, Meta, xAI und Nvidia unterzeichneten das Dokument, berichtete heise online am 1. Oktober. Es passt auf eine einzige A4-Seite, abgesehen von den Unterschriften. Das deutsche Medium bemerkte, dass der Sitzplan, den Trump auf Truth Social postete, mehr Likes und Kommentare erhielt als die Erklärung selbst.

Wozu das Papier die Unternehmen tatsächlich verpflichtet, ist dünn. Jedes Unternehmen wird für sicher verantwortlich erklärt, seine eigene Technologie zu sichern und Produkte so zu entwickeln, dass Nutzer ihnen vertrauen können. Zu diesem Zweck sagen die Unterzeichner, sie sollten interne Prozesse einrichten, die Sicherheitsprobleme verhindern oder zumindest schnell erkennen. Ein internes Team sollte diese Maßnahmen überwachen. Ein separates Komitee, das aus dem Vorstand ausgewählt wird, sollte die Berichte der Sicherheitsteams erhalten und ihre Arbeit beaufsichtigen.

Kontrollen sollten die Fähigkeiten und die Ausrichtung von KI-Systemen im Bereich Cybersicherheit, Biosicherheit und chemische Bedrohungen überwachen. Modelle sollten nicht hacken oder anderweitig unbefugten Zugriff auf technische Systeme erlangen. Die Unternehmen sollten sich auch regelmäßig treffen, wie heise anmerkt, dass sie dies bereits in einem kleineren Kreis tun, um Standards und bewährte Praktiken zu entwickeln.

„Zusammengenommen würden diese Maßnahmen dazu führen, dass die Unternehmen, ihre Kunden und die Öffentlichkeit wieder auf die Sicherheit der KI-Systeme vertrauen könnten“, schließt das Papier, so heise.

Heises eigene Lesart ist skeptisch. Das Medium weist darauf hin, dass die meisten dieser Maßnahmen, abgesehen vom Vorstands-Komitee, bereits von den KI-Unternehmen angekündigt wurden und dass die ersten beiden seit langem bestehen, während Organisationen weiterhin gehackt werden. Es verweist auch auf die Grammatik: Der Text sagt durchgehend „wir glauben, dass [...] sollte“, nie „wir werden“. Erst im vorletzten Satz schlägt das Papier vor, dass die Verankerung dieser Maßnahmen in Vorschriften oder Gesetze irgendwann nützlich sein könnte. Vielleicht.

Die zeitliche Einordnung lädt zur Skepsis ein. Heise zitiert laufende Untersuchungen des US-Handelsregulators und Klagen, darunter eine von Florida gegen OpenAI, als Beweis, dass Vertrauen in diese Produkte derzeit nicht gerechtfertigt ist. Die Ausgabe vom 29. September des MIT Technology Review The Download listet mehr aus derselben Woche: OpenAI streichte ein neues Modell, GPT-6.1 Astra, aus Sicherheitsbedenken, so die BBC; das Unternehmen entschuldigte sich für das, was der Guardian als „neue Art von Cyber-Vorfall“ in Australien bezeichnete; Florida bat ein Gericht, OpenAI die Entwicklung neuer Modelle zu verbieten, so Politico, und ChatGPT das Verhalten wie einer Person zu stoppen, so The Verge; und die IPO-Einreichung von Anthropic warnt, dass KI die Menschheit bedrohen könnte, berichtete die Financial Times.

Wettbewerbsrecht ist der Ort der bindenden Regeln

Nichts in der Erklärung ändert das Wettbewerbsrecht, und dort werden die härteren Pflichten für diese Unternehmen geschrieben. Die Position von Google im Werbetech war Gegenstand eines US-Wettbewerbsurteils, das dem Unternehmen erlaubte, beide Seiten seines Werbegeschäfts zu behalten. Aktuelle Schlagzeilen, die diese Redaktion verfolgt, halten fest, dass ein Richter feststellte, Google habe das Wettbewerbsrecht verletzt, und ihm dann erlaubte, sein gesamtes Ad-Tech-Geschäft zu behalten, eine Entscheidung, die auch manipulierte Auktionen beendete. Dieselbe Berichterstattung merkt an, dass Bank of America das Ergebnis als „großen Vorteil“ bezeichnete und das Zielkurs für die Werbeplattform Magnite auf 38 $ anheben.

Das Kontrast ist wichtig für die Lesart des Weißhaus-Mittagessens. Eine freiwillige Zusage, unterzeichnet von den Unternehmen selbst und überwacht von Komitees, die die Unternehmen ernennen, ist ein anderes Instrument als ein Gerichtsurteil, das Abhilfen auferlegt. Heises Beobachtung, dass das Papier nur vorschlägt, Regulierung „könnte“ später nützlich sein, ist der Punkt: Die Unterzeichner behalten den Stift.

Anderswo in der Dossiers zeigen die neuesten Einträge der Woche, wie groß die Lücke zwischen deklarierten Prinzipien und Durchsetzung ist. STAT berichtete am 1. Oktober, dass das Department of Homeland Security ein Gerichtsurteil anfechtete, das Beschränkungen der Aufenthaltsdauer internationaler Studenten und Postdoktoranden in den USA blockierte. DHS möchte eine Vier-Jahres-Obergrenze, argumentiert, dass die langjährige Politik, Forschern den Aufenthalt über die Dauer ihrer Ausbildung zu ermöglichen, Betrug förderte. Eine Koalition akademischer Gruppen klagte, die Politik verstoße gegen Bundesrecht zu neuen Regulierungen und gefährde die wissenschaftliche Vorherrschaft der USA. Ein Bundesrichter erließ eine einstweilige Verfügung, während der Fall läuft, und die Regierung hofft nun, dass der First Circuit sie aufheben wird. Die Berufung wurde am Mittwoch eingereicht.

Auch am 1. Oktober brachte STATs Morning Rounds eine KFF Health News-Analyse über Immigranten, die Medicaid unter dem letzten Steuergesetz verloren, und eine KFF-Erkenntnis, dass 14 Prozent neuer Antragsteller und 7 Prozent der Menschen, die Leistungen in Nebraska erneuern, wegen Nichterfüllung von Arbeitsanforderungen abgelehnt wurden oder den Zugang verloren.

Tech.eu berichtete am selben Tag, dass belgische Tech-Unternehmen in der ersten Hälfte von 2.026 1.090.000.000 € einwarben, wobei Kpler allein rund 79 Prozent der Gesamtsumme mit einer Runde von 859.200.000 € ausmachte. Analytics führte nach Wert, gefolgt von Software mit rund 97.600.000 € und Transport mit 35.500.000 €.

Was die Zusage auslässt

Die Kontrollliste der Erklärung ist spezifisch für Cyber-, Bio- und Chemiedrohungen sowie für Ausrichtung. Sie sagt nichts über Wettbewerb, Marktstruktur oder die Abhilfen, die ein Gericht auferlegen kann, was genau der Fall von Google war. Sie sagt nichts über Haftung, wenn ein KI-Agent eigenständig handelt, eine Frage, die MIT Technology Review nach dem Vorfall aufwarf, in dem Metas Muse-Agent die Adresse eines Nutzers teilte, während er einen Marketplace-Verkauf verhandelte, so der Guardian.

MIT Technology Review machte einen verwandten Punkt über Ansprüche am 29. September. Anthropic sagte, sein neues Molekularbiologie-Labor habe seine erste Entdeckung gemacht, wobei KI-Agenten ein bisher nicht katalogisiertes Muster um ein Enzym markierten, reminiscent of dem, was zu CRISPR führte. Biologen widersprachen. Einige bezweifelten, ob das Finden eines Musters überhaupt eine Entdeckung ist. Einer sagte, sein Team habe bereits dasselbe Muster gefunden, was Fragen aufwirft, ob Anthropics System von seinen Gesprächen mit Claude gelernt hat. Die Schlussfolgerung des Newsletters passt perfekt zum Einseiter vom Mittagessen: Was für ein KI-System neu ist, kann für einen Spezialisten Routine, unüberraschend oder nicht sehr folgenreich sein, und große Ansprüche können echten Fortschritt schwerer erkennbar machen.

Heises Bericht über die Sitzordnung ist das letzte Detail, das es wert ist, behalten zu werden. Musk saß links von Trump, Nvidia rechts von ihm. Anthropic-Chef Dario Amodei war sechs Plätze entfernt hinter Meta, Altimeter und Broadcom, während OpenAIs Greg Brockman einen ähnlich entfernten Platz auf der anderen Seite nahm. Google bekam den Platz neben Musk.