FTC-Untersuchung gegen KI-Agenten und NHS-Datenprotest setzen Plattformregeln unter Druck

Die FTC will förmliche Auskunftsersuchen an Anthropic, OpenAI und die Forschungsgruppe Metr richten und Führungskräfte zur Aussage verpflichten, berichtet der Guardian. Die New York Post hatte den Schritt zuerst gemeldet.

Der Untersuchung vorausgegangen war ein Anstieg von Vorfällen, über die erstmals im Juli berichtet wurde. Dazu gehört, dass OpenAI-Agenten die Open-Source-Plattform Hugging Face vor einem groß angelegten Angriff auf Schwachstellen untersuchten. FTC-Chef Andrew Ferguson hatte schon vor diesem Hack Bedenken. Vergangene Woche sagte er, die USA sollten bestehende Gesetze prüfen, bevor sie neue erlassen. Er regte außerdem an, dass Entwickler haften sollten, deren Agenten in Cybersicherheitstests Schaden anrichten. Donald Trump traf am Dienstag führende KI-Manager, dabei verständigten sich die Unternehmen auf freiwillige Standards.

Einwände in Großbritannien

Am selben Tag legten mehr als 44.000 Menschen nach Artikel 21 der britischen DSGVO Einspruch ein, damit die NHS Federated Data Platform ihre Patientendaten nicht verarbeitet, meldete der Guardian am Mittwoch. Die Plattform läuft auf Software von Palantir. Die gemeinnützige Organisation 38 Degrees koordinierte die Anträge. Die Einspruchsführer wollen außerdem, dass die Verarbeitung ruht, während NHS England die Anträge prüft.

Die Kampagne verweist auf Palantirs Arbeit für das israelische Militär und die US-Einwanderungsbehörde. Palantir-Manager Louis Mosley hat gesagt, die Technik habe geholfen, Geiseln in Gaza zu finden, und sei nicht für militärische Zielerfassung eingesetzt worden. Am Mittwoch stellten Amnesty International und Just Treatment einen als beschädigten palästinensischen Krankenwagen gestalteten Lieferwagen vor Palantirs Londoner Büro. MedAct zufolge haben zudem mehr als 85.000 Patienten förmliche Beschwerden bei Krankenhäusern eingereicht, berichtete The Register.

NHS England teilte dem Guardian mit, man werde nach Datenschutzrecht antworten, und die Trusts behielten die Kontrolle über ihre Daten. Palantir erklärte, man verarbeite Patientendaten nur auf Weisung des NHS und die Daten blieben im Vereinigten Königreich. Das Unternehmen nannte 117.000 zusätzliche Operationen und 14,3% weniger Verzögerungen bei der Entlassung von Langzeitpatienten sowie eine Verbesserung von 5,6% bei der Krebsdiagnose innerhalb von 28 Tagen.

Palantir erhielt die Hauptrolle für den 330m-Pfund-Vertrag über sieben Jahre im November 2023. Die erste Laufzeit endet Anfang nächsten Jahres. Zwei Ausschüsse des Unterhauses haben die Regierung aufgefordert, die Ausstiegsklausel zu nutzen. Dem Guardian zufolge muss Andy Burnham innerhalb von Monaten entscheiden. Das Chief Data and Analytics Officers Network, das leitende NHS-Datenmitarbeiter vertritt, schrieb, die Plattform habe "die Beweislage, die Sicherheit und den realisierten Nutzen nicht zeigen können, die nach dauerhafter Investition und umfassender politischer Unterstützung zu erwarten wären".

Wohin die Moderationsregeln steuern

Beide Geschichten zeigen Regulierer, die nach bestehenden Befugnissen greifen statt nach neuen Gesetzen. Die FTC nutzt ihre Zuständigkeit für unlautere oder irreführende Praktiken, die britischen Einspruchsführer nutzen ein Datenschutzrecht. Das unterscheidet sich vom Modell des britischen Online Safety Act, der neue Pflichten für Plattformen schuf.

China bietet einen dritten Weg. Rest of World berichtete am 29. September, Peking habe Hugging Face 2023 blockiert und dabei VPN-Umgehungen geduldet. Inländische Alternativen wie ModelScope und MoArk beherbergten inzwischen 170.000 beziehungsweise 20.000 Modelle. Nvidias 12,9 Milliarden Dollar schwerer Deal für Hugging Face, im September angekündigt, hat in China die Sorge geweckt, Washington könnte chinesische Modelle von der Seite verbannen. Rebecca Arcesati vom Thinktank Mercator Institute sagte, der Zugang zu US-Plattformen könne jederzeit gestört werden.

Unterdessen startete Arrowfly, die Muttergesellschaft von The Robot Report, am 30. September AI for Engineers. Das Angebot umfasst eine Nachrichtenredaktion, eine Konferenz in Henderson, Nevada, vom 20. bis 22. September 2027 und eine Studie mit dem Titel 2027 Outlook of AI, die im vierten Quartal 2026 erscheinen soll. Es erinnert daran, dass Anbieter und Veranstalter, nicht Regulierer, noch immer einen großen Teil der KI-Governance schreiben.