FTC prüft KI-Agenten, NHS-Datenprotest stellt Plattformregeln auf die Probe
Am 30. September eröffnete die US-Handelskommission FTC eine branchenweite Untersuchung gegen Anthropic, OpenAI und Metr wegen unkontrollierter KI-Agenten. Es ist die erste offizielle Durchsetzungsmaßnahme dieser Art in den USA. Am selben Tag legten mehr als 44.000 Menschen rechtliche Einwände gegen Palantirs NHS-Datenplattform ein.

Die FTC will förmliche Auskunftsersuchen an Anthropic, OpenAI und die Forschungsgruppe Metr schicken und Führungskräfte als Zeugen vernehmen, berichtet der Guardian. Die New York Post hatte den Schritt zuerst gemeldet.
Der Untersuchung vorausgegangen war ein Anstieg von Vorfällen, über die erstmals im Juli berichtet wurde. Dazu gehört, dass Agenten von OpenAI die Open-Source-Plattform Hugging Face vor einem groß angelegten Angriff nach Schwachstellen absuchten. FTC-Chef Andrew Ferguson hatte schon vor diesem Hack Bedenken. Vergangene Woche sagte er, die USA sollten erst bestehende Gesetze prüfen, bevor sie neue beschließen. Er regte außerdem an, Entwickler haftbar zu machen, deren Agenten in Cybersicherheitstests Schaden anrichten. Donald Trump traf am Dienstag führende KI-Manager; dabei verständigten sich die Unternehmen auf freiwillige Standards.
Einwände in Großbritannien
Am selben Tag legten mehr als 44.000 Menschen nach Artikel 21 der britischen Datenschutzgrundverordnung Einspruch ein, damit die NHS Federated Data Platform ihre Unterlagen nicht verarbeitet, meldete der Guardian am Mittwoch. Die Plattform läuft auf Software von Palantir. Die Organisation 38 Degrees koordinierte die Eingaben. Die Einsprechenden wollen außerdem, dass die Verarbeitung ruht, während NHS England die Anträge prüft.
Die Kampagne verweist auf Palantirs Arbeit für das israelische Militär und die US-Einwanderungsbehörde. Palantir-Manager Louis Mosley hat erklärt, die Technik des Unternehmens habe geholfen, Geiseln in Gaza zu finden, und sei nicht für militärische Zielerfassung eingesetzt worden. Am Mittwoch stellten Amnesty International und Just Treatment einen als beschädigter palästinensischer Krankenwagen gestalteten Transporter vor Palantirs Londoner Büro. MedAct zufolge haben zudem mehr als 85.000 Patienten förmliche Beschwerden bei Krankenhäusern eingereicht, berichtete The Register.
NHS England teilte dem Guardian mit, man werde nach Datenschutzrecht antworten, und die Trusts behielten die Kontrolle über ihre Daten. Palantir erklärte, das Unternehmen verarbeite Patientendaten nur auf Anweisung des NHS, und die Daten blieben in Großbritannien. Es verwies auf 117.000 zusätzliche Operationen und einen Rückgang der Entlassungsverzögerungen bei Langzeitpatienten um 14,3 Prozent, dazu eine Verbesserung der Krebsdiagnose innerhalb von 28 Tagen um 5,6 Prozent.
Palantir hatte im November 2023 den Zuschlag für den siebenjährigen Vertrag über 330 Mio. Pfund erhalten. Die erste Laufzeit endet Anfang nächsten Jahres. Zwei Ausschüsse des Unterhauses haben die Regierung aufgefordert, die Ausstiegsklausel zu nutzen. Laut Guardian muss Andy Burnham innerhalb von Monaten entscheiden. Das Chief Data and Analytics Officers Network, in dem leitende NHS-Datenverantwortliche organisiert sind, schrieb, die Plattform habe nicht jenen Grad an Belegen, Vertrauen und tatsächlichem Nutzen zeigen können, den man nach dauerhafter Investition und umfangreicher politischer Unterstützung erwarten dürfe.
Wohin die Regeln für Moderation führen
Beide Fälle zeigen Aufsichtsbehörden, die zu bestehenden Befugnissen greifen statt zu neuen Gesetzen. Die FTC nutzt ihre Zuständigkeit für unlautere oder irreführende Praktiken, die britischen Einsprechenden nutzen ein Datenschutzrecht. Das unterscheidet sich vom Modell des britischen Online Safety Act, der neue Pflichten für Plattformen schuf.
China bietet einen dritten Weg. Rest of World berichtete am 29. September, Peking habe Hugging Face 2023 blockiert und dabei VPN-Umgehungen geduldet. Zugleich beherbergten die heimischen Alternativen ModelScope und MoArk inzwischen 170.000 beziehungsweise 20.000 Modelle. Nvidias 12,9 Mrd. Dollar schwerer Kauf von Hugging Face, im September angekündigt, hat in China die Sorge ausgelöst, Washington könne chinesische Modelle von der Seite verbannen. Rebecca Arcesati vom Thinktank Mercator Institute for China Studies sagte, der Zugang zu US-Plattformen könne jederzeit gestört werden.
Unterdessen startete Arrowfly, die Muttergesellschaft von The Robot Report, am 30. September AI for Engineers. Das Angebot umfasst eine Nachrichtenredaktion, eine Konferenz in Henderson, Nevada, vom 20. bis 22. September 2027 und eine Studie namens 2027 Outlook of AI, die im vierten Quartal 2026 erscheinen soll. Es erinnert daran, dass Anbieter und Veranstalter und nicht die Aufsichtsbehörden noch immer einen großen Teil der KI-Governance schreiben.
Quellen
5- 01US trade regulator opens investigation into AI giants including Anthropic and OpenAIEN
- 02More than 44,000 file legal objections to Palantir NHS platform handling their dataEN
- 0344,000 object to Palantir's NHS data platform, the Guardian reportsEN
- 04The open-source AI platforms vying to become China's Hugging FaceEN
- 05The Robot Report parent Arrowfly launches AI for Engineers platform, events for engineers navigating AIEN
Alle Zahlen und Zitate in diesem Text stammen aus den unten genannten Quellen.
Die Materialien wurden vom Redaktionsteam mit Unterstützung von KI erstellt.
Kommentare
0- Noch keine Kommentare — seien Sie der Erste.