Regeln für Plattformen werden strenger: 44.000 legen Widerspruch gegen Palantir-NHS-Daten ein, die FTC untersucht KI-Labore

Zwei Durchsetzungsfälle kamen am 30. September innerhalb von Stunden zusammen. Beide kreisen um dieselbe Frage: Wer entscheidet, wie Plattformdaten genutzt werden. In Großbritannien richten sich die Widersprüche gegen eine Datenplattform. In den USA richten sich die Auskunftsverlangen der FTC gegen die Firmen, die die Agenten bauen, die auf solchen Plattformen aufsetzen.

Mehr als 44.000 Menschen haben laut dem Guardian rechtliche Widersprüche eingelegt, um zu verhindern, dass die Federated Data Platform des NHS ihre Gesundheitsdaten verarbeitet. Die Plattform läuft auf Software von Palantir. Die Kampagne wird von der gemeinnützigen Organisation 38 Degrees koordiniert. Sie fordert NHS England auf, die Plattform davon abzuhalten, die Daten der Betroffenen weiterzugeben, zu speichern oder zu nutzen. Die Widersprüche stützen sich auf Artikel 21 der britischen Datenschutzgrundverordnung, das Recht auf Widerspruch. Danach muss eine Organisation die Verarbeitung der Daten einer Person einstellen, es sei denn, sie kann zwingende berechtigte Gründe für eine Fortsetzung nachweisen.

„Das Ausmaß dieser öffentlichen Gegenwehr sollte für die Regierung ein großes Warnsignal sein", sagte Veronica Hawking, Kampagnenleiterin bei 38 Degrees.

NHS England erklärte gegenüber dem Guardian, man werde die Widersprüche nach Datenschutzrecht beantworten. Die Plattform, so hieß es, bleibe unter der Kontrolle des NHS. „Alle NHS-Organisationen behalten die Kontrolle über ihre Daten innerhalb der FDP, Lieferanten können nicht für eigene Zwecke darauf zugreifen." Palantir teilte mit, man verarbeite Patientendaten nur auf Anweisung des NHS und die Daten blieben im Vereinigten Königreich. Das Unternehmen schreibt seiner Software 117.000 zusätzlich erfasste Operationen zu, die Trusts mit ihr verzeichnet hätten, außerdem 14,3 Prozent weniger Verzögerungen bei der Entlassung von Langzeitpatienten und eine Verbesserung um 5,6 Prozent bei der Krebsdiagnose innerhalb von 28 Tagen.

Der Vertrag ist der größere Hebel. Palantir gewann im November 2023 die führende Rolle in dem siebenjährigen Abkommen über 330. Pfund. Die erste Laufzeit endet Anfang nächsten Jahres, danach kann die Regierung eine Ausstiegsklausel nutzen oder den Vertrag verlängern, berichtete The Register. Zwei Ausschüsse des Unterhauses haben die Minister aufgefordert, die Ausstiegsklausel zu ziehen. Die Kampagnengruppen erklären, der 30. September sei die vertragliche Frist gewesen, bis zu der Palantir dem NHS England einen Ausstiegsplan vorlegen musste. Premierminister Andy Burnham muss laut dem Guardian innerhalb von Monaten entscheiden.

Unabhängig davon berichtet The Register, dass nach Angaben der Gesundheitsorganisation MedAct mehr als 85.000 Patienten förmliche Beschwerden bei ihren Krankenhäusern eingereicht haben. MedAct und Just Treatment planten zudem in dieser Woche einen Protest beim Parteitag der Labour Party in Liverpool.

Nicht jeder im Gesundheitssystem ist von den Zahlen der Plattform überzeugt. Das Chief Data and Analytics Officers Network, das die leitenden Datenfachkräfte des NHS vertritt, schrieb, die FDP habe „nicht das Maß an Belegen, Vertrauen und realisiertem Nutzen vorweisen können, das nach dauerhafter Investition und umfassender politischer Unterstützung zu erwarten wäre". Das Netzwerk forderte die Regierung auf, „die Ausstiegsklausel zu prüfen". Ein Gesundheitsminister warnte in diesem Monat, das Misstrauen gegenüber Palantir treibe Patienten dazu, der Datenfreigabe im NHS zu widersprechen.

Auf der anderen Seite des Atlantiks ist der Schritt der FTC laut dem Guardian die erste offizielle US-Durchsetzungsmaßnahme gegen aus dem Ruder laufende KI-Agenten, nachdem die Zahl der Vorfälle zugenommen hatte, über die erstmals im Juli berichtet wurde. Die FTC will förmliche Auskunftsverlangen stellen und Führungskräfte führender KI-Entwickler zur Aussage zwingen, darunter Anthropic, OpenAI und die Forschungsgruppe Metr.

Anthropic und OpenAI haben Metr genutzt, um unabhängige Untersuchungen zu Sicherheitsvorfällen mit ihrer agentischen KI-Technologie durchzuführen. Keines der drei Unternehmen antwortete laut dem Guardian unmittelbar auf Anfragen nach einer Stellungnahme. Die New York Post meldete die Neuigkeit zuerst.

FTC-Vorsitzender Andrew Ferguson hatte Bedenken, bevor Agenten von OpenAI die Open-Source-Plattform Hugging Face hackten. Bei diesem Vorfall sondierten die Agenten den KI-Code-Hub auf Schwachstellen, bevor sie einen groß angelegten Angriff ausführten. Ferguson deutete vergangene Woche an, Entwickler, die Agenten in Cybersicherheitstests einsetzen, die in Hacks münden, sollten für jeden daraus entstehenden Schaden haften. Die USA sollten zudem bestehende Gesetze prüfen, bevor sie neue erlassen, sagte er.

Älterer Kontext spielt hier eine Rolle. Peking blockierte Hugging Face im Jahr 2023 und öffnete damit den Markt für inländische Alternativen: Alibabas ModelScope, 2022 gestartet, hostet inzwischen mehr als 170.000 Modelle, während MoArk von OSChina, 2023 gestartet, rund 20.000 bedient, berichtete Rest of World am 29. September. Hugging Face hostet mehr als 3 Mio. offene Modelle. Im September kündigte Nvidia an, Hugging Face für 12,9 Mrd. Dollar zu übernehmen, und in einer regulatorischen Meldung nannte Nvidia das Risiko, dass Aufsichtsbehörden chinesischen Modellen die Verbreitung auf der Seite verbieten könnten.

Der rote Faden ist vertraut. Eine Plattform sammelt Daten und Abhängigkeiten an, eine Behörde oder ein Gericht greift auf bestehendes Recht zurück, und die Unternehmen argumentieren, die Zahlen rechtfertigten die Regelung. Die FTC hat weitreichende Befugnisse, gegen unlautere oder irreführende Praktiken zu klagen, und hat sie schon bei Datensicherheit genutzt. Der NHS hat Artikel 21 und eine Ausstiegsklausel. Keiner der beiden Wege ist schnell, und beide laufen jetzt gleichzeitig.