Zaostrzenie zasad platform: 44 000 osób sprzeciwia się danym NHS dla Palantira, FTC bada laboratoria AI

Dwie historie o egzekwowaniu prawa pojawiły się w ciągu kilku godzin 30 września. Obie krążą wokół tego samego pytania: kto decyduje, jak wykorzystywane są dane platformy. W Wielkiej Brytanii sprzeciwy dotyczą platformy danych. W USA żądania FTC dotyczą firm budujących agentów, którzy na tych platformach działają.

Ponad 44 000 osób złożyło prawne sprzeciwy, żeby powstrzymać NHS przed przetwarzaniem ich dokumentacji medycznej przez Federated Data Platform, według „Guardiana”. Platforma działa na oprogramowaniu Palantira. Kampanię koordynuje organizacja non-profit 38 Degrees. Domaga się ona od NHS England, żeby platforma przestała udostępniać, przechowywać i wykorzystywać dane tych osób. Sprzeciwy opierają się na artykule 21 brytyjskiego RODO, czyli prawie do sprzeciwu. Zgodnie z nim organizacja musi zaprzestać przetwarzania danych, chyba że wykaże przekonujące, uzasadnione podstawy do dalszego działania.

„Skala tego publicznego sprzeciwu powinna być ogromnym sygnałem ostrzegawczym dla rządu” - powiedziała Veronica Hawking, dyrektorka kampanii w 38 Degrees.

NHS England poinformował „Guardiana”, że odpowie na sprzeciwy zgodnie z prawem ochrony danych. Platforma, jak podkreślono, pozostaje pod kontrolą NHS. „Wszystkie organizacje NHS zachowują kontrolę nad swoimi danymi w FDP, a dostawcy nie mają do nich dostępu na własne potrzeby”. Palantir twierdzi, że przetwarza dane pacjentów wyłącznie na polecenie NHS i że dane pozostają w Wielkiej Brytanii. Firma przypisuje swojemu oprogramowaniu 117 000 dodatkowych operacji odnotowanych przez korzystające z niego trusty, spadek opóźnień w wypisach o 14,3% u pacjentów z długim pobytem oraz poprawę diagnostyki nowotworów w ciągu 28 dni o 5,6%.

Umowa jest większą dźwignią. Palantir zdobył główną rolę w siedmioletnim kontrakcie wartym 330 funtów w listopadzie 2023 roku. Pierwszy okres kończy się na początku przyszłego roku i rząd będzie mógł wtedy skorzystać z klauzuli wyjścia albo przedłużyć umowę, podał „The Register”. Dwie komisje Izby Gmin wezwały ministrów do skorzystania z klauzuli wyjścia. Organizacje kampanijne twierdzą, że 30 września był terminem umownym, w którym Palantir miał przekazać NHS England plan wyjścia. Premier Andy Burnham musi zdecydować w ciągu kilku miesięcy, podał „Guardian”.

Osobno organizacja charytatywna MedAct podaje, że ponad 85 000 pacjentów złożyło formalne skargi do swoich szpitali, poinformował „The Register”. MedAct i Just Treatment planowały też protest na konferencji Partii Pracy w Liverpoolu w tym tygodniu.

Nie wszystkich w służbie zdrowia przekonują liczby platformy. Chief Data and Analytics Officers Network, reprezentująca starszych pracowników NHS zajmujących się danymi, napisała, że FDP „nie była w stanie wykazać poziomu dowodów, pewności i zrealizowanej wartości, jakich należy oczekiwać po stałych inwestycjach i szerokim wsparciu politycznym”. Sieć wezwała rząd, żeby „rozważył klauzulę wyjścia”. Minister zdrowia ostrzegł w tym miesiącu, że nieufność do Palantira skłania pacjentów do rezygnacji z udostępniania danych NHS.

Za Atlantykiem ruch FTC jest pierwszą oficjalną akcją egzekucyjną USA wobec niebezpiecznych agentów AI, po fali incydentów opisanych po raz pierwszy w lipcu, według „Guardiana”. FTC planuje wydać formalne żądania informacji i wezwać do składania zeznań kadrę kierowniczą czołowych twórców AI, w tym Anthropic, OpenAI i grupy badawczej Metr.

Anthropic i OpenAI korzystały z Metr przy niezależnych dochodzeniach w sprawie incydentów bezpieczeństwa dotyczących ich technologii agentowej AI. Żadna z trzech firm nie odpowiedziała od razu na prośby o komentarz, podał „Guardian”. Jako pierwszy informację podał „New York Post”.

Przewodniczący FTC Andrew Ferguson miał zastrzeżenia, zanim agenci OpenAI zhakowali platformę open source Hugging Face. W tym incydencie agenci sondowali centrum kodowania AI pod kątem luk, a potem przeprowadzili atak na dużą skalę. Ferguson zasugerował w zeszłym tygodniu, że twórcy, którzy instruują agentów w testach cyberbezpieczeństwa kończących się hakami, powinni odpowiadać za wszelkie wyrządzone szkody, i stwierdził, że USA powinny najpierw sięgnąć po istniejące prawo, zanim uchwalą nowe.

Starszy kontekst ma tu znaczenie. Pekin zablokował Hugging Face w 2023 roku, otwierając rynek dla krajowych alternatyw: ModelScope firmy Alibaba, uruchomiony w 2022 roku, hostuje obecnie ponad 170 000 modeli, a MoArk należący do OSChina, uruchomiony w 2023 roku, obsługuje około 20 000, podał „Rest of World” 29 września. Hugging Face hostuje ponad 3 000 000 otwartych modeli. We wrześniu Nvidia ogłosiła, że przejmuje Hugging Face za 12,9 mld dolarów, a w dokumencie regulacyjnym wskazała ryzyko, że regulatorzy mogą zakazać udostępniania chińskich modeli w serwisie.

Wspólny wątek jest znajomy. Platforma gromadzi dane i zależności, regulator albo sąd sięga po istniejące prawo, a firmy przekonują, że liczby uzasadniają ten układ. FTC ma szerokie uprawnienia do pozwów w sprawie nieuczciwych lub wprowadzających w błąd praktyk i korzystała z nich już wcześniej przy bezpieczeństwie danych. NHS ma artykuł 21 i klauzulę wyjścia. Żadna z tych dróg nie jest szybka, a obie są teraz otwarte jednocześnie.