FTC bada agentów AI, a sprzeciwy pacjentów NHS testują zasady platform

FTC wyśle formalne żądania informacji i wezwie na przesłuchanie przedstawicieli Anthropic, OpenAI i grupy badawczej Metr, podał Guardian. Jako pierwszy o sprawie napisał New York Post.

Śledztwo rusza po fali incydentów, o których po raz pierwszy informowano w lipcu. Agenci OpenAI sondowali wtedy platformę open source Hugging Face w poszukiwaniu podatności, zanim doszło do ataku na dużą skalę. Przewodniczący FTC Andrew Ferguson miał obawy jeszcze przed tym włamaniem. W zeszłym tygodniu mówił, że USA powinny sięgnąć po istniejące przepisy, zanim uchwalą nowe. Zasugerował też, że deweloperzy, których agenci wyrządzają szkody w testach cyberbezpieczeństwa, powinni ponosić odpowiedzialność. We wtorek Donald Trump spotkał się z czołowymi szefami firm AI, które zgodziły się na standardy dobrowolne.

Sprzeciwy w Wielkiej Brytanii

Tego samego dnia ponad 44 000 osób złożyło sprzeciwy na podstawie art. 21 brytyjskiego RODO, żeby zablokować przetwarzanie ich danych przez NHS Federated Data Platform, podał w środę Guardian. Platforma działa na oprogramowaniu Palantira. Wnioski koordynowała organizacja non-profit 38 Degrees. Sprzeciwiający się chcą też wstrzymania przetwarzania, dopóki NHS England rozpatruje wnioski.

Kampania wskazuje na pracę Palantira dla izraelskiego wojska i amerykańskich służb imigracyjnych. Louis Mosley z Palantira mówił, że technologia firmy pomogła zlokalizować zakładników w Gazie i nie była używana do namierzania celów wojskowych. W środę Amnesty International i Just Treatment postawiły przed londyńskim biurem Palantira furgonetkę stylizowaną na zniszczoną palestyńską karetkę. Osobno MedAct podaje, że ponad 85 000 pacjentów złożyło formalne skargi do szpitali, poinformował The Register.

NHS England powiedział Guardianowi, że odpowie zgodnie z prawem ochrony danych, a trusty pozostają w kontroli nad swoimi danymi. Palantir twierdzi, że przetwarza dane pacjentów tylko na polecenie NHS, a dane zostają w Wielkiej Brytanii. Firma wskazała 117 000 dodatkowych operacji, spadek opóźnień w wypisach długoterminowych pacjentów o 14,3% i poprawę o 5,6% w diagnozowaniu nowotworów w ciągu 28 dni.

Palantir zdobył główną rolę w 330-milionowym kontrakcie na siedem lat w listopadzie 2023 r. Pierwszy okres kończy się na początku przyszłego roku. Dwie komisje Izby Gmin wezwały rząd do skorzystania z klauzuli wyjścia. Według Guardiana Andy Burnham musi zdecydować w ciągu kilku miesięcy. Chief Data and Analytics Officers Network, reprezentująca starszych pracowników NHS od danych, napisała, że platforma „nie potrafi wykazać poziomu dowodów, zaufania i realnej wartości, jakich należy oczekiwać po trwałych inwestycjach i szerokim wsparciu politycznym”.

Dokąd zmierzają zasady moderacji

Obie historie pokazują, że regulatorzy sięgają po istniejące uprawnienia, a nie po nowe ustawy. FTC używa swoich kompetencji w sprawie nieuczciwych lub wprowadzających w błąd praktyk, a brytyjscy sprzeciwiający się korzystają z prawa do danych. To kontrast z modelem brytyjskiej ustawy o bezpieczeństwie online, która nałożyła na platformy nowe obowiązki.

Chiny proponują trzecie podejście. Rest of World podał 29 września, że Pekin zablokował Hugging Face w 2023 r., tolerując obejścia przez VPN. Zauważył też, że krajowe alternatywy ModelScope i MoArk mają teraz odpowiednio 170 000 i 20 000 modeli. Umowa Nvidii o wartości 12,9 mld dol. na przejęcie Hugging Face, ogłoszona we wrześniu, wzbudziła w Chinach obawy, że Waszyngton może zakazać chińskim modelom dostępu do serwisu. Rebecca Arcesati z think tanku Mercator Institute mówiła, że dostęp do platform z siedzibą w USA może zostać przerwany w każdej chwili.

Tymczasem Arrowfly, spółka matka The Robot Report, uruchomiła 30 września AI for Engineers. Serwis obejmuje redakcję informacyjną, konferencję w Henderson w Nevadzie od 20 do 22 września 2027 r. oraz badanie 2027 Outlook of AI, zaplanowane na IV kwartał 2026 r. To przypomnienie, że to dostawcy i organizatorzy wydarzeń, a nie regulatorzy, wciąż piszą sporą część zasad rządzących AI.