Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Zgodność z unijnym AI Act a AI w diagnostyce medycznej: co naprawdę mówią przepisy

AI do diagnostyki medycznej sprzedaje się szybciej, niż regulatorzy są w stanie ją skontrolować. Trzy niedawne badania wskazują na ten sam problem: modele trudno sprawdzić, trudno zabezpieczyć i trudno zmierzyć.

ZdrowieWyjaśnienieRenata PawlakOpublikowano: 27 września 20265 min czytaniaŹródła 5
Zgodność z unijnym AI Act a AI w diagnostyce medycznej: co naprawdę mówią przepisy

Pytanie regulacyjne nie brzmi, czy AI potrafi diagnozować. Brzmi, czy ktokolwiek potrafi udowodnić, jak dobrze to robi. Dwie prace opublikowane w odstępie kilku miesięcy pokazują, jak bardzo ta luka się rozszerzyła.

24 czerwca 2026 roku badacze z Uniwersytetu Technicznego w Monachium donieśli w Nature, że modele AI używane do diagnostyki są podatne na ataki wnioskowania o przynależności do zbioru treningowego (membership inference attacks, MIA). MIA to zapytanie, które próbuje ustalić, czy rekord konkretnego pacjenta znalazł się w zbiorze treningowym. The Register opisał tę pracę tego samego dnia. Zespół przetestował siedem medycznych zbiorów danych AI obejmujących obrazy, zapisy EKG i ogólne elektroniczne dokumentacje zdrowotne. Autorzy ustalili, że pojedynczych pacjentów można zidentyfikować przy niemal doskonałej skuteczności ataku.

To problem prywatności. To także problem pomiaru. Standardowy protokół oceny mierzy skuteczność ataku zbiorczo, na wszystkich rekordach. Jak zauważają badacze, takie podejście nie oddaje należycie niemal doskonałych wskaźników skuteczności w przypadku pojedynczych pacjentów. Audyt, który podaje średnią, może całkowicie pominąć pojedynczy przypadek.

Czego wymagają przepisy i co im umyka

Unijny AI Act to ramy najczęściej przywoływane w tej debacie, a publicznych szczegółów o ich stronie operacyjnej jest niewiele. Z dostępnych źródeł wynika jednak rozdźwięk między językiem zgodności, jakim posługują się dostawcy, a badaniami nad bezpieczeństwem publikowanymi w tym samym czasie.

Projekt na GitHubie o nazwie srta-ai-accountability opisuje się jako pierwszy system odpowiadający na pytania typu dlaczego w wyjaśnialnej AI, z 94% zgodności z unijnym AI Act. Jest wyraźnie oznaczony jako prototyp badawczy i architektura koncepcyjna. Tak wygląda stan przynajmniej części narzędzi do rozliczalności: deklaracja 94% zgodności opublikowana w repozytorium kodu, bez żadnego organu regulacyjnego stojącego za tą liczbą.

Praca z Monachium wskazuje inny kierunek. Jej autorzy chcą zmiany standardów raportowania audytów prywatności AI, tak aby liczyło się ryzyko na poziomie jednostki, a nie tylko ryzyko zbiorcze. Zalecają też stosowanie mechanizmów prywatności różnicowej, które mają matematycznie gwarantować anonimowość danych treningowych. Sugerują również, by dane treningowe zestawiać tak, aby grupy niedoreprezentowane były lepiej reprezentowane.

Główny autor Moritz Knolle powiedział The Register, że ryzyko prywatności związane z MIA rośnie wraz z zawężaniem kohorty treningowej modelu. Podał przykład: przynależność do zbioru treningowego może ujawnić, że ktoś ma uśpioną chorobę genetyczną, taką jak choroba Huntingtona, depresję, albo że uczęszczał do konkretnej specjalistycznej kliniki.

Twierdzenia o dokładności, które regulatorzy będą musieli ocenić

Skuteczność diagnostyczna to druga połowa problemu regulacyjnego, a liczby są tu wyjątkowo nieuporządkowane.

Microsoft ogłosił swój AI Diagnostic Orchestrator (MAI-DxO) 30 czerwca 2025 roku. GeekWire podał, że narzędzie pokonało 21 doświadczonych lekarzy ze Stanów Zjednoczonych i Wielkiej Brytanii w złożonych przypadkach z New England Journal of Medicine, uzyskując 85,5% wobec 20% lekarzy. WIRED, opisując tę samą pracę 1 lipca 2025 roku, podał 80% wobec 20% i napisał, że system obniżył koszty o 20%, wybierając tańsze testy. Benchmark zbudowano na 304 niedawnych przypadkach z NEJM.

Obie relacje zawierają to samo zastrzeżenie. Lekarze w badaniu nie mogli konsultować się z kolegami ani korzystać z zewnętrznych źródeł, co nie odpowiada realnej pracy klinicystów. Naukowiec z MIT David Sontag powiedział WIRED, że z tego właśnie powodu wyniki Microsoftu należy traktować ostrożnie. Wątpił też, czy system obniżyłby koszty w praktyce. Sam Microsoft przyznał, że narzędzie wymagałoby testów klinicznych i zgody regulacyjnej przed wdrożeniem.

Do tego dochodzi przypadek porażki. 15 kwietnia 2026 roku The Register opisał badanie w JAMA Network Open, którym kierował student medycyny na Harvardzie Arya Rao. Przetestowano 21 wiodących dostępnych na rynku modeli AI na 29 standaryzowanych opisach przypadków klinicznych. Modele odpowiadały poprawnie w 91% przypadków, gdy proszono je o ostateczną diagnozę przy pełnych informacjach. Wczesna diagnostyka różnicowa, czyli etap, na którym klinicyści wykluczają i potwierdzają schorzenia, zawiodła jednak w ponad 8 na 10 przypadków.

Każdy testowany przez nas model zawiódł w zdecydowanej większości przypadków, powiedział Rao The Register. To etap, na którym niepewność ma największe znaczenie, i tu te systemy są najsłabsze.

Radiolog z Massachusetts General Hospital dr Marc Succi, współautor pracy, powiedział temu samemu pismu, że dzisiejszym modelom dostępnym na rynku nie należy ufać w rozumowaniu diagnostycznym kierowanym do pacjenta bez ustrukturyzowanego, wszechstronnego przeglądu przez człowieka. Dodał, że wyższe wskaźniki skuteczności w ostatecznej diagnozie nie powinny uspokajać, bo prawdziwe rozumowanie kliniczne zaczyna się wcześniej, gdy niejednoznaczność jest największa.

Co musiałby przetestować regulator

Zestawmy trzy ustalenia obok siebie, a problem audytu staje się konkretny.

  • Prywatność: pojedynczych pacjentów w zbiorze treningowym można zidentyfikować z wysoką skutecznością, a grupy niedoreprezentowane łatwiej niż inne. Raportowanie zbiorcze to ukrywa.
  • Skuteczność: ta sama klasa modeli może osiągnąć 91% w ostatecznej diagnozie i zawieść w ponad 80% wczesnych przypadków różnicowych.
  • Projekt benchmarku: sztandarowy wynik Microsoftu pochodzi z testu, w którym lekarze pracowali bez zasobów, z których normalnie korzystają.

Nic z tego nie oznacza, że AI medycznej nie da się regulować. Oznacza, że obecne narzędzia mierzą niewłaściwą jednostkę. Zbiorcza ocena prywatności, wskaźnik trafności ostatecznej odpowiedzi i benchmark przeprowadzony w sztucznych warunkach łatwo opublikować, a trudno podważyć.

Knolle powiedział, że ma nadzieję, iż środowisko AI medycznej zacznie poważnie traktować ryzyko prywatności i że techniki jego ograniczania będą stosowane tam, gdzie są potrzebne. Zauważył też, że w wielu sytuacjach udany MIA oznacza niewielkie lub pomijalne naruszenie prywatności, na przykład gdy modele trenowano na dużych, ogólnych populacjach.

Pozostaje pytanie, kto decyduje, w której z tych sytuacji znajduje się dany model. Zgodnie z unijnym AI Act ta decyzja należy do dostawcy i audytora, nie do autorów pracy i nie do repozytorium, które samo wystawia sobie ocenę 94%.

Komentarze 0

Źródła

5
  1. 01Medical diagnosis AIs can be tricked into telling whose data trained themEN
  2. 02Microsoft AI tool outperforms doctors in diagnosing complex medical casesEN
  3. 03Microsoft Says New AI Diagnosed Patients 4 Times More Accurately Than DoctorsEN
  4. 04LLMs fail in 8 out of 10 early differential diagnosis casesEN
  5. 05srta-ai-accountability: AI Accountability FrameworkEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Renata Pawlak

Renata Pawlak

Nauka i zdrowie

Renata Pawlak zajmuje się w FLASH24 nauką i zdrowiem, opierając teksty na publikacjach recenzowanych, komunikatach instytucji i danych źródłowych, a nie na doniesieniach bez pokrycia. Przy każdej liczbie sprawdza metodologię badania, wielkość próby i jednostki, a wyniki porównuje z wcześniejszymi pracami na ten sam temat. Czeka na comiesięczne raporty GUS i NFZ, rozmawia z lekarzami oraz fizykami, a przed publikacją pyta autorów o ograniczenia ich wniosków. Prywatnie interesuje się fizyką materiałów i obserwuje niebo przez własny teleskop, co pomaga jej czytać prace z dziedzin ścisłych. Nie publikuje niczego, czego nie może potwierdzić w co najmniej dwóch niezależnych źródłach.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.