Przejdź do treści
Czas na świecieEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portal o AI i technologiiwydarzenia · analizy · wywiady · tło techniczne

Szukaj
NA ŻYWO
›

Regulacja AI w medycynie: co badania naprawdę pokazują o narzędziach diagnostycznych

Niemieccy badacze donieśli w Nature 24 czerwca 2026 roku, że modele AI używane w diagnostyce można nakłonić do ujawnienia, czy dane konkretnego pacjenta posłużyły do ich trenowania. Osobny system Microsoftu miał osiągnąć 85,5% skuteczności diagnostycznej w starciu z lekarzami. Regulatorzy wciąż za tym nie nadążają.

ZdrowieWyjaśnienieRenata PawlakOpublikowano: 27 września 20266 min czytaniaŹródła 4
Regulacja AI w medycynie: co badania naprawdę pokazują o narzędziach diagnostycznych

Dwa wyniki badań, opublikowane mniej więcej rok po sobie, niezręcznie leżą obok siebie. Jeden mówi, że medyczna AI potrafi pobić lekarzy w trudnych diagnozach. Drugi mówi, że ta sama klasa modeli ujawnia informacje o pacjentach, na których się uczyła. Oba prowadzą do tego samego nierozstrzygniętego pytania: czego właściwie powinna wymagać regulacja medycznej AI?

Pierwszy wynik pochodzi od Microsoftu. Jak podał GeekWire, firma ogłosiła MAI Diagnostic Orchestrator, czyli MAI-DxO, 30 czerwca 2025 roku. W teście przeciwko 21 doświadczonym lekarzom ze Stanów Zjednoczonych i Wielkiej Brytanii, na złożonych przypadkach z New England Journal of Medicine, narzędzie postawiło poprawną diagnozę w 85,5% przypadków. Lekarze trafili w 20%.

Co zmierzył benchmark Microsoftu, a czego nie

Zestaw testowy liczył 304 niedawne studia przypadków z NEJM, przerobione na coś, co Microsoft nazwał Sequential Diagnosis Benchmark. WIRED podał, że model językowy rozbijał każdy przypadek na krok po kroku proces, jaki przeszedłby lekarz, a MAI-DxO odpytywał potem kilka modeli frontier, w tym GPT od OpenAI, Gemini od Google, Claude od Anthropic, Llama od Meta i Grok od xAI, w układzie mającym przypominać debatę kilku ekspertów. Najlepiej wypadł MAI-DxO w parze z o3 od OpenAI, podał GeekWire.

WIRED podał skuteczność na poziomie 80%, nie 85,5%, i napisał, że system obniżył koszty o 20%, zlecając tańsze testy. Obie liczby pochodzą z tego samego projektu, ale z różnych tekstów; GeekWire podaje 85,5% i 20% dla lekarzy, WIRED podaje 80% i 20%. Kto cytuje ten benchmark, powinien sprawdzić, którą liczbę bierze.

"Robimy duży krok w stronę medycznej superinteligencji" - powiedział Mustafa Suleyman, dyrektor generalny Microsoft AI, w poście na LinkedIn, według GeekWire.

Naukowcy z zewnątrz byli bardziej powściągliwi. David Sontag z MIT powiedział WIRED, że praca jest mocna metodologicznie, ale ostrzegł, że lekarzom w badaniu kazano nie używać żadnych dodatkowych narzędzi, co nie odpowiada realnej praktyce. Eric Topol ze Scripps Research Institute nazwał to imponującym raportem o złożonych przypadkach. Obaj stwierdzili, że kolejnym krokiem walidacji powinno być badanie kliniczne porównujące system z prawdziwymi lekarzami leczącymi prawdziwych pacjentów. Microsoft nie zdecydował, czy skomercjalizuje narzędzie, podał WIRED, a wdrożenie kliniczne wymagałoby testów bezpieczeństwa i zgody regulatora.

Odkrycie dotyczące prywatności, które komplikuje wszystko

24 czerwca 2026 roku The Register opisał pracę w Nature autorstwa niemieckich badaczy. Zespół przetestował ataki wnioskowania o przynależności, czyli MIA, na siedmiu medycznych zbiorach danych AI zawierających obrazy, zapisy EKG i ogólne elektroniczne dokumentacje zdrowotne. Takie ataki odpytują model, żeby ustalić, czy konkretny punkt danych był w jego zbiorze treningowym.

Wynik: w przypadku pojedynczych pacjentów ataki udawały się z niemal doskonałą skutecznością, jak nazwali to badacze. Praca przekonuje, że standardowe protokoły oceny tego nie wychwytują, bo mierzą skuteczność ataku zbiorczo, po wszystkich rekordach. Grupy niedoreprezentowane było łatwiej zidentyfikować. Rasa, status ubezpieczenia, płeć, protokół obrazowania i niektóre stany chorobowe działają jak wartości odstające, które wyróżniają jednostki.

Moritz Knolle, który kieruje katedrą AI in Healthcare and Medicine na Uniwersytecie Technicznym w Monachium i jest pierwszym autorem pracy, powiedział The Register, że ryzyko prywatności rośnie, gdy kohorta treningowa staje się bardziej specyficzna. Podał przykład przynależności do zbioru danych, która ujawnia uśpioną chorobę genetyczną, taką jak choroba Huntingtona, depresję albo uczęszczanie do specjalistycznej kliniki leczenia.

Jest praktyczne ograniczenie. Żeby przeprowadzić atak, napastnik potrzebuje co najmniej częściowych danych osoby, którą chce zidentyfikować. Knolle powiedział The Register, że praca pokazuje, iż częściowy dostęp wystarcza, wbrew wcześniejszym założeniom. Zaproponował scenariusz, w którym napastnik uzyskuje nieuprawniony dostęp do bazy lekarza rodzinnego po rutynowym badaniu krwi.

"Mam nadzieję, że środowisko medycznej AI zacznie poważnie traktować ryzyko prywatności i że techniki ograniczania ryzyka będą stosowane tam, gdzie są konieczne" - powiedział Knolle.

Badacze zalecają ramy prywatności różnicowej, które mają dawać matematyczne gwarancje, że dane treningowe pozostają anonimowe, oraz zmiany standardów audytu prywatności, żeby oceniały ryzyko na poziomie jednostki, a nie zbiorczo. Sugerują też taki dobór danych treningowych, by grupy niedoreprezentowane były lepiej reprezentowane. Knolle zauważył, że wiele udanych ataków oznacza małe lub znikome naruszenie prywatności, na przykład gdy modele trenuje się na dużych populacjach ogólnych, obejmujących zarówno osoby zdrowe, jak i chore.

Dowody, że modele zawodzą wcześnie, tam gdzie to najważniejsze

Trzecie badanie przeczy entuzjazmowi. W kwietniu 2026 roku The Register opisał pracę opublikowaną w JAMA Network Open, kierowaną przez studenta medycyny Harvardu Aryę Rao. Zespół przetestował 21 gotowych modeli AI na 29 standaryzowanych winietach klinicznych. Gdy model dostawał pełny zestaw informacji medycznych i proszono go o ostateczną diagnozę, wiodące modele trafiały w 91% przypadków. Wczesna diagnoza różnicowa, etap, na którym klinicyści wykluczają i potwierdzają schorzenia przy największej niepewności, zawiodła w ponad 8 na 10 przypadków.

Rao powiedział The Register, że każdy testowany model zawiódł w zdecydowanej większości przypadków, a wczesna diagnoza różnicowa to miejsce, w którym systemy są najsłabsze. Współautor, dr Marc Succi, radiolog w Massachusetts General Hospital, stwierdził, że wyniki sugerują, iż gotowym LLM nie należy ufać w rozumowaniu diagnostycznym kierowanym do pacjenta bez ustrukturyzowanego, kompleksowego przeglądu przez człowieka. Dodał, że modele potrafią sprawiać wrażenie pewności siebie, nie pokazując wiarygodnego rozumowania, co może nasilać niepokój pacjentów.

Rao dodał zastrzeżenie: porażka według surowej definicji z pracy nie zawsze oznaczała, że model się mylił. Mierzona jako zwykła dokładność, czyli odsetek poprawnych odpowiedzi na przypadek, wyniki mieściły się w przedziale od 63% do 78%, więc modele często miały częściową rację. Zespół nadal twierdzi, że surowsza miara ma znaczenie, bo LLM są reklamowane jako narzędzia pierwszej linii, które zawężają diagnozy, zanim przejmie je człowiek.

Jak wygląda stan regulacji

Żadna z tych trzech prac nie jest dokumentem regulacyjnym, a materiały, na których opiera się ten artykuł, nie zawierają treści żadnego przepisu o AI w medycynie. Pokazują natomiast kształt problemu, przed którym stoją regulatorzy. Dokładność diagnostyczna na wyselekcjonowanych przypadkach może wyglądać mocno, podczas gdy rozumowanie na wczesnym etapie zawodzi, a audyty prywatności mogą przechodzić, choć pojedynczy pacjenci pozostają identyfikowalni.

Praca Microsoftu wskazuje jeden kierunek: udowodnić działanie systemu w badaniu klinicznym, potem zabiegać o zgodę. Praca w Nature wskazuje inny: zmienić sposób pisania audytów prywatności i przyjąć techniki takie jak prywatność różnicowa przed wdrożeniem. Badanie w JAMA wskazuje na etykietowanie i marketing, przekonując, że opisywanie LLM jako agentów diagnostycznych tworzy fałszywe poczucie pewności dokładnie tam, gdzie są najmniej wiarygodne.

Kto czyta o produkcie medycznej AI, temu z powyższych dowodów wynikają trzy pytania. Czy testowano go na prawdziwych pacjentach w warunkach klinicznych, czy na opublikowanych studiach przypadków? Czy jego ocena prywatności patrzy na pojedynczych pacjentów, czy tylko na ryzyko zbiorcze? I czy twierdzi, że diagnozuje, czy że wspiera klinicystę, który pozostaje odpowiedzialny? Odpowiedzi są zwykle w pracy, nie w komunikacie prasowym.

Komentarze 0

Źródła

4
  1. 01Medical diagnosis AIs can be tricked into telling whose data trained themEN
  2. 02Microsoft AI tool outperforms doctors in diagnosing complex medical casesEN
  3. 03Microsoft Says Its New AI System Diagnosed Patients 4 Times More Accurately Than Human DoctorsEN
  4. 04LLMs fail in 8 out of 10 early differential diagnosis casesEN

Wszystkie liczby i cytaty w tym tekście pochodzą z poniższych źródeł. Nie dopisujemy danych, których w źródłach nie ma.

Materiały zostały przygotowane przez zespół redakcyjny wspierane przez AI.

Renata Pawlak

Renata Pawlak

Nauka i zdrowie

Renata Pawlak zajmuje się w FLASH24 nauką i zdrowiem, opierając teksty na publikacjach recenzowanych, komunikatach instytucji i danych źródłowych, a nie na doniesieniach bez pokrycia. Przy każdej liczbie sprawdza metodologię badania, wielkość próby i jednostki, a wyniki porównuje z wcześniejszymi pracami na ten sam temat. Czeka na comiesięczne raporty GUS i NFZ, rozmawia z lekarzami oraz fizykami, a przed publikacją pyta autorów o ograniczenia ich wniosków. Prywatnie interesuje się fizyką materiałów i obserwuje niebo przez własny teleskop, co pomaga jej czytać prace z dziedzin ścisłych. Nie publikuje niczego, czego nie może potwierdzić w co najmniej dwóch niezależnych źródłach.

Redakcja →

Komentarze

0
  1. Brak komentarzy — bądź pierwszy.

Dodaj komentarz

Komentarze są widoczne publicznie. Nie publikujemy wulgaryzmów, spamu i treści reklamowych.