Model przewidujący koniec życia może szkodzić, nawet gdy jest dokładny

W całej medycynie lekarze coraz częściej korzystają z modeli AI, które przewidują ryzyko pacjenta: od sepsy, przez upadki, po zgon. Modele są często wbudowane bezpośrednio w elektroniczną dokumentację medyczną, więc ich wyniki łatwo wprowadzić do procesu leczenia. Równie łatwo przyjąć je za oczywiste i przestać kontrolować, co właściwie mierzą.

James Deardorff, geriatra i adiunkt w Klinice Geriatrii Uniwersytetu Kalifornijskiego w San Francisco, opracował kilka modeli przewidujących dla osób starszych, od umieralności po potrzebę opieki w domu opieki. W geriatrii, jak mówi, liczą się dwie rzeczy. Trzeba wiedzieć, jak model wypada, także w podgrupach, na przykład u osób starszych. I trzeba wiedzieć, jak odpowiedzialnie wykorzystać jego wynik.

Trafny model, zły skutek

We wrześniu 2026 Deardorff opublikował komentarz do dużej analizy zastrzeżonego modelu przewidywania końca życia firmy Epic, opublikowanej w JAMA Network Open. Jego teza jest precyzyjna: model może przyczynić się do złego wyniku, nawet jeśli sam jest dokładny. Jeśli przewidywanie rocznego ryzyka zgonu służy do otwarcia rozmowy o celach opieki, skutki uboczne są minimalne. Jeśli jednak ten sam wynik wpływa na decyzje o większych konsekwencjach, na przykład o kolejności kwalifikacji do transplantacji, oddziaływanie może być poważne.

Innymi słowy: ważna jest nie tylko metryka modelu, na przykład AUC, ale ścieżka decyzyjna, na końcu której ten wynik zostaje użyty. Model nie podejmuje decyzji. Podejmuje ją człowiek, który widzi liczbę. I to właśnie miejsce wymaga zaprojektowania, nie wytrenowania.

Jak to sprawdzać

Ten sam problem, jak oceniać modele, które zmieniają się szybciej niż badania, opisuje komentarz w npj Digital Medicine z 17 września 2026 (Mahajan, Shah, Powell). Autorzy wskazują, że tempo rozwoju modeli oraz różnorodność projektów i sposobów raportowania prospektywnych badań klinicznych utrudniają rzetelną ocenę skuteczności i bezpieczeństwa. Dla szpitala oznacza to, że wdrożenie modelu predykcyjnego wymaga własnego, lokalnego monitoringu wyników, bo dane rejestracyjne z zewnątrz nie wystarczą.

Praktyczna lista kontrolna dla zespołów klinicznych jest krótka: w jakiej podgrupie pacjentów model był walidowany, jaką decyzję wspiera jego wynik, kto odpowiada za jej podjęcie i co się dzieje, gdy prognoza jest błędna. Bez odpowiedzi na te cztery pytania liczba na ekranie jest tylko liczbą.

Nie chodzi przy tym o techniczną nowinkę. Model wpięty w system dokumentacji widzi dane, które personel wprowadza na bieżąco, i może działać w tle, bez pytania o zgodę na każde odczytanie rekordu. Właśnie dlatego granica między wsparciem decyzji a nadzorem nad pacjentem jest tu tak cienka.