Ein Modell, das das Lebensende vorhersagt, kann schaden, auch wenn es genau ist

In der Medizin greifen Ärzte immer häufiger auf KI-Modelle zurück, die das Risiko eines Patienten vorhersagen: Sepsis, Stürze, Tod. Oft stecken diese Modelle direkt in der elektronischen Patientenakte. Ihre Ergebnisse fließen dann ohne Umweg in die Behandlung ein. Genauso leicht nimmt man sie als gegeben hin und prüft nicht mehr, was sie eigentlich messen.

James Deardorff ist Geriater und Adjunkt an der Klinik für Geriatrie der University of California in San Francisco. Er hat mehrere Vorhersagemodelle für ältere Menschen entwickelt, von der Sterblichkeit bis zum Bedarf an Pflegeheimunterbringung. In der Geriatrie komme es auf zweierlei an, sagt er: zu wissen, wie ein Modell abschneidet, auch in Untergruppen wie älteren Menschen, und zu wissen, wie sein Ergebnis verantwortungsvoll eingesetzt wird.

Ein genaues Modell, eine schlechte Folge

Im September 2026 veröffentlichte Deardorff einen Kommentar zu einer großen Analyse in JAMA Network Open. Sie untersuchte ein proprietäres Modell der Firma Epic zur Vorhersage des Lebensendes. Seine These ist präzise: Ein Modell kann zu einem schlechten Ergebnis beitragen, auch wenn es selbst genau ist. Dient die Vorhersage des Ein-Jahres-Sterberisikos dazu, ein Gespräch über die Ziele der Versorgung zu eröffnen, sind die Nebenwirkungen gering. Beeinflusst dasselbe Ergebnis jedoch Entscheidungen mit größeren Konsequenzen, etwa die Reihenfolge der Zuteilung zu einer Transplantation, kann die Wirkung erheblich sein.

Anders gesagt: Wichtig ist nicht nur die Metrik des Modells, etwa die AUC, sondern der Entscheidungsweg, an dessen Ende das Ergebnis verwendet wird. Das Modell trifft keine Entscheidung. Sie trifft ein Mensch, der die Zahl sieht. Und genau diese Stelle muss gestaltet werden, nicht trainiert.

Wie man das überprüft

Dasselbe Problem beschreibt ein Kommentar in npj Digital Medicine vom 17. September 2026 (Mahajan, Shah, Powell): Wie bewertet man Modelle, die sich schneller verändern als Studien? Die Autoren weisen darauf hin, dass das Tempo der Modellentwicklung, die Vielfalt der Designs und die Art der Berichterstattung über prospektive klinische Studien eine verlässliche Bewertung von Wirksamkeit und Sicherheit erschweren. Für ein Krankenhaus heißt das: Wer ein Vorhersagemodell einführt, braucht eine eigene, lokale Überwachung der Ergebnisse. Zulassungsdaten von außen reichen nicht aus.

Die praktische Checkliste für klinische Teams ist kurz: In welcher Patientengruppe wurde das Modell validiert, welche Entscheidung unterstützt sein Ergebnis, wer ist für diese Entscheidung verantwortlich, und was geschieht, wenn die Prognose falsch ist. Ohne Antworten auf diese vier Fragen ist die Zahl auf dem Bildschirm nur eine Zahl.

Dabei geht es nicht um eine technische Neuheit. Ein in das Dokumentationssystem eingebundenes Modell sieht Daten, die das Personal laufend eingibt, und kann im Hintergrund arbeiten, ohne für jedes Lesen einer Akte eine Einwilligung einzuholen. Genau deshalb ist die Grenze zwischen Entscheidungsunterstützung und Überwachung des Patienten hier so schmal.