Il modello che prevede la fine della vita può fare danni anche quando è accurato

In tutta la medicina i medici ricorrono sempre più spesso a modelli di AI che prevedono il rischio del paziente: dalla sepsi alle cadute, fino al decesso. Spesso i modelli sono integrati direttamente nella documentazione medica elettronica, quindi i loro risultati entrano facilmente nel processo di cura. Altrettanto facile è darli per scontati e smettere di controllare che cosa misurano davvero.

James Deardorff, geriatra e professore associato presso la Clinica di Geriatria dell'Università della California a San Francisco, ha messo a punto diversi modelli predittivi per le persone anziane, dalla mortalità al bisogno di assistenza in una casa di riposo. In geriatria, dice, bisogna essere consapevoli di due cose: come si comporta il modello, anche nei sottogruppi, per esempio negli anziani, e come usare in modo responsabile il suo risultato.

Modello accurato, effetto sbagliato

A settembre 2026 Deardorff ha pubblicato un commento a una vasta analisi di un modello proprietario di previsione della fine della vita dell'azienda Epic, apparsa su JAMA Network Open. La sua tesi è precisa: il modello può contribuire a un esito negativo anche se è accurato. Se la previsione del rischio di decesso a un anno serve ad aprire una conversazione sugli obiettivi di cura, gli effetti collaterali sono minimi. Se invece lo stesso risultato pesa su decisioni con conseguenze maggiori, per esempio sull'ordine di accesso al trapianto, l'impatto può essere serio.

In altre parole: conta non solo la metrica del modello, per esempio l'AUC, ma il percorso decisionale in fondo al quale quel risultato viene usato. Il modello non decide: decide la persona che vede il numero. Ed è proprio quel punto a dover essere progettato, non addestrato.

Come verificarlo

Lo stesso problema, come valutare modelli che cambiano più in fretta degli studi, è descritto in un commento su npj Digital Medicine del 17 settembre 2026 (Mahajan, Shah, Powell). Gli autori indicano che il ritmo di sviluppo dei modelli, la varietà dei progetti e il modo di riportare gli studi clinici prospettici rendono difficile una valutazione affidabile di efficacia e sicurezza. Per un ospedale questo significa che introdurre un modello predittivo richiede un monitoraggio locale dei risultati, perché i dati di registrazione che arrivano dall'esterno non bastano.

La lista di controllo pratica per i team clinici è breve: in quale sottogruppo di pazienti il modello è stato validato, quale decisione sostiene il suo risultato, chi risponde di quella decisione e che cosa succede quando la previsione è sbagliata. Senza risposta a queste quattro domande, il numero sullo schermo è solo un numero.

Non si tratta di una novità tecnica. Il modello inserito nel sistema di documentazione vede i dati che il personale inserisce di continuo e può agire in background, senza chiedere il consenso per ogni lettura del registro. Proprio per questo il confine tra supporto alla decisione e sorveglianza del paziente è così sottile.