Un modèle qui prédit la fin de vie peut nuire, même s'il est exact

En médecine, les médecins s'appuient de plus en plus sur des modèles d'IA qui évaluent le risque d'un patient : sepsie, chutes, décès. Ces modèles sont souvent intégrés directement au dossier médical électronique. Leurs résultats entrent donc facilement dans le processus de traitement. Il est tout aussi facile de les tenir pour acquis et de cesser de vérifier ce qu'ils mesurent réellement.

James Deardorff est gériatre et maître de conférences à la clinique de gériatrie de l'Université de Californie à San Francisco. Il a mis au point plusieurs modèles prédictifs pour les personnes âgées, de la mortalité au besoin de soins en maison de retraite. En gériatrie, dit-il, il faut savoir comment le modèle se comporte, y compris dans des sous-groupes comme les personnes âgées, et comment utiliser son résultat de manière responsable.

Un modèle exact, un mauvais effet

En septembre 2026, Deardorff a publié un commentaire sur une vaste analyse d'un modèle propriétaire de prédiction de la fin de vie de l'entreprise Epic, parue dans JAMA Network Open. Sa thèse est précise : un modèle peut contribuer à un mauvais résultat même s'il est exact. Si la prédiction du risque de décès à un an sert à ouvrir une discussion sur les objectifs de soins, les effets indésirables sont minimes. Mais si ce même résultat pèse sur des décisions aux conséquences plus lourdes, par exemple l'ordre de qualification pour une transplantation, l'impact peut être grave.

Autrement dit, la métrique du modèle, par exemple l'AUC, ne suffit pas. Ce qui compte aussi, c'est le chemin décisionnel au bout duquel le résultat est utilisé. Le modèle ne prend pas la décision : c'est un humain qui la prend, en voyant le chiffre. Et c'est cet endroit qui demande à être conçu, non entraîné.

Comment le vérifier

Le même problème, à savoir comment évaluer des modèles qui évoluent plus vite que les études, est décrit dans un commentaire publié dans npj Digital Medicine le 17 septembre 2026 (Mahajan, Shah, Powell). Les auteurs indiquent que le rythme de développement des modèles, la diversité des projets et la manière de rapporter les études cliniques prospectives rendent difficile une évaluation fiable de l'efficacité et de la sécurité. Pour un hôpital, cela signifie que le déploiement d'un modèle prédictif exige un suivi local des résultats, car les données d'enregistrement externes ne suffisent pas.

La liste de contrôle pratique pour les équipes cliniques est courte : dans quel sous-groupe de patients le modèle a-t-il été validé, quelle décision son résultat appuie-t-il, qui est responsable de la prendre et que se passe-t-il lorsque la prédiction est fausse. Sans réponse à ces quatre questions, le nombre affiché à l'écran n'est qu'un nombre.

Il ne s'agit pas d'une nouveauté technique. Un modèle branché sur le système de documentation voit les données que le personnel saisit en continu et peut fonctionner en arrière-plan, sans demander d'autorisation à chaque lecture d'un dossier. C'est précisément pourquoi la frontière entre l'aide à la décision et la surveillance du patient est ici si mince.