Diagnostic médical par IA : les régulateurs courent après des preuves qui bougent sans cesse
Deux des résultats les plus cités de l'IA médicale de l'année passée pointent dans des directions opposées. MAI-DxO de Microsoft atteint 85,5 % de précision sur 304 cas complexes du NEJM, contre 20 % pour 21 médecins. Une étude de JAMA Network Open montre que les principaux modèles échouent au diagnostic différentiel précoce dans plus de 8 cas sur 10. Les régulateurs doivent désormais écrire des règles pour ces deux chiffres à la fois.

La réglementation de l'IA médicale se rédige sur une cible mouvante. La même catégorie de modèles est vendue comme assistant diagnostique, testée comme champion de benchmark et auditée comme risque pour la vie privée, souvent à quelques mois d'intervalle.
Prenons les preuves que les régulateurs devraient peser. Microsoft a annoncé son AI Diagnostic Orchestrator (MAI-DxO) le 30 juin 2025, selon GeekWire. L'entreprise rapporte 85,5 % de diagnostics corrects sur des cas tirés du New England Journal of Medicine. À comparer aux 20 % de 21 médecins expérimentés des États-Unis et du Royaume-Uni. WIRED, qui a rendu compte de la même expérience le 1er juillet 2025, décrit une précision de 80 % pour l'outil contre 20 % pour les médecins. L'article note aussi une réduction des coûts de 20 % grâce au choix d'examens moins chers. Les deux chiffres reposent sur 304 cas récents du NEJM réunis dans ce que Microsoft appelle le Sequential Diagnosis Benchmark.
L'écart entre 85,5 % et 80 % n'est pas une querelle d'arrondi. Un régulateur doit trancher ce genre de divergence avant d'inscrire un seuil dans la loi.
Microsoft a lui-même formulé les choses avec prudence. GeekWire note que l'article de recherche derrière l'outil n'avait pas encore été accepté par une revue scientifique. L'entreprise indique que l'outil devrait être testé sur des affections plus courantes. Il faudrait aussi une validation clinique de la sécurité et des performances, puis une autorisation réglementaire avant tout déploiement. Bay Gross, vice-président santé de Microsoft AI, parle de « preuve de concept » dans un message sur LinkedIn. Mustafa Suleyman, PDG de Microsoft AI, s'est montré moins mesuré : « Nous faisons un grand pas vers la superintelligence médicale », a-t-il écrit sur LinkedIn.
Les médecins n'avaient pas le droit d'utiliser des outils
Des chercheurs indépendants cités par WIRED soulèvent un problème méthodologique que tout régulateur rencontrerait aussitôt. David Sontag, chercheur au MIT et cofondateur de Layer Health, estime que les résultats doivent être pris avec prudence. Les médecins de l'étude avaient pour consigne de ne pas utiliser d'outils supplémentaires. Cela ne reflète peut-être pas la pratique réelle. Eric Topol, du Scripps Research Institute, juge le rapport impressionnant parce qu'il s'attaque à des cas complexes. Montrer que l'IA pourrait en théorie réduire les coûts est selon lui une nouveauté. Tous deux s'accordent sur l'étape suivante : un essai clinique comparant le système à de vrais médecins face à de vrais patients.
Cet essai n'a pas eu lieu. Microsoft n'a pas décidé s'il commercialiserait la technologie, rapporte WIRED. Un dirigeant a toutefois indiqué que l'entreprise pourrait l'intégrer à Bing pour aider les utilisateurs à diagnostiquer leurs maux.
L'autre moitié du tableau compte davantage pour qui rédige des règles destinées aux patients. Une recherche publiée dans JAMA Network Open en avril 2026 a testé 21 grands modèles d'IA du commerce sur 29 vignettes cliniques standardisées. Arya Rao, étudiant en médecine à Harvard, a dirigé ces travaux. Les modèles réussissent bien le diagnostic final, correct dans 91 % des cas quand on leur fournit un dossier médical complet. Le diagnostic différentiel précoce échoue dans plus de 8 cas sur 10. C'est l'étape où les cliniciens écartent ou retiennent des hypothèses dans l'incertitude.
« Tous les modèles que nous avons testés ont échoué sur la grande majorité des cas », a déclaré Rao à The Register. « C'est l'étape où l'incertitude compte le plus, et c'est là que ces systèmes sont les plus faibles. »
Rao précise aussi à The Register qu'un échec dans l'article ne signifie pas que l'IA s'est complètement trompée. Cela veut seulement dire que le système n'a pas produit de réponse entièrement correcte. Mesurés en proportion brute de réponses correctes, les modèles obtiennent entre 63 % et 78 %. C'est un bien meilleur chiffre que le taux d'échec affiché en titre. Cette nuance tend à disparaître avant qu'une statistique n'arrive dans une consultation sur la réglementation.
Le Dr Marc Succi, radiologue au Massachusetts General Hospital et coauteur, déclare à The Register que des taux de réussite plus élevés au diagnostic final ne doivent pas rassurer. « Le raisonnement clinique réel commence plus tôt, quand l'ambiguïté est maximale, et c'est exactement là qu'ils restent les plus faibles », dit-il. « Même si vous finissez par trouver la bonne réponse, un mauvais diagnostic différentiel peut retarder les soins, entraîner des examens inutiles avec des complications, coûter cher et bien plus encore. »
Les audits de confidentialité mesurent la mauvaise chose
Un troisième volet que les régulateurs intègrent plus lentement, c'est ce que les données d'entraînement révèlent en elles-mêmes. Des chercheurs allemands rapportent dans un article de Nature publié le mercredi 24 juin 2026 que les modèles médicaux d'IA discriminatifs sont vulnérables aux attaques par inférence d'appartenance. Ces requêtes visent à établir si le dossier d'un patient donné figurait dans l'ensemble d'entraînement. The Register rapporte que l'équipe a analysé sept jeux de données médicaux d'IA couvrant des images, des tracés d'ECG et des dossiers de santé électroniques généraux. Elle a constaté que des patients individuels pouvaient être identifiés avec ce que les chercheurs appellent un « succès quasi parfait de l'attaque ».
Le résultat contredit les pratiques d'audit actuelles. « Le fait que les attaques par inférence d'appartenance puissent atteindre des taux de succès quasi parfaits pour des patients individuels n'est pas correctement saisi par le protocole d'évaluation standard, qui mesure le succès de l'attaque de façon agrégée sur l'ensemble des dossiers », écrivent les chercheurs. Ils concluent que les normes de déclaration des audits de confidentialité de l'IA doivent changer. Les cadres de confidentialité différentielle devraient être utilisés là où c'est nécessaire. Ces cadres visent à fournir des garanties mathématiques que les données d'entraînement restent anonymes.
Les patients sous-représentés sont plus faciles à exposer que les autres. L'origine ethnique, le statut d'assurance, le sexe, le protocole d'imagerie utilisé et certains états pathologiques peuvent tous jouer le rôle de valeurs aberrantes qui rendent un individu identifiable, selon l'article. « De façon générale, les risques pour la vie privée liés aux attaques par inférence d'appartenance s'aggravent à mesure que la cohorte d'entraînement d'un modèle devient plus spécifique », déclare Moritz Knolle à The Register. Il dirige la chaire IA en santé et médecine de l'Université technique de Munich et est premier auteur. Il évoque le cas où l'appartenance à un jeu de données d'entraînement révélerait qu'une personne porte une maladie génétique dormante comme la maladie de Huntington. Elle pourrait aussi révéler qu'elle a fréquenté une clinique de traitement spécialisée.
Knolle est clair sur les limites de l'attaque. L'attaquant doit avoir accès à une donnée cible, même si l'article montre qu'un accès partiel suffit. Cela contredit ce que l'on croyait jusqu'ici. Les jeux de données de l'étude étaient anonymisés. « L'attaquant aurait simplement besoin d'accéder aux résultats d'analyse de sang de quelqu'un, ou à une partie de ces résultats », dit-il, pour en déduire l'inclusion.
Ce que cela implique pour les règles
Trois problèmes pratiques en découlent pour qui rédige la réglementation de l'IA médicale.
- Les benchmarks ne sont pas des preuves cliniques. Les chiffres de 85,5 % et 80 % de Microsoft viennent de cas rétrospectifs du NEJM, avec des médecins privés de consultation de collègues ou de ressources. Sontag et Topol ont tous deux dit à WIRED qu'un essai clinique est l'étape suivante indispensable.
- La précision affichée masque le mode de défaillance. Un modèle peut atteindre 91 % au diagnostic final et échouer au diagnostic différentiel précoce dans plus de 80 % des cas, comme l'a constaté l'équipe de Rao. Des règles écrites autour d'un seul chiffre de précision manqueraient précisément l'étape où l'étude situe l'origine du préjudice.
- L'audit de confidentialité mesure la mauvaise unité. Les taux de succès agrégés des attaques, la norme actuelle, ne saisissent pas le succès quasi parfait contre des individus, selon l'article de Nature.
Se pose aussi la question de qui réalise les tests. Microsoft a construit le benchmark, à partir de sa propre sélection de cas. L'article n'avait pas passé l'évaluation par les pairs au moment de l'annonce. L'étude de JAMA Network Open a testé des modèles du commerce, sans implication des fournisseurs, et produit un résultat bien moins bon. L'article de Nature sur la confidentialité a testé sept jeux de données et trouvé une lacune dans les audits.
Rien de tout cela ne signifie que l'IA médicale ne peut pas être régulée. Cela signifie que les chiffres remis aux régulateurs arrivent avec leur provenance. La provenance compte autant que le chiffre.
L'objectif affiché par Knolle reste modeste. « J'espère que la communauté de l'IA médicale commencera à prendre les risques pour la vie privée au sérieux et que des techniques de réduction des risques seront utilisées là où elles sont nécessaires », dit-il à The Register. Il note aussi que beaucoup d'attaques par inférence d'appartenance réussies représentent une atteinte à la vie privée faible ou négligeable. Cela vaut quand les modèles sont entraînés sur de grandes populations générales qui incluent des individus sains et malades. Le risque augmente à mesure que la cohorte se resserre. En médecine, cela désigne souvent les patients les plus malades et les plus rares.
Suleyman a annoncé que l'entreprise consacrerait les deux prochaines années à valider ces systèmes dans le monde réel. C'est ce travail, et non le benchmark, que toute réglementation sérieuse devra finir par évaluer.
Sources
4- 01Medical diagnosis AIs can be tricked into telling whose data trained themEN
- 02Microsoft AI tool outperforms doctors in diagnosing complex medical casesEN
- 03Microsoft Says Its New AI System Diagnosed Patients 4 Times More Accurately Than Human DoctorsEN
- 04LLMs fail in 8 out of 10 early differential diagnosis casesEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.