Régulation de l'IA médicale : ce que les recherches montrent vraiment sur les outils de diagnostic
Des modèles d'IA médicale utilisés pour le diagnostic peuvent être amenés à révéler si les données d'un patient précis ont servi à leur entraînement, rapportent des chercheurs allemands dans Nature le 24 juin 2026. Un système distinct de Microsoft revendiquait, lui, 85,5 % de précision diagnostique face à des médecins. Les régulateurs courent encore après.

Deux résultats de recherche, publiés à environ un an d'écart, cohabitent mal. L'un affirme que l'IA médicale peut battre les médecins sur des diagnostics difficiles. L'autre dit que cette même famille de modèles laisse fuiter des informations sur les patients dont elle a appris. Les deux nourrissent la même question, toujours ouverte : que devrait exiger, concrètement, la régulation de l'IA médicale ?
Le premier résultat vient de Microsoft. Selon GeekWire, l'entreprise a annoncé le 30 juin 2025 le MAI Diagnostic Orchestrator, ou MAI-DxO. L'outil a été testé face à 21 médecins expérimentés des États-Unis et du Royaume-Uni, sur des cas complexes tirés du New England Journal of Medicine. Il a produit un diagnostic correct dans 85,5 % des cas. Les médecins ont atteint 20 %.
Ce que le benchmark de Microsoft mesurait, et ce qu'il ne mesurait pas
Le jeu de test comptait 304 études de cas récentes du NEJM, transformées en ce que Microsoft a appelé le Sequential Diagnosis Benchmark. WIRED rapporte qu'un modèle de langage découpait chaque cas selon la démarche étape par étape qu'un médecin suivrait. MAI-DxO interrogeait ensuite plusieurs modèles de pointe, dont GPT d'OpenAI, Gemini de Google, Claude d'Anthropic, Llama de Meta et Grok de xAI, dans un dispositif censé imiter plusieurs experts qui débattent. MAI-DxO associé à o3 d'OpenAI a obtenu les meilleurs résultats, selon GeekWire.
WIRED avance le chiffre de 80 % de précision, et non 85,5 %, et indique que le système a réduit les coûts de 20 % en prescrivant des examens moins chers. Les deux chiffres viennent du même projet mais de comptes rendus différents ; GeekWire cite 85,5 % et 20 % pour les médecins, WIRED cite 80 % et 20 %. Quiconque reprend ce benchmark doit vérifier quel chiffre il utilise.
« Nous faisons un grand pas vers la superintelligence médicale », a déclaré Mustafa Suleyman, PDG de Microsoft AI, dans une publication sur LinkedIn, selon GeekWire.
Les chercheurs extérieurs se sont montrés plus prudents. Le scientifique du MIT David Sontag a déclaré à WIRED que l'article était solide sur la méthodologie. Il a toutefois averti que les médecins de l'étude avaient pour consigne de ne pas utiliser d'outils supplémentaires, ce qui ne reflète pas la pratique réelle. Eric Topol, du Scripps Research Institute, a parlé d'un rapport impressionnant sur des cas complexes. Tous deux ont estimé qu'un essai clinique comparant le système à de vrais médecins traitant de vrais patients serait la prochaine étape de validation. Microsoft n'a pas décidé s'il commercialiserait l'outil, rapporte WIRED, et un déploiement clinique exigerait des tests de sécurité et une autorisation réglementaire.
La découverte sur la vie privée qui complique tout
Le 24 juin 2026, The Register a rendu compte d'un article de Nature signé de chercheurs allemands. L'équipe a testé des attaques par inférence d'appartenance, ou MIA, contre sept jeux de données d'IA médicale contenant des images, des enregistrements d'ECG et des dossiers de santé électroniques généraux. Ces attaques interrogent un modèle pour déterminer si un point de données précis figurait dans son jeu d'entraînement.
Le constat : pour des patients pris individuellement, les attaques ont réussi avec ce que les chercheurs appellent un succès quasi parfait. L'article soutient que les protocoles d'évaluation standards passent à côté, parce qu'ils mesurent le taux de réussite globalement, sur l'ensemble des dossiers. Les groupes sous-représentés étaient plus faciles à identifier. La race, le statut d'assurance, le sexe, le protocole d'imagerie et certains états pathologiques jouent tous le rôle de valeurs aberrantes qui font ressortir les individus.
Moritz Knolle dirige la chaire IA en santé et médecine à l'Université technique de Munich et est premier auteur de l'article. Il a déclaré à The Register que les risques pour la vie privée augmentent à mesure que la cohorte d'entraînement devient plus spécifique. Il a donné l'exemple d'une appartenance à un jeu de données qui révèle une maladie génétique latente comme la maladie de Huntington, une dépression, ou la fréquentation d'une clinique de soins spécialisée.
Il existe une limite pratique. Pour lancer l'attaque, l'attaquant doit disposer d'au moins une partie des données de la personne qu'il veut identifier. Knolle a déclaré à The Register que l'article montre qu'un accès partiel suffit, contrairement aux hypothèses antérieures. Il a évoqué un scénario où un attaquant accède sans autorisation à la base de données d'un médecin généraliste après une prise de sang de routine.
« J'espère que la communauté de l'IA médicale commencera à prendre les risques pour la vie privée au sérieux et que des techniques d'atténuation seront utilisées là où elles sont nécessaires », a déclaré Knolle.
Les chercheurs recommandent des cadres de confidentialité différentielle, qui visent à offrir des garanties mathématiques que les données d'entraînement restent anonymes. Ils demandent aussi une refonte des normes d'audit de la vie privée, pour qu'elles évaluent le risque au niveau individuel et non global. Ils suggèrent encore de constituer les données d'entraînement de façon à mieux représenter les groupes sous-représentés. Knolle note que beaucoup d'attaques réussies représentent une atteinte à la vie privée faible ou négligeable, par exemple quand les modèles sont entraînés sur de grandes populations générales comprenant à la fois des personnes saines et malades.
Les preuves que les modèles échouent tôt, là où cela compte
Une troisième étude contredit l'enthousiasme. En avril 2026, The Register a rendu compte de recherches publiées dans JAMA Network Open et dirigées par Arya Rao, étudiant en médecine à Harvard. L'équipe a testé 21 modèles d'IA prêts à l'emploi sur 29 vignettes cliniques standardisées. Avec un dossier médical complet et une demande de diagnostic final, les modèles de pointe ont eu raison 91 % du temps. Le diagnostic différentiel précoce, l'étape où les cliniciens écartent et retiennent des hypothèses alors que l'incertitude est la plus forte, a échoué dans plus de 8 cas sur 10.
Rao a déclaré à The Register que tous les modèles testés avaient échoué sur la grande majorité des cas, et que le diagnostic différentiel précoce est le point où les systèmes sont les plus faibles. Le coauteur, le Dr Marc Succi, radiologue au Massachusetts General Hospital, a estimé que les résultats indiquent qu'il ne faut pas faire confiance aux LLM prêts à l'emploi pour un raisonnement diagnostique destiné aux patients sans une revue humaine structurée et complète. Il a ajouté que les modèles peuvent afficher de l'assurance sans montrer un raisonnement fiable, ce qui peut aggraver l'anxiété des patients.
Rao a aussi nuancé : un échec selon la définition stricte de l'article ne signifiait pas toujours que le modèle avait tort. Mesurés en exactitude brute, par proportion de bonnes réponses par cas, les scores allaient de 63 % à 78 %, ce qui signifie que les modèles avaient souvent partiellement raison. L'équipe maintient néanmoins que la mesure plus stricte compte, parce que les LLM sont vendus comme des outils de première ligne qui réduisent le champ des diagnostics avant qu'un humain prenne le relais.
Où en est la régulation
Aucun de ces trois articles n'est un document réglementaire, et le dossier derrière cet article ne contient le texte d'aucune règle sur l'IA en médecine. Ce qu'il montre, c'est la forme du problème auquel les régulateurs font face. La précision diagnostique sur des cas sélectionnés peut sembler solide alors que le raisonnement précoce échoue. Des audits de vie privée peuvent être validés alors que des patients pris individuellement restent identifiables.
Le travail de Microsoft indique une voie : prouver le système dans un essai clinique, puis demander une autorisation. L'article de Nature en indique une autre : changer la rédaction des audits de vie privée et adopter des techniques comme la confidentialité différentielle avant le déploiement. L'étude du JAMA vise l'étiquetage et le marketing. Elle soutient que présenter les LLM comme des agents de diagnostic crée une fausse confiance précisément là où ils sont les moins fiables.
Pour quiconque lit quelque chose sur un produit d'IA médicale, trois questions découlent des preuves ci-dessus. A-t-il été testé sur de vrais patients en milieu clinique, ou sur des études de cas publiées ? Son évaluation de la vie privée porte-t-elle sur des patients individuels ou seulement sur un risque global ? Et prétend-il diagnostiquer, ou assister un clinicien qui reste responsable ? Les réponses figurent généralement dans l'article, pas dans le communiqué de presse.
Sources
4- 01Medical diagnosis AIs can be tricked into telling whose data trained themEN
- 02Microsoft AI tool outperforms doctors in diagnosing complex medical casesEN
- 03Microsoft Says Its New AI System Diagnosed Patients 4 Times More Accurately Than Human DoctorsEN
- 04LLMs fail in 8 out of 10 early differential diagnosis casesEN
Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.
Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.
Commentaires
0- Aucun commentaire — soyez le premier.