Aller au contenu
Heure mondialeEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portail sur l'IA et la technologieactualités · analyses · entretiens · fond technique

Rechercher
EN DIRECT
›

Conformité à l'EU AI Act et IA de diagnostic médical : ce que disent vraiment les règles

L'IA de diagnostic médical se vend plus vite que les régulateurs ne peuvent l'auditer. Trois études récentes pointent le problème de fond : ces modèles sont difficiles à vérifier, difficiles à sécuriser et difficiles à quantifier.

SantéExpliquéAmélie BernardPublié le: 27 septembre 20265 min de lectureSources 5
Conformité à l'EU AI Act et IA de diagnostic médical : ce que disent vraiment les règles

La question réglementaire n'est pas de savoir si une IA peut poser un diagnostic. Elle est de savoir si quelqu'un peut prouver avec quelle fiabilité elle le fait. Deux articles parus à quelques mois d'intervalle montrent à quel point l'écart s'est creusé.

Le 24 juin 2026, des chercheurs de l'université technique de Munich ont rapporté dans Nature que les modèles d'IA médicale utilisés pour le diagnostic sont vulnérables aux attaques par inférence d'appartenance (membership inference attacks, MIA). Une MIA est une requête qui cherche à déterminer si le dossier d'un patient donné a fait partie de l'ensemble d'entraînement. The Register a couvert l'article le jour même. L'équipe a testé sept jeux de données d'IA médicale couvrant des images, des enregistrements d'ECG et des dossiers de santé électroniques généraux. Les auteurs ont constaté que des patients individuels peuvent être identifiés avec un taux de réussite de l'attaque quasi parfait.

C'est un problème de confidentialité. C'est aussi un problème de mesure. Le protocole d'évaluation standard mesure le taux de réussite de l'attaque de façon agrégée sur l'ensemble des dossiers. Comme le soulignent les chercheurs, cette approche ne rend pas correctement compte des taux de réussite quasi parfaits pour des patients pris individuellement. Un audit qui publie une moyenne peut manquer entièrement le cas individuel.

Ce que les règles exigent, et ce qu'elles laissent de côté

L'EU AI Act est le cadre le plus souvent cité dans ce débat, et les détails publics sur son volet opérationnel sont rares. Ce que les documents montrent, c'est un écart entre le vocabulaire de conformité qu'emploient les fournisseurs et la recherche en sécurité publiée sur la même période.

Un projet GitHub, srta-ai-accountability, se présente comme le premier système à traiter les questions de « pourquoi » en IA explicable avec 94 % de conformité à l'EU AI Act. Il est explicitement étiqueté comme prototype de recherche et architecture conceptuelle. Voilà où en sont au moins certains outils de redevabilité : une affirmation de 94 % de conformité, publiée sur un dépôt de code, sans aucun organisme de régulation rattaché au chiffre.

L'article de Munich va dans une autre direction. Ses auteurs veulent faire évoluer les normes de reporting des audits de confidentialité de l'IA, pour que le risque soit compté au niveau individuel et pas seulement de façon agrégée. Ils recommandent aussi des cadres de confidentialité différentielle, conçus pour garantir mathématiquement que les données d'entraînement restent anonymes. Ils suggèrent enfin de constituer les données d'entraînement de manière à mieux représenter les groupes sous-représentés.

L'auteur principal, Moritz Knolle, a déclaré à The Register que les risques de confidentialité liés aux MIA s'aggravent à mesure que la cohorte d'entraînement d'un modèle devient plus spécifique. Il a cité l'exemple d'une appartenance à un jeu de données d'entraînement qui révèle qu'une personne porte une maladie génétique dormante comme la maladie de Huntington, souffre de dépression, ou a fréquenté une clinique spécialisée précise.

Les affirmations de précision que les régulateurs devront peser

La performance diagnostique est l'autre moitié du problème réglementaire, et les chiffres sont ici particulièrement confus.

Microsoft a annoncé son AI Diagnostic Orchestrator (MAI-DxO) le 30 juin 2025. GeekWire a rapporté que l'outil a battu 21 médecins expérimentés des États-Unis et du Royaume-Uni sur des cas complexes du New England Journal of Medicine, avec un score de 85,5 % contre 20 % pour les médecins. WIRED, qui a couvert le même travail le 1er juillet 2025, avance le chiffre de 80 % contre 20 % et indique que le système a réduit les coûts de 20 % en choisissant des examens moins chers. Le benchmark a été construit à partir de 304 cas récents du NEJM.

Ces chiffres s'accompagnent d'une réserve présente dans les deux comptes rendus. Les médecins de l'étude n'étaient pas autorisés à consulter des collègues ni à utiliser des ressources externes, ce qui ne correspond pas à la pratique clinique. Le scientifique du MIT David Sontag a déclaré à WIRED que les résultats de Microsoft devaient être traités avec prudence pour cette raison précise. Il a aussi mis en doute la baisse des coûts en pratique. Microsoft a indiqué de son côté que l'outil aurait besoin d'essais cliniques et d'une autorisation réglementaire avant tout déploiement.

Reste le cas d'échec. Le 15 avril 2026, The Register a rapporté une étude parue dans JAMA Network Open, menée par Arya Rao, étudiant en médecine à Harvard. Elle testait 21 grands modèles d'IA du commerce sur 29 vignettes cliniques standardisées. Les modèles donnaient la bonne réponse dans 91 % des cas lorsqu'on leur demandait un diagnostic final avec toutes les informations. Mais en diagnostic différentiel précoce, l'étape où les cliniciens écartent et retiennent des hypothèses, ils échouaient dans plus de 8 cas sur 10.

Tous les modèles que nous avons testés ont échoué sur la grande majorité des cas, a déclaré Rao à The Register. C'est l'étape où l'incertitude compte le plus, et c'est là que ces systèmes sont les plus faibles.

Le docteur Marc Succi, radiologue au Massachusetts General Hospital et coauteur, a déclaré à la même publication que les modèles du commerce actuels ne devraient pas être utilisés pour un raisonnement diagnostique destiné aux patients sans une revue humaine structurée et complète. Il a ajouté que des taux de réussite plus élevés en diagnostic final ne devaient pas rassurer, car le raisonnement clinique réel commence plus tôt, au moment où l'ambiguïté est la plus forte.

Ce qu'un régulateur devrait tester

Mettez les trois constats côte à côte et le problème d'audit devient concret.

  • Confidentialité : des patients individuels d'un ensemble d'entraînement peuvent être identifiés avec un fort taux de réussite, et les groupes sous-représentés sont plus faciles à identifier que les autres. Le reporting agrégé masque ce fait.
  • Performance : une même classe de modèle peut atteindre 91 % en diagnostic final et échouer dans plus de 80 % des cas de diagnostic différentiel précoce.
  • Conception du benchmark : le résultat phare de Microsoft provient d'un test où les médecins humains travaillaient sans les ressources qu'ils utilisent normalement.

Rien de tout cela ne signifie que l'IA médicale ne peut pas être régulée. Cela signifie que les instruments actuels mesurent la mauvaise unité. Un score de confidentialité agrégé, un taux d'exactitude sur la réponse finale et un benchmark réalisé sous contraintes artificielles sont tous faciles à publier et difficiles à falsifier.

Knolle dit espérer que la communauté de l'IA médicale commencera à prendre les risques de confidentialité au sérieux et que des techniques d'atténuation seront employées là où elles sont nécessaires. Il note aussi qu'une MIA réussie représente dans de nombreuses situations une atteinte à la vie privée faible ou négligeable, par exemple pour des modèles entraînés sur de grandes populations générales.

La question non tranchée est de savoir qui décide dans quelle situation se trouve un modèle donné. Selon l'EU AI Act, cette décision revient au fournisseur et à l'auditeur, pas aux auteurs d'un article et pas à un dépôt qui s'attribue lui-même 94 %.

Commentaires 0

Sources

5
  1. 01Medical diagnosis AIs can be tricked into telling whose data trained themEN
  2. 02Microsoft AI tool outperforms doctors in diagnosing complex medical casesEN
  3. 03Microsoft Says New AI Diagnosed Patients 4 Times More Accurately Than DoctorsEN
  4. 04LLMs fail in 8 out of 10 early differential diagnosis casesEN
  5. 05srta-ai-accountability: AI Accountability FrameworkEN

Tous les chiffres et citations de ce texte proviennent des sources citées ci-dessous.

Les contenus ont été préparés par l'équipe de rédaction, assistée par l'IA.

Amélie Bernard

Amélie Bernard

Science et santé

Amélie Bernard couvre les sciences et la santé pour FLASH24, en s'appuyant sur les publications évaluées par les pairs, les communiqués des agences et les données brutes des études, sans reprendre les reprises de presse. Elle vérifie chaque chiffre en remontant à la source, compare les méthodologies et signale les tailles d'échantillon douteuses. Elle interroge régulièrement des chercheurs et des soignants, et attend les mises à jour des revues à comité de lecture avant de publier. Sa formation en physique des matériaux lui sert à décrypter les résultats techniques, et elle observe le ciel avec son propre télescope. Elle ne publie pas une donnée qu'elle n'a pas pu reproduire.

Rédaction →

Commentaires

0
  1. Aucun commentaire — soyez le premier.

Écrire un commentaire

Les commentaires sont publics. Nous ne publions ni insultes, ni spam, ni publicité.