Des chercheurs allemands ont montré que les modèles d'IA utilisés pour aider au diagnostic peuvent être interrogés pour révéler si les données d'un patient donné ont fait partie de leur jeu d'entraînement. Ils décrivent un succès quasi parfait au niveau individuel.
Santé27 septembre 20265 min de lectureSources 2
Des modèles d'IA de diagnostic médical peuvent être amenés à révéler si les données d'un patient donné ont servi à leur entraînement, rapportent des chercheurs allemands dans un article publié mercredi dans Nature. Le taux de réussite est quasi parfait sur des patients pris individuellement. Ces résultats paraissent alors que la FDA, l'UE et l'OMS écrivent encore les règles d'audit de ces dispositifs.
Santé27 septembre 20266 min de lectureSources 4
L'IA de diagnostic médical se vend plus vite que les régulateurs ne peuvent l'auditer. Trois études récentes pointent le problème de fond : ces modèles sont difficiles à vérifier, difficiles à sécuriser et difficiles à quantifier.
Santé27 septembre 20265 min de lectureSources 5
Une étude de l'université du Texas à Austin a suivi 82 jeunes adultes pendant plusieurs mois avec des objets connectés grand public. Elle conclut que l'activité physique allonge la latence REM, le temps nécessaire pour entrer en sommeil paradoxal, selon l'annonce de l'université.
Santé27 septembre 20266 min de lectureSources 2
Les modèles d'IA médicale discriminatifs peuvent être interrogés pour révéler si les données d'un patient ont servi à leur entraînement. Au niveau individuel, le taux de réussite de ces attaques est « quasi parfait », selon un article de Nature publié mercredi et relayé par The Register.
Santé27 septembre 20264 min de lectureSources 2
Deux études publiées à 14 mois d'intervalle montrent l'IA médicale en échec aux deux extrémités d'une même tâche : poser un diagnostic précoce et garder anonymes les patients de ses données d'entraînement.
Santé27 septembre 20264 min de lectureSources 4