Diagnosi medica con l'AI: i regolatori inseguono prove che continuano a spostarsi
Due dei risultati più citati dell'ultimo anno sull'AI medica puntano in direzioni opposte. MAI-DxO di Microsoft ha raggiunto l'85,5% di accuratezza su 304 casi complessi del NEJM, contro il 20% di 21 medici. Uno studio su JAMA Network Open ha rilevato che i modelli principali sbagliano la diagnosi differenziale iniziale in più di 8 casi su 10. Ora i regolatori devono scrivere norme che valgano per entrambi i numeri insieme.

La regolamentazione dell'AI medica viene scritta su un bersaglio mobile. La stessa classe di modelli viene venduta come assistente diagnostico, testata come campione di benchmark e verificata come rischio per la privacy, spesso nel giro di pochi mesi.
Vale la pena guardare le prove che i regolatori dovrebbero soppesare. Microsoft ha annunciato il suo AI Diagnostic Orchestrator (MAI-DxO) il 30 giugno 2025, secondo GeekWire. L'azienda ha dichiarato l'85,5% di diagnosi corrette su casi tratti dal New England Journal of Medicine. Il dato era confrontato con il 20% di 21 medici esperti statunitensi e britannici. WIRED, che ha raccontato lo stesso esperimento il 1 luglio 2025, ha parlato di un'accuratezza dell'80% per lo strumento contro il 20% dei medici. Ha anche segnalato una riduzione dei costi del 20% grazie alla scelta di esami più economici. Entrambe le cifre si basano su 304 casi recenti del NEJM riuniti in quello che Microsoft chiama Sequential Diagnosis Benchmark.
La distanza tra 85,5% e 80% non è un dettaglio di arrotondamento. Un regolatore deve risolvere questo tipo di discrepanza prima di fissare una soglia per legge.
La formulazione di Microsoft è stata prudente. GeekWire ha osservato che il paper alla base dello strumento non era ancora stato accettato da una rivista scientifica. L'azienda ha detto che lo strumento avrebbe dovuto essere testato su disturbi più comuni. Avrebbe avuto bisogno anche di validazione clinica per sicurezza e prestazioni, e di approvazione regolatoria prima dell'impiego. Bay Gross, vicepresidente per la salute di Microsoft AI, lo ha definito "una proof-of-concept" in un post su LinkedIn. Mustafa Suleyman, CEO di Microsoft AI, è stato meno misurato: "Stiamo facendo un grande passo verso la superintelligenza medica", ha scritto su LinkedIn.
Ai medici non era permesso usare strumenti
Ricercatori indipendenti citati da WIRED hanno sollevato un problema metodologico che qualsiasi regolatore incontrerebbe subito. David Sontag, scienziato del MIT e cofondatore di Layer Health, ha detto che i risultati vanno presi con cautela. Ai medici dello studio è stato chiesto di non usare strumenti aggiuntivi. Questo potrebbe non riflettere la pratica reale. Eric Topol dello Scripps Research Institute ha definito il rapporto notevole perché affronta casi complessi. Ha detto che l'idea di mostrare come l'AI possa in teoria ridurre i costi è nuova. Entrambi hanno convenuto che il passo successivo di validazione sarebbe uno studio clinico. Confronterebbe il sistema con medici veri che curano pazienti veri.
Quello studio clinico non è stato fatto. Microsoft non ha deciso se commercializzare la tecnologia, ha riferito WIRED. Un dirigente ha però detto che l'azienda potrebbe integrarla in Bing per aiutare gli utenti a diagnosticare disturbi.
L'altra metà del quadro conta di più per chi scrive norme rivolte ai pazienti. Una ricerca pubblicata su JAMA Network Open nell'aprile 2026 ha testato 21 modelli AI principali disponibili sul mercato su 29 vignette cliniche standardizzate. Ha guidato il lavoro Arya Rao, studente di medicina ad Harvard. I modelli sono andati bene sulla diagnosi finale, corretta nel 91% dei casi quando ricevevano un portfolio completo di informazioni mediche. La diagnosi differenziale iniziale è fallita in più di 8 casi su 10. È la fase in cui i clinici includono ed escludono condizioni in condizioni di incertezza.
"Ogni modello che abbiamo testato ha fallito nella grande maggioranza dei casi", ha detto Rao a The Register. "È la fase in cui l'incertezza conta di più, ed è quella in cui questi sistemi sono più deboli."
Rao ha anche detto a The Register che il fallimento descritto nel paper non significa che l'AI abbia mancato del tutto. Significa solo che il sistema non ha prodotto una risposta del tutto corretta. Misurati come proporzione grezza di risposte corrette, i modelli hanno ottenuto tra il 63% e il 78%. È un numero molto migliore del tasso di fallimento che finisce nei titoli. Questa sfumatura tende a sparire quando una statistica arriva a una consultazione sulla regolamentazione.
Il dottor Marc Succi, radiologo al Massachusetts General Hospital e coautore, ha detto a The Register che tassi di successo più alti sulla diagnosi finale non dovrebbero rassicurare. "Il ragionamento clinico reale inizia prima, quando l'ambiguità è massima, ed è esattamente lì che restano più deboli", ha detto. "Anche se alla fine arrivi alla risposta giusta, una diagnosi differenziale sbagliata può causare ritardi nelle cure, procedure inutili con complicazioni, costi elevati e molto altro."
Gli audit sulla privacy misurano la cosa sbagliata
Un terzo filone che i regolatori hanno integrato più lentamente è quello che i dati di addestramento rivelano da soli. Ricercatori tedeschi hanno riportato in un paper su Nature pubblicato mercoledì 24 giugno 2026 che i modelli di AI medica discriminativi sono vulnerabili agli attacchi di membership inference. Sono interrogazioni progettate per stabilire se la cartella di un determinato paziente era nel set di addestramento. The Register ha riferito che il team ha analizzato sette dataset di AI medica che coprono immagini, tracciati ECG e cartelle cliniche elettroniche generali. Hanno scoperto che singoli pazienti potevano essere identificati con quello che i ricercatori hanno chiamato "successo quasi perfetto dell'attacco".
Il risultato va contro la pratica di audit attuale. "Il fatto che gli MIA possano raggiungere tassi di successo quasi perfetti per singoli pazienti non è catturato adeguatamente dal protocollo di valutazione standard, che misura il successo dell'attacco in aggregato sui vari dati", hanno scritto i ricercatori. La loro conclusione è che gli standard di rendicontazione per gli audit sulla privacy dell'AI devono cambiare. I framework di privacy differenziale dovrebbero essere usati dove necessario. Questi framework sono progettati per dare garanzie matematiche che i dati di addestramento restino anonimi.
I pazienti sottorappresentati sono più facili da esporre rispetto agli altri. Razza, stato assicurativo, sesso, protocollo di imaging usato e alcune condizioni patologiche possono tutti funzionare come outlier che rendono identificabile un individuo, secondo il paper. "In generale, i rischi per la privacy degli MIA diventano più gravi man mano che la coorte di addestramento di un modello diventa più specifica", ha detto Moritz Knolle a The Register. Dirige la cattedra di AI in Healthcare and Medicine alla Technical University of Munich ed è primo autore. Ha prospettato che l'appartenenza a un dataset di addestramento riveli che qualcuno ha una condizione genetica dormiente come la malattia di Huntington. Potrebbe anche rivelare che ha frequentato una clinica specializzata.
Knolle è stato chiaro sui limiti dell'attacco. Un attaccante deve avere accesso a un punto dati bersaglio, anche se il paper mostra che un accesso parziale basta. Questo va contro quanto si credeva prima. I dataset usati nello studio erano anonimizzati. "L'attaccante avrebbe semplicemente bisogno di accedere ai risultati delle analisi del sangue di qualcuno, o a una parte di questi risultati" per dedurre l'inclusione, ha detto.
Cosa significa per le norme
Da tutto questo derivano tre problemi pratici per chi scrive la regolamentazione dell'AI medica.
- I benchmark non sono prove cliniche. Le cifre di Microsoft, 85,5% e 80%, vengono da casi retrospettivi del NEJM, con i medici a cui era vietato consultare colleghi o risorse. Sia Sontag sia Topol hanno detto a WIRED che lo studio clinico è il passo successivo necessario.
- L'accuratezza nei titoli nasconde la modalità di fallimento. Un modello può arrivare al 91% sulla diagnosi finale e fallire comunque la diagnosi differenziale iniziale in più dell'80% dei casi, come ha trovato il team di Rao. Norme scritte attorno a un solo numero di accuratezza mancherebbero proprio la fase in cui, secondo lo studio, nasce il danno.
- L'audit sulla privacy misura l'unità sbagliata. I tassi aggregati di successo dell'attacco, lo standard attuale, non catturano il successo quasi perfetto contro singoli individui, secondo il paper su Nature.
C'è anche la questione di chi fa i test. Microsoft ha costruito il benchmark, dalla selezione dei casi fatta da Microsoft. Il paper non aveva superato la peer review al momento dell'annuncio. Lo studio su JAMA Network Open ha testato modelli disponibili sul mercato, senza coinvolgimento dei fornitori, e ha prodotto un risultato molto peggiore. Il paper su Nature sulla privacy ha testato sette dataset e trovato una lacuna negli audit.
Niente di tutto questo significa che l'AI medica non possa essere regolamentata. Significa che i numeri consegnati ai regolatori arrivano con una provenienza attaccata. La provenienza conta quanto il numero.
L'obiettivo dichiarato di Knolle era modesto. "Spero che la comunità dell'AI medica inizi a prendere sul serio i rischi per la privacy e che le tecniche di mitigazione del rischio siano usate nelle situazioni in cui sono necessarie", ha detto a The Register. Ha anche osservato che molti attacchi di membership inference riusciti rappresentano una violazione della privacy piccola o trascurabile. Vale nei casi in cui i modelli sono addestrati su popolazioni ampie e generali che includono persone sane e malate. Il rischio cresce quanto più stretta è la coorte. In medicina questo spesso significa i pazienti più malati e quelli più rari.
Suleyman ha detto che l'azienda passerà i prossimi due anni a dimostrare questi sistemi nel mondo reale. È quel lavoro, non il benchmark, che qualsiasi regolamentazione seria dovrà prima o poi valutare.
Fonti
4- 01Medical diagnosis AIs can be tricked into telling whose data trained themEN
- 02Microsoft AI tool outperforms doctors in diagnosing complex medical casesEN
- 03Microsoft Says Its New AI System Diagnosed Patients 4 Times More Accurately Than Human DoctorsEN
- 04LLMs fail in 8 out of 10 early differential diagnosis casesEN
Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.
I contenuti sono stati preparati dalla redazione con il supporto dell'IA.
Commenti
0- Nessun commento — sii il primo.