Vai al contenuto
Ora nel mondoEU--:--UK--:--USA--:--CN--:--PLDEFRIT中文EN

portale su IA e tecnologiaeventi · analisi · interviste · approfondimenti tecnici

Cerca
LIVE
›

AI Act UE e IA per la diagnosi medica: cosa dicono davvero le regole

L'IA per la diagnosi medica viene venduta più in fretta di quanto i regolatori riescano a verificarla. Tre studi recenti indicano il problema di fondo: i modelli sono difficili da controllare, difficili da mettere in sicurezza e difficili da quantificare.

SaluteSpiegatoSara GalloPubblicato: 27 settembre 20265 min di letturaFonti 5
AI Act UE e IA per la diagnosi medica: cosa dicono davvero le regole

La domanda normativa non è se l'IA sappia diagnosticare. È se qualcuno sia in grado di dimostrare quanto bene lo faccia. Due articoli pubblicati a mesi di distanza mostrano quanto si sia allargata la distanza.

Il 24 giugno 2026 i ricercatori della Technical University of Munich hanno riferito su Nature che i modelli di IA medica usati per la diagnosi sono vulnerabili agli attacchi di inferenza sulla membership (MIA). Un MIA è una query che cerca di stabilire se la cartella di un determinato paziente faceva parte del set di addestramento. The Register ha trattato l'articolo lo stesso giorno. Il team ha testato sette dataset di IA medica che coprono immagini, tracciati ECG e cartelle cliniche elettroniche generiche. Secondo gli autori, i singoli pazienti possono essere identificati con un tasso di successo dell'attacco quasi perfetto.

È un problema di privacy. È anche un problema di misurazione. Il protocollo di valutazione standard misura il successo dell'attacco in forma aggregata sui vari record. Come sottolineano i ricercatori, questo approccio non coglie adeguatamente i tassi di successo quasi perfetti per i singoli pazienti. Un audit che riporta una media può mancare del tutto il singolo caso.

Cosa richiedono le regole e cosa sfugge

L'AI Act dell'UE è il quadro normativo citato più spesso in questo dibattito, e i dettagli pubblici sul suo lato operativo sono scarsi. Quello che i documenti mostrano è uno scarto tra il linguaggio di conformità usato dai fornitori e la ricerca sulla sicurezza pubblicata nello stesso periodo.

Un progetto su GitHub, srta-ai-accountability, si descrive come il primo sistema a rispondere alle domande sul perché nell'IA spiegabile con una conformità al 94% all'AI Act UE. È esplicitamente etichettato come prototipo di ricerca e architettura concettuale. Questo è lo stato dell'arte per almeno una parte degli strumenti di accountability: una dichiarazione di conformità al 94%, pubblicata su un repository di codice, senza alcun ente regolatore associato al numero.

L'articolo di Monaco punta in un'altra direzione. I suoi autori vogliono cambiare gli standard di rendicontazione per gli audit di privacy dell'IA, in modo che conti il rischio a livello individuale, non solo quello aggregato. Raccomandano anche quadri di privacy differenziale, progettati per garantire matematicamente che i dati di addestramento restino anonimi. E suggeriscono che i dati di addestramento possano essere compilati in modo che i gruppi sottorappresentati siano meglio rappresentati.

L'autore principale Moritz Knolle ha detto a The Register che i rischi per la privacy derivanti dai MIA diventano più gravi man mano che la coorte di addestramento di un modello diventa più specifica. Ha portato l'esempio dell'appartenenza a un set di addestramento che rivela che qualcuno ha una condizione genetica dormiente come la malattia di Huntington, la depressione, o che ha frequentato una specifica clinica specializzata.

Le dichiarazioni di accuratezza che i regolatori dovranno valutare

Le prestazioni diagnostiche sono l'altra metà del problema normativo, e qui i numeri sono insolitamente confusi.

Microsoft ha annunciato il suo AI Diagnostic Orchestrator (MAI-DxO) il 30 giugno 2025. GeekWire ha riferito che lo strumento ha battuto 21 medici esperti di Stati Uniti e Regno Unito su casi complessi del New England Journal of Medicine, con un punteggio dell'85,5% contro il 20% dei medici. WIRED, che ha trattato lo stesso lavoro il 1 luglio 2025, ha indicato la cifra dell'80% contro il 20% e ha scritto che il sistema riduceva i costi del 20% scegliendo esami più economici. Il benchmark era costruito su 304 casi recenti del NEJM.

Queste cifre hanno un caveat che compare in entrambi i resoconti. I medici dello studio non potevano consultare colleghi né usare risorse esterne, cosa che non rispecchia il lavoro dei clinici. Lo scienziato del MIT David Sontag ha detto a WIRED che i risultati di Microsoft vanno trattati con cautela proprio per questo motivo. Ha anche messo in dubbio che il sistema riduca i costi nella pratica. Microsoft stessa ha detto che lo strumento avrebbe bisogno di test clinici e di approvazione normativa prima dell'impiego.

Poi c'è il caso di fallimento. Il 15 aprile 2026 The Register ha riferito di uno studio su JAMA Network Open guidato dallo studente di medicina di Harvard Arya Rao. Lo studio ha testato 21 modelli di IA leader disponibili sul mercato contro 29 vignette cliniche standardizzate. I modelli erano corretti nel 91% dei casi quando veniva chiesta una diagnosi finale con tutte le informazioni. Ma nella diagnosi differenziale iniziale, la fase in cui i clinici includono ed escludono le condizioni, hanno fallito in più di 8 casi su 10.

Tutti i modelli che abbiamo testato hanno fallito nella grande maggioranza dei casi, ha detto Rao a The Register. È la fase in cui l'incertezza conta di più, ed è quella in cui questi sistemi sono più deboli.

Il radiologo del Massachusetts General Hospital Marc Succi, coautore, ha detto alla stessa testata che i modelli disponibili oggi non vanno considerati affidabili per un ragionamento diagnostico rivolto al paziente senza una revisione umana strutturata e completa. Ha anche detto che tassi di successo più alti nella diagnosi finale non dovrebbero rassicurare, perché il ragionamento clinico reale inizia prima, quando l'ambiguità è massima.

Cosa dovrebbe testare un regolatore

Mettendo i tre risultati uno accanto all'altro, il problema dell'audit diventa concreto.

  • Privacy: i singoli pazienti di un set di addestramento possono essere identificati con elevato successo, e i gruppi sottorappresentati sono più facili da identificare rispetto agli altri. La rendicontazione aggregata lo nasconde.
  • Prestazioni: la stessa classe di modello può segnare il 91% sulla diagnosi finale e fallire in più dell'80% dei casi di diagnosi differenziale iniziale.
  • Progettazione del benchmark: il risultato principale di Microsoft è venuto da un test in cui i medici umani lavoravano senza le risorse che usano normalmente.

Niente di tutto questo significa che l'IA medica non possa essere regolata. Significa che gli strumenti attuali misurano l'unità sbagliata. Un punteggio aggregato di privacy, un tasso di accuratezza sulla risposta finale e un benchmark eseguito in condizioni artificiali sono tutti facili da pubblicare e difficili da falsificare.

Knolle ha detto di sperare che la comunità dell'IA medica inizi a prendere sul serio i rischi per la privacy e che le tecniche di mitigazione del rischio vengano usate dove servono. Ha anche osservato che in molte situazioni un MIA riuscito rappresenta una violazione della privacy piccola o trascurabile, come nel caso di modelli addestrati su popolazioni ampie e generali.

La questione irrisolta è chi decida in quale situazione si trovi un dato modello. Secondo l'AI Act UE, quella decisione spetta al fornitore e all'auditor, non agli autori dell'articolo e non a un repository che si dà un voto del 94%.

Commenti 0

Fonti

5
  1. 01Medical diagnosis AIs can be tricked into telling whose data trained themEN
  2. 02Microsoft AI tool outperforms doctors in diagnosing complex medical casesEN
  3. 03Microsoft Says New AI Diagnosed Patients 4 Times More Accurately Than DoctorsEN
  4. 04LLMs fail in 8 out of 10 early differential diagnosis casesEN
  5. 05srta-ai-accountability: AI Accountability FrameworkEN

Tutti i numeri e le citazioni di questo testo provengono dalle fonti elencate sotto.

I contenuti sono stati preparati dalla redazione con il supporto dell'IA.

Sara Gallo

Sara Gallo

Scienza e salute

Sara Gallo scrive di scienza e salute per FLASH24, partendo da studi originali, comunicati di enti di ricerca e dati di agenzie sanitarie, senza fermarsi ai titoli. Per ogni articolo controlla campioni, intervalli di confidenza e conflitti di interesse, confrontando i numeri con le serie storiche di ISS ed Eurostat. Segue le revisioni sistematiche in uscita e attende i briefing del ministero della Salute, parlando con ricercatori e clinici prima di pubblicare. La sua formazione in fisica dei materiali e il telescopio che usa nel tempo libero si ritrovano nella cura con cui legge misure e immagini. Non pubblica stime senza fonte primaria.

Redazione →

Commenti

0
  1. Nessun commento — sii il primo.

Scrivi un commento

I commenti sono pubblici. Non pubblichiamo insulti, spam né pubblicità.