Una ricerca pubblicata su Nature evidenzia come alcuni modelli di Intelligenza Artificiale possano rendere identificabili i dati sanitari di singoli individui, soprattutto se appartenenti a gruppi sottorappresentati
Gli autori chiedono nuove misure di protezione e una valutazione del rischio centrata sulla persona
L’intelligenza artificiale sta trasformando rapidamente anche il mondo della medicina. Dalla diagnostica per immagini all’analisi delle cartelle cliniche elettroniche, fino al supporto alle decisioni terapeutiche, i modelli di IA promettono di migliorare la qualità delle cure, accelerare le diagnosi e rendere più accessibili competenze specialistiche anche nelle aree più svantaggiate.
Accanto a queste opportunità emergono però interrogativi sempre più importanti sul fronte della tutela della privacy. Un nuovo studio pubblicato sulla rivista scientifica Nature richiama infatti l’attenzione su un rischio spesso sottovalutato: alcuni modelli di intelligenza artificiale potrebbero consentire di identificare le persone i cui dati sanitari sono stati utilizzati durante l’addestramento degli algoritmi. Una prospettiva che apre nuove riflessioni non solo sul piano tecnologico, ma anche su quello etico e giuridico.
Quando i dati sanitari non sono più davvero anonimi
Per sviluppare sistemi di IA affidabili è necessario utilizzare enormi quantità di dati clinici: immagini diagnostiche, elettrocardiogrammi, cartelle elettroniche, risultati di laboratorio e molte altre informazioni raccolte durante l’assistenza sanitaria.
Generalmente questi dati vengono anonimizzati prima di essere utilizzati per la ricerca. Tuttavia, secondo gli autori dello studio, questa protezione potrebbe non essere sempre sufficiente.
L’attenzione si concentra sui cosiddetti Membership Inference Attacks (MIA), particolari attacchi informatici che consentono a un aggressore di stabilire se i dati di una determinata persona siano stati utilizzati per addestrare un modello di intelligenza artificiale. Una volta ottenuta questa informazione, potrebbero essere dedotte ulteriori informazioni sensibili riguardanti lo stato di salute del paziente.
Lo studio : sette grandi archivi clinici analizzati
Il gruppo di ricerca guidato da Moritz Knolle ha analizzato sette grandi basi di dati clinici reali comprendenti immagini mediche, elettrocardiogrammi e cartelle cliniche elettroniche.
A differenza di studi precedenti, che valutavano il rischio considerando il database nel suo insieme, i ricercatori hanno scelto di osservare il problema dal punto di vista del singolo individuo.
I risultati sono significativi. Gli attacchi di inferenza di appartenenza sono riusciti, in numerosi casi, a identificare correttamente i soggetti presenti nei dati di addestramento con un margine di errore estremamente ridotto. Questo significa che il rischio reale può essere molto più elevato di quanto finora stimato.
I più vulnerabili sono i gruppi meno rappresentati
Uno degli aspetti più rilevanti dello studio riguarda la distribuzione del rischio. Le persone appartenenti a gruppi poco rappresentati nei database risultano infatti più esposte agli attacchi. Tra queste figurano pazienti affetti da malattie rare, appartenenti a minoranze etniche o socioeconomiche oppure con caratteristiche demografiche meno comuni.
Paradossalmente, proprio la scarsità di dati disponibili su questi gruppi rende più facile distinguerli all’interno dei modelli di IA. Secondo gli autori, inoltre, il rischio aumenta all’aumentare della complessità e della capacità dei modelli di intelligenza artificiale, che riescono a memorizzare una quantità sempre maggiore di informazioni durante la fase di apprendimento.
Innovazione e tutela della persona devono procedere insieme
Lo studio non mette in discussione il valore dell’intelligenza artificiale nella medicina. Al contrario, riconosce il potenziale straordinario di queste tecnologie nel migliorare la prevenzione, la diagnosi precoce e la personalizzazione delle cure. Proprio per questa ragione gli autori ritengono necessario rafforzare gli strumenti di protezione della privacy.
Tra le proposte avanzate figurano valutazioni del rischio basate sul singolo individuo, controlli più rigorosi sugli accessi ai modelli, nuove tecniche di mitigazione e sistemi di sicurezza capaci di limitare la possibilità di ricostruire informazioni personali.
Una questione che riguarda anche l’etica dell’intelligenza artificiale
Il lavoro pubblicato su Nature ricorda che la fiducia rappresenta uno degli elementi fondamentali per il futuro dell’IA in sanità.
I cittadini sono disposti a condividere i propri dati quando comprendono che saranno utilizzati per migliorare la ricerca e la qualità delle cure. Questa disponibilità, però, richiede garanzie concrete sulla protezione della riservatezza e sull’utilizzo responsabile delle informazioni personali.
L’innovazione tecnologica non può prescindere dal rispetto della dignità della persona, della sua identità e dei suoi diritti fondamentali. In ambito sanitario questo principio assume un valore ancora maggiore, perché riguarda dati tra i più sensibili che possano essere raccolti.
Lo studio rappresenta quindi un importante richiamo alla responsabilità di ricercatori, aziende tecnologiche, istituzioni e decisori pubblici. L’intelligenza artificiale potrà esprimere pienamente il proprio potenziale solo se saprà coniugare progresso scientifico, sicurezza informatica e tutela della persona, evitando che l’efficienza tecnologica venga perseguita a discapito della fiducia dei pazienti.
Articolo Nature : Disparate privacy risks from medical AI.
DOI 10.1038/s41586-026-10688-0
Immagine elaborata con IA.
