IA in medicina: quando il ginocchio rivela le tue preferenze in fatto di birra
L'intelligenza artificiale dovrebbe essere in grado di riconoscere i dettagli delle immagini mediche che rimangono nascosti all'occhio umano. Tuttavia, un nuovo studio mostra come l'IA possa facilmente trovare modelli fuorvianti nei dati e giungere a conclusioni errate.
Immagina che un software informatico sia in grado di capire se ti piace o meno la birra in base a una radiografia del tuo ginocchio. Sembra assurdo, vero? Ma è esattamente ciò che il gruppo di ricerca ha ottenuto da un recente studio. Tuttavia, non c'è stata alcuna gioia per il presunto successo: la pubblicazione vuole attirare l'attenzione su un problema serio nello sviluppo dell'intelligenza artificiale per l'imaging medico.
Le scorciatoie non sempre portano a destinazione
Nel loro articolo pubblicato su Scientific Reports, gli autori dimostrano quanto gli algoritmi di deep learning siano suscettibili ai percorsi più corti. Si tratta di un fenomeno in cui i modelli di intelligenza artificiale seguono praticamente delle scorciatoie. Si basano su modelli superficiali dei dati di addestramento, invece di apprendere le caratteristiche mediche effettivamente rilevanti.
La scorciatoia si verifica quando un modello trova una soluzione semplice per svolgere un compito senza comprendere realmente il problema di fondo. In un contesto medico questo può essere particolarmente problematico.
L'IA riconosce il consumo di birra e fagioli dalle radiografie del ginocchio
Per illustrare il problema, un gruppo di ricerca ha addestrato semplici reti neurali per determinare se i pazienti consumassero birra o fagioli fritti in base alle radiografie del ginocchio. Poiché queste preferenze non possono essere logicamente riconosciute da una radiografia del ginocchio, l'IA non dovrebbe essere in grado di fare affermazioni corrispondenti. Tuttavia, il risultato è stato una sorpresa: i modelli di intelligenza artificiale sono stati in grado di prevedere le preferenze con un'accuratezza del 63% per i fagioli e addirittura del 73% per la birra. Molto più che se avesse semplicemente tirato a indovinare. Questo nonostante non esista un legame medico plausibile tra le abitudini alimentari e l'aspetto di un ginocchio.
Correlazioni nascoste nei dati
Come hanno fatto i modelli a raggiungere a questi risultati? La risposta sta nel record dei dati. I sistemi di intelligenza artificiale hanno imparato a riconoscere modelli meno evidenti legati a fattori demografici o a dettagli tecnici dell'acquisizione dell'immagine. Pertanto, non hanno basato le loro previsioni sull'aspetto delle immagini radiografiche, ma piuttosto sull'età e sul sesso dei pazienti, sulla loro etnia o su dove vivessero. Ad esempio, sono stati in grado di identificare il centro clinico in cui è stata scattata l'immagine o persino di determinare l'anno di produzione della macchina a raggi X.
Fonte: Hill et al./ Scientific Reports, CC-by-nc-nd 4.0
Perché è pericoloso
«Questi risultati dimostrano quanto sia facile creare modelli con previsioni sorprendentemente accurate ma prive di qualsiasi plausibilità», avvertono gli autori dello studio. Nella ricerca medica, questo potrebbe portare a conclusioni errate. Quando si pensa che un modello di intelligenza artificiale abbia fatto una nuova scoperta rivoluzionaria, in realtà potrebbe aver trovato solo una correlazione casuale nei dati.
Il problema delle scorciatoie va ben oltre le semplici alterazioni. Lo studio dimostra che i modelli non solo utilizzano singoli fattori fuorvianti come il sesso o l'età, ma anche complesse combinazioni di variabili diverse. Anche se si escludono i fattori di influenza evidenti, gli algoritmi trovano spesso altri modi per fare le loro previsioni.
Redattrice scientifica e biologa. Amo gli animali e sono affascinata dalle piante, dalle loro capacità e da tutto ciò che si può fare con loro. Ecco perché il mio posto preferito è sempre all'aperto, in mezzo alla natura, preferibilmente nel mio giardino selvaggio.