Google ha rimosso i riassunti generati dall’intelligenza artificiale per alcune ricerche sanitarie, dopo che un’inchiesta del Guardian ha rivelato che quella funzione forniva delle informazioni mediche potenzialmente fuorvianti.
L’inchiesta del Guardian
Secondo un’indagine condotta dal Guardian, i riassunti generati dall’IA di Google offrivano delle informazioni fuorvianti in risposta a determinate domande relative alla salute.
Ad esempio, il Guardian ha inizialmente riportato che quando gli utenti chiedevano “qual è il range normale per gli esami del sangue del fegato”, venivano presentati dei risultati con dei numeri che non tenevano conto di fattori quali la nazionalità, il sesso, l’etnia o l’età, portandoli potenzialmente a pensare che i loro risultati fossero sani quando invece non lo erano.
Le rimozioni confermate
Il Guardian ha successivamente confermato che i riassunti dell’IA sono stati rimossi dai risultati per “qual è il range normale per gli esami del sangue del fegato” e “qual è il range normale per i test di funzionalità epatica”.
Tuttavia, il quotidiano ha scoperto che alcune varianti di quelle stesse domande potevano ancora portare ai riassunti generati dall’intelligenza artificiale.
La verifica indipendente
Quando TechCrunch ha provato quelle ricerche diverse ore dopo la pubblicazione dell’articolo del Guardian, nessuna di esse ha prodotto dei riassunti generati dall’IA, anche se Google offriva ancora l’opzione di porre la stessa domanda in modalità IA.
In diversi casi, il primo risultato era proprio l’articolo del Guardian che riguardava la rimozione dei riassunti generati dall’IA.
La risposta di Google
Un portavoce di Google ha dichiarato al Guardian che l’azienda non commenta “le singole rimozioni all’interno della Ricerca”, ma che lavora per “apportare miglioramenti generali”.
Il portavoce ha inoltre affermato che un gruppo interno di medici ha esaminato le ricerche evidenziate dal Guardian e ha riscontrato che “in molti casi, le informazioni non erano imprecise ed erano anche supportate da siti web di alta qualità”.
L’anno scorso, Google ha annunciato delle nuove funzionalità volte a migliorare la Ricerca Google per i casi d’uso sanitari, inclusi i riassunti migliorati e i modelli di IA focalizzati sulla salute.
Le preoccupazioni degli esperti
Vanessa Hebditch, direttrice delle comunicazioni e delle politiche presso il British Liver Trust, ha dichiarato al Guardian che la rimozione è “un’ottima notizia”, ma ha aggiunto: “La nostra preoccupazione più grande in tutto questo è che si sta contestando un singolo risultato di ricerca e Google può semplicemente disattivare i riassunti dell’IA per quel risultato, ma non sta affrontando il problema più ampio dei riassunti dell’IA per la salute”.
Questa vicenda solleva degli interrogativi importanti sull’affidabilità dell’intelligenza artificiale quando si tratta di fornire delle informazioni mediche, un ambito in cui l’accuratezza e la personalizzazione delle informazioni sono fondamentali per la sicurezza dei pazienti.
La rimozione selettiva di alcuni riassunti, pur essendo un passo nella giusta direzione, non sembra affrontare la questione strutturale dell’uso dell’IA generativa per i contenuti sanitari che richiedono una contestualizzazione basata sulle caratteristiche individuali.
