La pandemia covida – 19 sta allungando le risorse dell'ospedale fino al punto di rottura in quasi tutti i paesi del mondo. Non sorprende che molte persone sperino che l'IA possa accelerare lo screening dei pazienti e alleggerire il personale clinico. Ma uno studio di Google Health, il primo a esaminare l'impatto di uno strumento di apprendimento profondo in contesti clinici reali, rivela che anche gli IA più accurati possono effettivamente peggiorare le cose se non adattati agli ambienti clinici in cui lavoreranno.
Le regole esistenti per l'implementazione dell'IA in contesti clinici, come gli standard per l'autorizzazione FDA negli Stati Uniti o un marchio CE in Europa, si concentrano principalmente sull'accuratezza. Non ci sono requisiti espliciti per cui un'intelligenza artificiale deve migliorare il risultato per i pazienti, soprattutto perché tali studi non sono ancora stati eseguiti. Ma questo deve cambiare, afferma Emma Beede, ricercatrice di UX presso Google Health: “Dobbiamo capire come funzioneranno gli strumenti di intelligenza artificiale per le persone nel contesto, specialmente nell'assistenza sanitaria, prima che siano ampiamente utilizzati”.
La prima opportunità di Google di testare lo strumento in un ambiente reale è venuta dalla Tailandia. Il ministero della salute del paese ha fissato un obiettivo annuale per lo screening 60% delle persone con diabete per la retinopatia diabetica, che può causare cecità se non viene preso in tempo. Ma con circa 4,5 milioni di pazienti solo 200 specialisti della retina – circa il doppio del rapporto negli Stati Uniti – le cliniche stanno lottando per raggiungere l'obiettivo. Google ha ottenuto il marchio CE, che copre la Thailandia, ma è ancora in attesa dell'approvazione della FDA. Quindi, per vedere se l'IA potrebbe aiutare, Beede e i suoi colleghi hanno allestito cliniche 11 in tutto il paese con un sistema di apprendimento profondo addestrato per individuare i segni di malattie degli occhi nei pazienti con diabete.
Nel sistema che la Thailandia stava usando, gli infermieri scattano foto degli occhi dei pazienti durante i controlli e li inviano per essere guardati da uno specialista altrove, un processo che può richiedere fino a 10 settimane. L'intelligenza artificiale sviluppata da Google Health è in grado di identificare i segni della retinopatia diabetica da una scansione oculare con un'accuratezza superiore al 90% – che il team chiama “livello specialistico umano” – e, in linea di principio, dare un risultato in meno di 10 minuti. Il sistema analizza le immagini per indicatori rivelatori della condizione, come vasi sanguigni bloccati o che perdono.
Suoni impressionanti. Ma una valutazione di accuratezza da un laboratorio va solo finora. Non dice nulla di come l'IA si esibirà nel caos di un ambiente reale, e questo è ciò che il team di Google Health voleva scoprire. Per diversi mesi hanno osservato gli infermieri che eseguivano scansioni oculari e li intervistavano sulle loro esperienze usando il nuovo sistema. Il feedback non è stato del tutto positivo.
Quando ha funzionato bene, l'IA ha accelerato le cose. Ma a volte non è riuscito a dare un risultato a tutti. Come la maggior parte delle immagini re