“L’Ai in sanità fa passi avanti mai visti. E serviranno più medici, non meno”. L’esperto Usa analizza rischi e sfide

(Adnkronos) - "Se penso agli sviluppi dell'intelligenza artificiale in sanità, io non ho mai visto nulla che si sia mosso così velocemente in tutta la mia vita. Bisogna comunque considerare che la diffusione della tecnologia, in generale, è molto più lenta nel settore sanitario. E questo vale anche per l'Ai. Si può avere la migliore tecnologia in circolazione, ma ci si troverà a chiedersi: perché l'adozione è così lenta?". Per il medico radiologo Woojin Kim, Chief Strategy Officer e Chief Medical Information Officer dell'azienda Hoppr e Chief Medical Officer dell'American College of Radiology Data Science Institute, lo stesso discorso vale per l'Ai applicata alla radiologia: "Sono stati investiti miliardi di dollari, ma la sua adozione clinica è stata al momento inferiore alle aspettative, considerando l'entità degli investimenti". E "ci sono molte ragioni che lo spiegano", dichiara all'Adnkronos Salute. Una - analizza Kim a margine dell'evento 'Healthcare Informatics Connect', promosso da Philips al Milano Luiss Hub - ha a che fare con la sfida di riuscire ad "adattare l'Ai al flusso di lavoro" degli esperti. "Prendiamo uno dei casi d'uso tipici in radiologia: la cosiddetta Narrow Ai", cioè un sistema che esegue alcune funzioni complesse, ben determinate e per cui è stato addestrato. "Io posso mostrare a un modello di questo tipo l'immagine di una Tac encefalo e dirà se c'è un'emorragia o no. Ma il radiologo non si limita a cercare emorragie in una Tac encefalo. Ci sono letteralmente centinaia di altri possibili reperti che tiene a mente e che sta cercando. Se si offre una soluzione di Ai che individua solo un paio di reperti, questa non si adatta al flusso di lavoro del radiologo. Se aggiunge finestre pop-up e clic aggiuntivi, non vorrò usarla. Una curiosità: negli Stati Uniti un radiologo in media usa già il mouse per 2 chilometri al giorno e fa clic oltre 5.000 volte al giorno. Quindi queste obiezioni sono comprensibili. Inoltre, a volte il più grande ostacolo siamo noi medici che, essendo così abituati al nostro modo di lavorare, non vogliamo che cambi".  C'è poi l'ecosistema tecnologico in cui deve integrarsi l'Ai quando arriva in un ospedale. "La sanità fa ancora grande affidamento su flussi di lavoro obsoleti, inclusi fax, Cd e sistemi informativi frammentati - ragiona Kim - Aggiornare software, implementare la cartella clinica elettronica o il sistema informativo di radiologia può richiedere un investimento di tempo e risorse". E "l'aspetto economico complessivo è una delle valutazioni su cui si basano i dirigenti che devono prendere le decisioni". Su questo fronte è cruciale "la gestione del cambiamento. Non si tratta semplicemente di introdurre una nuova tecnologia", osserva l'esperto. "Tanti dicono che i dirigenti che devono valutare se adottare o meno una soluzione di Ai in sanità, si preoccupano di tre cose: il ritorno d'investimento, il costo totale e gli obblighi normativi. La questione di chi paga per l'Ai, di come verrà rimborsata, è ancora aperta. E poi ci sono le questioni relative alla sicurezza del paziente e alla privacy. In generale, il contesto normativo è estremamente complesso quando si parla di sanità. Quindi, anche un caso d'uso dell'Ai davvero eccezionale si misurerà con diversi ostacoli normativi". Questo è "il panorama attuale", dice Kim. Un panorama che però è in evoluzione.  Dove sta andando la tecnologia? "Nel mondo dell'Ai si passa dai Llm - Large Language Model (che alimentavano per esempio ChatGpt quando è apparso per la prima volta) ai Lmm - Large Multimodal Model e a quella che è la tendenza più in voga al momento, cioè agentic Ai (basata su agenti, ndr)", un sistema con un'autonomia ancora maggiore. "Ora dobbiamo pensare a come integrarla nel mondo sanitario". Parlando di grandi modelli multimodali, descrive Kim, "posso dire che in radiologia si sta verificando un piccolo cambio di paradigma, ma con un impatto enorme: questi sistemi sono in grado di esaminare radiografie del torace e generare un referto che il radiologo rilegge, eventualmente modifica, e infine approva. Se mi si chiede qual è secondo me la tendenza più in voga in ambito di intelligenza artificiale e radiologia, io nel 2026 rispondo: la redazione automatica dei referti radiologici. Negli Stati Uniti è esattamente quello che sta succedendo. E cambierà radicalmente il modo in cui l'Ai verrà utilizzata in radiologia. Per quanto riguarda l'ultima evoluzione, l'Ai basata su agenti, dobbiamo cambiare la nostra infrastruttura per assicurarci di poterle permettere di realizzarsi".  Oggi "il più grande trend dell'intelligenza artificiale nel settore sanitario è la tecnologia di trascrizione assistita da Ai. Immaginiamo un medico e un paziente che stanno avendo un colloquio. Il medico qualche anno fa guardava lo schermo del computer, digitando, mentre il paziente parlava. E si perdeva il contatto visivo. Ora", con questa sorta di 'assistente invisibile', "il medico parla col paziente e l'Ai ascolta. Alla fine del colloquio il dottore guarda lo schermo della cartella clinica elettronica e trova il riepilogo" della visita. Molti medici "adorano questa tecnologia, perché ora possono guardare negli occhi i pazienti e tornare a essere davvero i loro medici. Il numero di visite non è poi così diverso, ma il carico cognitivo e amministrativo è effettivamente minore. E sei un medico più felice". Questo il quadro tracciato da Kim, che è anche medico radiologo al Palo Alto VA Medical Center e, nelle vesti di imprenditore, le sue precedenti aziende di tecnologia sanitaria sono state acquisite da grandi operatori del settore. L'esperto racconta quello che i professionisti sanitari concretamente vogliono dall'Ai e anche cosa non vogliono (come ad esempio "troppi pop-up e clic aggiuntivi"). In sintesi, un ritratto dell'assistente ideale. "Questo è il tipo di tendenza che stiamo osservando - spiega - Molte volte si sente dire: 'L'Ai ti migliorerà la vita, ti farà lavorare più velocemente ed essere più efficiente, più produttivo'. La realtà è che i migliori casi d'uso che ho visto sono quelli in cui l'Ai ti fa sentire meno stanco, così che tu possa davvero essere medico. E lo stiamo vedendo in radiologia, ma anche in medicina generale. Spero davvero che la tecnologia arrivi a questo. C'è una convinzione diffusa che possa contribuire a ridurre il burnout dei medici". E c'è un fattore che fa la differenza, conclude Kim: "E' importante anche come si implementa la soluzione di Ai, non solo la tecnologia in sé".  In principio, fu AlexNet. Nel 2012, questo modello di rete neurale vinse con la più bassa percentuale di errore la gara per sistemi di riconoscimento immagini 'ImageNet Large Scale Visual Recognition Challenge', "ed è allora che il mondo del deep learning è davvero cambiato. Molti hanno pensato: se l'Ai può distinguere tra gatti e cani, forse le si può mostrare l'immagine di una radiografia e chiederle: c'è un tumore ai polmoni o no?". La pietra miliare ricordata da Kim sembrerebbe l'incipit di una storia che parla di professioni perdute, di medici in via di estinzione scalzati da super tecnologie. In realtà non è così, assicura l'esperto. E non lo è stato nonostante la 'profezia' di "Geoffrey Hinton, uno dei padrini dell'Ai, che 10 anni fa nel 2016 disse: 'La gente dovrebbe smettere di formare radiologi ora'. Facendo un salto in avanti fino ai giorni nostri - spiega Kim - la realtà è ben diversa: abbiamo bisogno di più radiologi e, se il mondo gli avesse dato ascolto 10 anni fa, oggi saremmo in guai seri visto che negli Stati Uniti la crescita dei radiologi si aggira tra l'1% e il 2% annuo e il volume di imaging continua a crescere invece a un tasso di circa il 4-6% per anno. Un divario che si allarga sempre di più".  Per Kim il fattore umano resta cruciale, nell'era dell'Ai. E l'intelligenza artificiale dovrebbe lavorare come un 'assistente' che facilita il flusso del lavoro, ma sempre consentendo il 'potere di veto' umano. Il radiologo, in altre parole, deve poter eventualmente annullare i suggerimenti dell'Ai senza attriti. "In realtà - rimarca - in questo momento c'è una carenza di radiologi e anche con la svolta dell'Ai avremo bisogno di più radiologi, non di meno".  In questo decennio, racconta, una delle domande più ricorrenti è stata: l'intelligenza artificiale sostituirà i radiologi? Sostituirà questo o quell'altro medico? "Ma è la domanda sbagliata - ragiona l'esperto - La realtà è che abbiamo carenza di radiologi. E questa carenza non scomparirà presto. Chi (anche noti esperti di Ai) dice il contrario si sbaglia, confonde un compito" che potrebbe essere assolto dall'Ai "con un lavoro. Ma il lavoro non è solo un compito, sono molteplici compiti, molteplici dimensioni. Il pericolo che vedo è ridurre tutto a una singola dimensione. Noi medici, radiologi e altri professionisti sanitari, non guardiamo solo le immagini" di una radiografia o una Tac. "Su tutto questo serve una riflessione seria".  Contrastare l'uso ombra dell'Ai, sicurezza informatica, utilità clinica come faro. Per l'intelligenza artificiale in sanità Kim vede tre grandi sfide. Uno degli aspetti che va discusso, evidenzia, è "sicuramente quello che viene chiamato l'uso ombra dell'Ai. Noi sappiamo che i medici usano l'Ai in questo momento. Un'Ai che non è necessariamente autorizzata dai sistemi sanitari perché non l'hanno implementata nei loro sistemi, ma loro la usano comunque. E sanno che non dovrebbero, perché così i dati dei loro pazienti non sono necessariamente al sicuro. Molte persone, sia medici e operatori sanitari sia pazienti, utilizzano strumenti come ChatGpt per domande sulla propria salute. La grande sfida sarà: come possiamo muoverci abbastanza velocemente in modo da permettere alle persone di utilizzare in maniera sicura l'intelligenza artificiale", un'Ai integrata, ben strutturata e sicura, "senza dover ricorrere a questa Ai ombra?".  "La seconda sfida è la sicurezza informatica - prosegue - Molti ospedali vengono hackerati, finiscono nel mirino di attacchi ransomware" o di altro tipo. Le minacce cresceranno nel tempo. Come anche le incognite. Kim guarda per esempio a Claude Mythos Preview di Anthropic, Ai con la capacità di identificare e sfruttare vulnerabilità di sicurezza nei programmi informatici, nei browser, nei sistemi più utilizzati. Uno strumento potente che intimorisce anche gli esperti per i rischi a cui potrebbe aprire le porte se finisse in mani sbagliate. "La mia preoccupazione è che gli attacchi informatici, la loro sofisticazione, la loro frequenza peggioreranno velocemente. Quindi i sistemi sanitari devono davvero prepararsi a questo, spesso infatti sono vulnerabili. Penso che debbano riflettere seriamente su come proteggere loro stessi e i pazienti". Il terzo elemento citato da Kim è anche un auspicio: "Vorrei davvero che l'Ai aiutasse tutti coloro che lavorano nei sistemi sanitari, non solo che li rendesse più veloci. Se un radiologo si trova a leggere 200 casi al giorno invece di 100, grazie alla soluzione di Ai che gli viene fornita, alla fine sarà esausto e magari cercherà un altro lavoro. A meno che la stessa soluzione di intelligenza artificiale non dia loro l'impressione di leggere 50 casi al giorno, nel qual caso potrebbero essere più soddisfatti. Tutti si concentrano sull'accuratezza clinica, i manager sull'efficienza clinica, sulla produttività e sui tempi di risposta. Vorrei sfidare l'intero settore a guardare oltre: la cosa più importante è l'utilità clinica. Se una cosa non è clinicamente utile, non importa quanto sia precisa o quanto faccia andare veloce, non verrà utilizzata". Nel capitolo sicurezza entra anche "il rischio di immagini deepfake - continua Kim - Sappiamo da anni che l'intelligenza artificiale può creare una radiografia del torace o una Tac dell'addome o del bacino che potrebbero ingannare completamente i radiologi. Dobbiamo preoccuparcene, perché ci saranno malintenzionati che useranno la tecnologia in modo dannoso. Quindi l'industria deve riflettere su questo e su come proteggersi". Ma c'è anche altro: "Per alcune malattie i casi sono rari e non ci sono dati sufficienti per addestrare i modelli di intelligenza artificiale. C'è chi dice: creiamo sinteticamente migliaia di questi casi e addestriamo il modello di intelligenza artificiale. Tuttavia, c'è stato uno studio molto interessante 4 anni fa, che mostrava come i modelli di Ai possano prevedere l'etnia indicata dal paziente semplicemente guardando una radiografia. Ora, se mi deste una radiografia, io non sarei in grado di dirvi se si tratta di un paziente bianco o di un paziente nero. Ma l'Ai, per qualche ragione, riesce a capirlo. Significa che in queste immagini sono codificate delle informazioni nascoste. Pertanto, quando si creano sinteticamente dei casi su determinati stati patologici solo per potenziare il proprio modello di Ai bisogna chiedersi: quale altro bias sto introducendo che non posso vedere? C'è dunque un problema con i deepfake, ma anche con i dati sintetici. Bisogna fare un passo indietro e chiedersi: che dire di tutte quelle cose nascoste che io, come essere umano, non riesco nemmeno a vedere? Quali ulteriori bias nascosti stiamo introducendo?". (di Lucia Scopelliti)  ---salute/[email protected] (Web Info)