La narrativa trionfalistica sull’intelligenza artificiale (IA) in medicina promette un futuro idilliaco: diagnosi istantanee e medici liberati da molti oneri. Tuttavia, quando gli algoritmi escono dal laboratorio ed entrano nella caotica realtà ospedaliera, si scontrano con la psicologia umana. La pratica clinica rivela che la vera sfida dell’IA non è la precisione del suo codice, bensì la sua convivenza con la mente del medico.

Il mistero dello strumento perfetto ma abbandonato

Immaginiamo un assistente digitale impiegato in pronto soccorso, capace di analizzare i dati del paziente e fornire raccomandazioni cliniche. Immaginiamo che un gruppo di esperti ne valuti le prestazioni e concluda che il 99% delle sue decisioni sia clinicamente appropriato. Chiunque penserebbe che i medici lo adotterebbero immediatamente e con entusiasmo.

È accaduto il contrario. Uno studio prospettico sul sistema SHAKED, implementato presso il Rambam Health Care Campus in Israele e pubblicato su Nature Medicine, ha rivelato una dinamica sconcertante: in sole quattro settimane di sperimentazione reale su 1.138 pazienti, il tasso di utilizzo da parte dei medici è crollato dal 68% al 30%.

Perché voltare le spalle a un sistema quasi perfetto? L’abbandono si è concentrato soprattutto durante i turni caratterizzati da un maggiore sovraccarico di lavoro. Nei momenti di massima pressione, i medici lo percepivano come lento o fastidioso all’interno del proprio flusso di lavoro. Il collo di bottiglia non è quindi la precisione algoritmica, bensì l’attrito umano derivante dal suo utilizzo quotidiano.

Il paradosso del radiologo: più IA, più esaurimento

La stanchezza non riguarda esclusivamente i servizi di pronto soccorso. Promossa in radiologia come una soluzione alla carenza di professionisti, l’IA si confronta nella pratica con risultati molto meno incoraggianti. Uno studio nazionale condotto in Cina su 6.726 radiologi ha messo in discussione questa ipotesi, rilevando una preoccupante relazione dose-risposta: quanto più frequentemente veniva utilizzata l’IA, tanto maggiore risultava il rischio di esaurimento professionale (burnout).

L’indice ponderato di burnout è risultato superiore nel gruppo esposto all’IA (40,9% contro 38,6%), soprattutto in relazione a una maggiore fatica emotiva. Lungi dal rendere sempre il lavoro più rapido, l’IA può richiedere al radiologo più tempo per effettuare diagnosi differenziali ed elaborare le informazioni quando vengono rilevate anomalie. Inoltre, può ridurre la collaborazione tra colleghi e aumentare lo stress associato all’apprendimento e all’adattamento tecnologico.

Il pericolo di «spegnere il cervello»: l’algosorveglianza cognitiva

Il rischio più sottile dell’IA clinica non è soltanto che possa sbagliare, ma che risulti talmente eloquente e convincente da indurre il medico a smettere di dubitare. Gli esperti di sicurezza del paziente hanno richiamato l’attenzione sulla necessità di introdurre una «algosorveglianza cognitiva»: non basta controllare il funzionamento tecnico degli algoritmi, ma occorre anche studiare in che modo essi modifichino il ragionamento del medico.

Qui emerge il pericolo del «restringimento diagnostico indotto dall’IA». Quando un modello genera una diagnosi con grande eloquenza e coerenza superficiale, il medico può essere vittima di un bias di ancoraggio. L’attenzione si restringe, la soglia di verifica si abbassa e le ipotesi secondarie vengono scartate passivamente.

Ciò può provocare la perdita della cosiddetta «coda diagnostica»: quei casi rari ma gravi che un medico esperto potrebbe individuare attraverso il sospetto clinico, ma che l’IA può omettere e che il professionista, condizionato dalla fluidità e dall’apparente sicurezza della macchina, potrebbe lasciarsi sfuggire.

Anche in ambito amministrativo, i modelli linguistici mostrano limiti importanti. Uno studio pubblicato su PLOS Digital Health ha dimostrato che chiedere a modelli linguistici di grandi dimensioni (LLM), come GPT-4o, di analizzare cartelle ospedaliere mediante domande dirette in linguaggio naturale può produrre errori significativi. L’accuratezza può scendere dal 95% a meno del 60% con l’aumentare del volume dei dati, quando questi sistemi non sono integrati con strumenti di esecuzione del codice.

La lezione offerta dalla pratica clinica reale è chiara: la sicurezza dell’IA medica non può essere misurata unicamente sulla base dell’accuratezza dell’algoritmo in laboratorio, ma anche sulla capacità del sistema sanitario di preservare, proteggere e supervisionare il giudizio critico del medico che lavora insieme ad essa.