Gentile Direttore,
da clinici gelosi del far da sé le diagnosi di malattia, guardiamo con vivo interesse alle potenzialità dell’intelligenza artificiale (AI) e leggiamo con attenzione quanto ne viene scritto. Arriviamo pertanto ultimi in un ricco dibattito che sta investendo tutta la medicina e, soprattutto, arriviamo con pochi argomenti, se non per dire che è in atto un cambiamento. Assistiamo alla fine della clinica, almeno per come l’abbiamo ereditata dal passato e per come, ma ancora per poco, la stiamo praticando.
Constatiamo, però, che si è avverato un sogno: come i giocatori di scacchi di una volta avrebbero tanto voluto un avversario meccanico, ed ora l’hanno, così è la medicina al letto del malato. Si guardava con interesse, decenni fa, alle diagnosi computazionali promesse dai modelli matematici e dai sistemi esperti[1], ma l’interesse, nell’ufficio del clinico, era accompagnato da un palese scetticismo.
Ma era “ieri”, epoca in cui cui in corsia era impossibile “prestabilire e sistematizzare, perché la clinica è lo studio “dell’individuo malato e non può essere esposta che sotto forma di casistica infinita e inesauribile”[2]. In questa diffusa visione, la scienza della clinica consisteva, allora, nella fatica di ricercare quel che unisce persone diverse, ossia nel ricercare quel che hanno in comune malati diversi della stessa malattia.
Ora l’AI cambia tutto. L’AI aiuta, supporta, vicaria. Apporta efficacia ed efficienza nella diagnosi e nelle scelte terapeutiche. Ma fa dell’altro, potenzialmente pericoloso. Scrive Ettore Jorio: “lo stupidario algoritmico nasce quando una macchina produce un risultato linguisticamente impeccabile, statisticamente plausibile e apparentemente autorevole che, proprio per queste caratteristiche, induce chi lo riceve a considerarlo vero. Il pericolo non è dunque l’errore evidente. È l’errore credibile.” E prosegue: “in medicina la differenza è enorme. Un errore riconoscibile provoca una reazione critica. Una risposta algoritmica ben costruita, espressa con sicurezza e accompagnata dall’apparente neutralità della macchina rischia invece di trasformarsi silenziosamente in una fonte di autorità. È la delega cognitiva. Il medico non utilizza più l’algoritmo per interrogare meglio la realtà clinica, ma rischia di utilizzare la realtà clinica per confermare ciò che l’algoritmo gli ha già suggerito. La questione diventa allora epistemologica prima ancora che tecnologica”[3]. Infatti, per l’OMS Europa, “il problema non è la tecnologia, ma la governance. […] il principale ostacolo a un utilizzo responsabile dell’IA in ambito sanitario non è rappresentato dalla tecnologia in sé, ma dalla solidità delle istituzioni chiamate a governarla”[4]. Tra l’altro, per inciso, la solidità delle istituzioni e del loro governo potrebbe/dovrebbe arginare certe responsabilità giuridiche per risposte generate da sistemi non controllati né controllabili perché opachi agli utilizzatori.
Accettiamo con favore queste conclusioni per un utilizzo responsabile dell’AI ma, da formatori in medicina, rimarchiamo il punto essenziale: una questione epistemologica. Meglio: una questione epistemologica dentro una questione tecnologica e di governance. Chiariamo subito un aspetto, ossia quella parte di problema che dipende dalla qualità dei dati che addestrano l’AI. Escludendo le eccellenze nel riconoscimento di pattern in cui la macchina mostra di essere superiore all’occhio del clinico, possiamo riconoscere che, nell’uso ordinario di fronte a un paziente, le proposte avanzate dall’AI non superano per qualità e quantità quelle contenute in un buon libro di medicina. E questo dovrebbe mettere alla pari la cultura artificializzata (si scusi questo termine) con quella teorica dei libri di testo.
Ora, è vero che anche l’AI sbaglia nel produrre risposte e ciò succede perché l’AI generativa (ChatGPT e similari) “tende a rispondere sempre, anche con un’invenzione non realistica” inducendo allucinazioni[5]. Non possiamo qui entrare nella questione della genesi dei bias dell’AI, né nella risposta erronea generata dalla macchina che dovrebbe essere valutata alla stregua di un falso positivo o falso negativo di laboratorio. Affidiamo questi pensieri ad un medico-tecnologo che possa essere in grado di intercettare la natura nascosta di quest’errore.
Piuttosto, ad un clinico esperto e ad un formatore esperto dovrebbe essere sufficiente ricordare che un conto è delegare la diagnosi alla macchina (che non è esattamente come delegare la diagnosi/terapia ad un consulente specialista) e un conto è servirsi della macchina come supporto decisionale. Crediamo, da formatori, che un medico pratico debba servirsi della macchina strumentalmente, ossia come supporto. E qui, la struttura competenziale del medico pratico, che è il mix tra cultura teorica e riflessione esperienziale sui malati, dovrebbe essere argine alle risposte incongrue fornite dalla AI.
Ecco allora, alla fine, che la formazione del medico di oggi per il domani deve essere una formazione tecnica all’uso dell’AI, ma soprattutto deve essere una solida formazione alla clinica per la clinica.
Siamo nell’epoca della conoscenza e della complessità e “per molto tempo abbiamo pensato che la risposta alla complessità fosse sapere di più”. Questo ci dice Rossana Berardi che prosegue: “è proprio mentre le macchine diventeranno straordinariamente brave a produrre risposte, diventerà più evidente ciò che rende necessario un medico: non avere tutte le risposte, ma sapere quale risposta conta, per quella persona, in quel momento”[6].Tutto questo è vero. Ma sapere la riposta che conta, nel preciso momento in cui conta, è un problema di formazione. Si ponga attenzione alla parola usata: formazione, non erudizione! E oggi, proprio poiché si è nell’epoca della conoscenza, c’è un diffuso rincorrere un’erudizione su tutto lo scibile, quasi vicariasse la formazione e quasi la memoria fosse un contenitore infinito di nozioni.
In realtà in clinica non bisogna conoscere “tutto” delle malattie, per questo ci possiamo servire dell’intelligenza aumentata delle macchine, dove “aumentata” si riferisce all’intelligenza umana che viene potenziata nell’interfacciarsi con la macchina[7].
Se non è necessario conoscere “tutto”, bisogna conoscere la conoscenza pertinente ovvero, e non è un gioco di parole, bisogna saper riconoscere “la pertinenza nella conoscenza”, come avrebbe specificato Edgar Morin[8]. È il punto cruciale, che va oltre ogni possibile attuale e futura AI.
Ora, la formazione alla clinica è difficile perché non si può insegnare come si decide ossia come si fa una diagnosi servendosi della conoscenza pertinente, ma si può apprendere come fare una diagnosi, ossia come si decide, con la guida del metodo e con la riflessione sul metodo. Ritorniamo allora a un principio che non può essere eluso: chi insegna la clinica non può che essere insegnante di metodo. Non si insegna la “cosa”, si insegna il “come” arrivare alla “cosa” che già si dovrebbe possedere dallo studio della patologia sistematica.
Per arrivare con facilità a tutto questo, c’è una scorciatoia. Impegnativa, però. Mettere tutto in discussione; ma non tanto avventurarsi in una discussione accademica o veritativa sui contenuti formali di una qualsiasi diagnosi di malattia avanzata da macchine cui riconosciamo un margine di competenza in merito come a un collega. Riconoscere la competenza è il primo passo, ma non è anche l’ultimo. Validare la competenza della macchina, e quindi validare il suo prodotto, equivale ad affermare la “cosa” (la diagnosi) che ci viene proposta dall’AI. Dobbiamo però arrivare al “come” e il “come”, il nocciolo della conoscenza pertinente, perché sia valido, porta con sé il suo fondamento ovvero la sua giustificazione. Una giustificazione che deve risultare solida in una doppia prospettiva: logica e scientifica.
A questa giustificazione arriviamo seguendo la lezione di Augusto Murri: “nella clinica bisogna avere un preconcetto […] che tutto ciò che si afferma e che par vero può essere falso […] prima di credere bisogna domandarsi sempre […] perché devo io credere questo?”[9]
Giacomo Delvecchio*, Riccardo Bonacina**
* consigliere emerito della Società Italiana di Pedagogia Medica (SIPeM),
** servizio di odontostomatologia ASST Papa Giovanni XXIII Bergamo
[1] Cobelli C., Ausili informatici alla decisione clinica: i modeli matematici e i sistemi esperti, in Federspil G., Scandellari C., Metodologia medica, Pozzi, Roma 1985 pp. 139-145
[2] AA:VV., Stori a problemi della clinica, BioLogica 2/3, Transeuropa edizioni, Ancona, 1989 p.31
[3] https://www.quotidianosanita.it/studi-e-analisi/dallo-stupidario-algoritmico-alla-sicurezza-epistemica-della-medicina/
[4] https://www.quotidianosanita.it/scienza-e-farmaci/intelligenza-artificiale-in-sanita-oms-europa-prima-di-accelerare-servono-governance-dati-e-competenze/
[5] Marmo R., Algoritmi per l’intelligenza artificiale, Hoepli, Milano 2024 p. 9
[6] https://www.quotidianosanita.it/aiom/quando-sapere-non-basta-piu-loncologia-dopo-chatgpt/
[7] [7] Marmo R., Algoritmi per l’intelligenza artificiale, Hoepli, Milano 2024 p. 9
[8] Morin E., I sette saperi necessari all’educazione del futuro, Cortina, Milano 2001 p. 35
[9] Murri A., Lezioni di clinica medica, Piccin, Padova 1985 p. 19
