stampa

Intelligenza artificiale: si alla cooperazione, no al paternalismo digitale

Gentile Direttore,
il dibattito in corso sull’Intelligenza Artificiale (IA), sia alla FNOMCeO per la redazione del nuovo Codice Deontologico sia nei vari OMCeO provinciali, richiama il coinvolgimento di varie competenze. Tra queste, la bioetica e la deontologia, il biodiritto e la biopolitica.Senza alcun dubbio il ricorso all’IA apporta miglioramenti sull’efficienza; automatizza le attività di routine; amplia l’accesso all’erogazione dell’assistenza; innova i tradizionali processi di valutazione. Interventi medici sempre più personalizzati, accurati e affidabili. Molteplici e di riconosciuta efficacia i risultati in prevenzione, diagnostica, terapia e riabilitazione. Nuovi obiettivi sono la profilazione nel processo decisionale automatizzato, la medicina di precisione e la medicina personalizzata nonché la medicina predittiva.

Ma a fronte di innegabili benefici, si rilevano anche dei rischi? E quali? Il dominio degli algoritmi (algocrazia) può comportare lo scivolamento verso un nuovo paradigma: il paternalismo digitale? Ovvero, un insieme di pratiche e interventi che limitano o indirizzano scelte e comportamenti. Fino a rappresentarsi come una forma di controllo sociale che, favorendo determinati valori e interessi, limita la libertà nel prendere decisioni libere e autodeterminate.

Una premessa. Con il ricorso alla logica algoritmica si prendono decisioni e si valutano previsioni sulla base dei dati raccolti sulla singola persona o su una gran massa di dati di popolazione. “Fino a creare”, citando P. Paolo Benanti, “una nuova narrazione universale che sostiene un nuovo principio di legittimità: i big data e gli algoritmi. Il dataismo è questa nuova narrazione. Una vera e propria fondazione di una nuova religione. Mitologia del XXI secolo. Nella sua forma estrema i fautori di questa visione del mondo dataista percepiscono l’intero universo come un flusso di dati, vedono gli organismi viventi come poco più di algoritmi biochimici.” Da cui assegnare un’assoluta priorità al “dato” rispetto alla ontologica complessità della persona e alla sua singolare nonché irriducibile relazionalità.

In questa prospettiva il rischio consiste in un nuovo paternalismo, appunto digitale. Un nuovo e dominante decisore che si basa sul paradigma tecnocratico. Una sorta di nuova terra promessa in cui l’IA viene posizionata come la più alta forma di evidenza (IA onnisciente). E l’elaborazione algoritmica diventa il parametro di riferimento della salute (eHealth). Senza sottovalutare o eludere bias ovvero “pregiudizi” dell’IA in quanto tecnologie addestrate su dati selezionati (es.: per popolazione, genere, …).

Su altro e contrapposto fronte, la medicina del futuro, definita anche profetica dai suoi sostenitori, sarà invece personalizzata e democratizzata al punto tale che il paziente – digitalizzato – gestirebbe le proprie cure e prenderebbe decisioni sugli interventi medici con l’assistenza dell’IA e dei robot. È questo l’orizzonte di una medicina, c.d. partecipativa e democratica, che consentirebbe a ognuno di gestire la propria salute e le malattie nell’emancipazione dalle competenze e dalle responsabilità – tecniche, etiche e deontologiche – proprie del medico.

Emergono, altresì, interrogativi sulla responsabilità nei confronti dei pazienti e sui modi più appropriati per garantire l’autonomia, l’umanizzazione dell’assistenza, il rispetto della dignità.

La competenza del medico nella relazione di cura non si basa sulla sola applicazione di dati. Gli algoritmi forniscono risultati (output) che spesso sono caratterizzati da una carenza di trasparenza (black box artificial intelligence). Comunque, pur rispettando il principio di esplicabilità dei processi di apprendimento automatico delle macchine, i medici potrebbero andare incontro (o forse già avviene?) a un cambiamento radicale di ruolo e funzioni.

Assisteremo al tramonto delle competenze epistemiche (conoscenze biomediche e tecniche) ed etiche (valori, interessi e preferenze del paziente, discernimento e integrazione di fattori socio-relazionali, psicologici, morali, religiosi, ...) del medico? Ma una mappa di dati può essere una copia esatta della realtà? “Questa domanda è stata posta diverse volte e la risposta è sempre stata univoca: no. Allora la questione etica non è questione transitoria destinata a sparire o ad affievolirsi con la realizzazione di mappe perfette, ma una questione costitutiva delle IA.”

Al funzionalismo della tecnica che “non tende a uno scopo, non promuove un senso, non apre scenari di salvezza, non redime, non svela la verità in quanto la tecnica funziona” (per dirlo con le parole di Umberto Galimberti nel recente saggio “Etica del viandante”), si ripropone nella sua attualità l’ineludibile esigenza del sostanzialismo della relazione di cura. Una relazione interpersonale, contraddistinta dalla fiducia di una persona segnata dalla sofferenza e dalla malattia, la quale ricorre alla scienza e alla coscienza di un operatore sanitario che le va incontro per assisterla e curarla

Appunto, prendersi cura! Una sintassi esistenziale che non è delegabile all’IA. È, piuttosto, iscritta nella soggettività dell’uomo libero e responsabile. Unica e irripetibile per la comprensione della realtà altrimenti piatta, priva di senso e significato.

L’orizzonte irrinunciabile, pertanto, è quello della cooperazione secondo una concezione antropocentrica (human-centric e human-centred). Come abbiamo ribadito nel Parere su “Intelligenza Artificiale e medicina: aspetti etici”, redatto dal Comitato Nazionale per la Bioetica e dal Comitato Nazionale per la Biosicurezza, le Biotecnologie e le Scienze della Vita. Le tecnologie dell’IA sono automatiche nell’apprendimento (assistenza cognitiva automatizzata) ma non autonome (sistema decisionale autonomo); sono di supporto alle decisioni umane e non di sostituzione (delega tecnologica); devono essere neutrali e non neutralizzare il paziente; di completamento delle azioni umane e non in competizione. Riservando al medico un ruolo sostanziale sia sotto il profilo epistemologico che etico, ovvero capacità di empatia e vera comprensione.

Ciò non significa, evidentemente, fondare o sostenere posizioni tecnofobiche da neo-luddismo, piuttosto rileva l’importanza della cooperazione senza l’acquisizione passiva o utilitaristica di un risultato dato. L’obiettivo non è il ricorso a un paternalismo digitale, anche nell’ottica del piano scivoloso della medicina difensiva, ma la possibilità di una migliore cognizione attraverso la collaborazione con le funzioni algoritmiche che non siano sottratte alla libertà e responsabilità del paziente e del medico. Abitare, cooperare, governare possono essere le prospettive chiave.

Lucio Romano

Gli ospedali servono ancora? Ha ragione il New England Journal of Medicine o Lancet?

Un poliambulatorio a libero accesso non è un pronto soccorso

Con giuste regole e qualità, il privato accreditato fa bene anche al pubblico

Il mito della superiorità del privato e il tabù della inefficienza del pubblico

Modificare le prassi per assistere gli anziani fragili

La violenza contro i medici è un atto da condannare senza “se” e senza “ma”