Si rischia di trasformare i pazienti in profili. Leone XIV e la rivoluzione digitale nella sanità

Si intitola Magnifica Humanitas ed è la prima enciclica sociale di Papa Leone XIV, pubblicata ieri in occasione del 135° anniversario della Rerum Novarum. Ma il suo cuore pulsante non guarda solo all’Ottocento industriale. Il Pontefice sceglie di scrutare il “cantiere del nostro tempo” – l’era dell’intelligenza artificiale – e lo fa con un’espressione che suona come un monito: custodire la persona umana, specialmente quando è fragile, malata, esposta. E lo fa indicando un rischio concreto e inquietante che riguarda a pieno titolo anche il mondo della sanità, della salute e del trattamento dei dati personali.

“Oggi – scrive Leone XIV – l’intelligenza artificiale è ormai presente nei processi decisionali in tutti gli ambiti”. Ma è nel capitolo dedicato a responsabilità, trasparenza e governo dell’IA che emerge l’allarme più netto per chi opera nella medicina, nell’assistenza e nelle politiche sanitarie. Il Papa non condanna la tecnologia in sé, ma denuncia con forza ciò che accade quando la cura viene delegata al calcolo senza più responsabilità umana.

Uno dei passaggi chiave dell’enciclica riguarda questo monito: “Affidare, nei fatti, a un algoritmo il potere di selezionare chi merita e chi no, senza che nessuno si assuma più il peso della decisione, significa affidargli il compito di ridefinire i confini delle possibilità umane”.

Il pericolo, spiega Leone XIV, non è solo l’assenza di empatia. È più sottile e politico. “Ciò che viene meno, in questo processo – scrive – non è solo l’empatia verso l’escluso, che può essere imitata artificialmente, ma la responsabilità politica, perché lo scarto dei deboli viene ammantato di neutralità e oggettività, davanti alle quali è impossibile protestare”. E conclude con la seguente frase: “L’ingiustizia si fa silenziosa e la compassione, la misericordia e il perdono, non come mera apparenza, ma come gesti politici, scompaiono dall’orizzonte”.

Ma la critica del Papa non si ferma alla fase decisionale. Affonda nella questione più opaca e decisiva del nostro tempo: chi possiede i dati della nostra salute. In un passaggio destinato a segnare il dibattito su privacy e sovranità sanitaria, Leone XIV scrive: “Interi territori, soprattutto quelli con minore rilevanza geopolitica e maggiore fragilità strutturale, vengono al presente attraversati da una nuova logica di estrazione: quella di flussi sanitari, profili epidemiologici, mappe genetiche e dati demografici. Sono queste le nuove ‘terre rare’ del potere”.

L’accusa è netta: “Chi possiede i dati sanitari di intere popolazioni, oggi raccolti spesso sotto il segno dell’aiuto, della ricerca o dell’innovazione, possiede in realtà una leva strutturale sul futuro”. Il Papa invoca una restituzione: «”estituire ai popoli non solo i dati che li descrivono, ma anche la possibilità di decidere come verranno usati, da chi e per chi. Altrimenti, l’era digitale non sarà post-coloniale, ma coloniale sotto altra forma”.

Leone XIV ricorda che l’intelligenza artificiale, per quanto evoluta, “non vive una esperienza, non possiede un corpo, non attraversa la gioia e il dolore, non matura nella relazione”. E aggiunge: “Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze”.

Un paragrafo intero mette in guardia contro l’illusione della “relazione artificiale” in contesti fragili: “L’imitazione artificiale della relazione di cura o di accompagnamento può diventare pericolosa quando si insinua in un contesto povero di relazioni e di affetti reali: allora il rischio non è tanto che una persona creda di parlare con un’altra persona, ma che perda il desiderio stesso di cercare davvero l’altro”.

E qui il Pontefice cita un passaggio già noto del suo predecessore Francesco – ”la compassione, la misericordia, il perdono” – per ribadire che nessun algoritmo potrà mai sostituire il volto umano accanto a chi soffre.

L’enciclica non si limita a denunciare. Indica anche una direzione. Agli sviluppatori di sistemi di IA, Leone XIV rivolge un appello inedito: “L’innovazione tecnologica può essere, in un certo qual modo, una forma umana di partecipazione all’atto divino della creazione”. Dunque “essi sono chiamati a trattare con la dovuta serietà i valori che infondono nei loro progetti: con trasparenza, con responsabilità verso le comunità coinvolte”.

Ma il richiamo più alto è per la politica. Il Papa parla esplicitamente di “accountability”: la possibilità di identificare chi deve rendere conto delle decisioni, motivarle e, quando necessario, rimediare ai danni. E introduce un verbo che suona come una sfida: “Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva”. Disarmare, scrive, “non significa rinunciare alla tecnologia, ma impedirle di dominare l’umano. Significa sottrarla ai monopoli, renderla discutibile, contestabile, e quindi abitabile”.

Sullo sfondo, l’enciclica riprende due icone bibliche: la torre di Babele – omologazione, potere senza limite – e la ricostruzione di Gerusalemme con Neemia, dove ogni famiglia rialza il suo tratto di muro. Il messaggio è chiaro: “Non possiamo considerare l’IA moralmente neutra. Se un sistema viene concepito o impiegato in modo da trattare alcune vite come meno degne, o da escluderle senza possibilità di appello, esso introduce già un criterio che contraddice la dignità inalienabile della persona”.

“La vera realizzazione – scrive – non nasce dalla rimozione delle fragilità, ma da una crescita armoniosa: là dove libertà e responsabilità si intrecciano con la cura reciproca”. Parole che, anche nel dibattito sulla sanità digitale, suonano come un monito. E, forse, anche come un possibile antidoto.