L’algoritmo decide, il professionista risponde: il vero nodo dell’IA in sanità

Gentile Direttore,
nel dibattito sanitario si parla sempre più spesso di intelligenza artificiale. Si discute delle sue potenzialità, dei benefici attesi, della capacità di migliorare processi, ridurre tempi e supportare le decisioni cliniche. Parallelamente, il legislatore nazionale ed europeo sta iniziando a definire cornici normative e principi generali per l’utilizzo di questi strumenti.

Tutto giusto. Ma c’è una domanda che continua a rimanere sullo sfondo.

Chi risponde quando un sistema di intelligenza artificiale contribuisce a una decisione sanitaria?
La risposta più frequente è che la responsabilità finale resta sempre in capo al professionista. È una posizione comprensibile e, probabilmente, necessaria. Tuttavia, proprio questa affermazione dovrebbe indurre una riflessione più profonda.

Se la responsabilità rimane umana, allora devono essere umani anche gli strumenti necessari per esercitarla.
Un professionista può essere ritenuto responsabile di una decisione supportata da un algoritmo solo se possiede le competenze, le informazioni e le condizioni organizzative necessarie per comprenderne il funzionamento, valutarne i limiti e riconoscerne eventuali errori.

E qui emergono alcune domande molto concrete.
Chi valida un algoritmo prima che venga utilizzato nella pratica clinica?
Chi ne verifica le prestazioni nel tempo?
Chi controlla la qualità dei dati utilizzati per il suo addestramento?
Chi individua eventuali bias o deterioramenti delle performance?
Dove viene registrato il suo utilizzo all’interno della documentazione sanitaria?
Quale formazione minima deve possedere il professionista chiamato a utilizzarlo e a risponderne?

A ben vedere, molte di queste domande non hanno ancora trovato risposte operative uniformi. E, in parte, non le avevano nemmeno prima delle più recenti evoluzioni normative.

Il rischio è quindi quello di assistere a un fenomeno paradossale: l’intelligenza artificiale entra progressivamente nei processi sanitari mentre le responsabilità professionali si espandono più rapidamente delle strutture organizzative necessarie a sostenerle.

La questione non riguarda soltanto i medici. Riguarda tutte le professioni sanitarie coinvolte nella produzione, gestione, validazione e interpretazione dei dati. Tecnici sanitari, professionisti della riabilitazione, professionisti della prevenzione, infermieri, farmacisti, ingegneri clinici, informatici e dirigenti sanitari saranno chiamati sempre più spesso a confrontarsi con sistemi che influenzano direttamente o indirettamente il processo decisionale.

Eppure il dibattito pubblico continua spesso a dividersi tra entusiasmo e scetticismo.
Entrambe le posizioni rischiano di essere insufficienti.
L’entusiasmo senza regole può portare ad adottare strumenti che non si comprendono fino in fondo.
Lo scetticismo, invece, può generare un ritardo culturale che lascia i professionisti impreparati proprio nel momento in cui tali strumenti diventano parte integrante dell’attività quotidiana.
La vera sfida non è decidere se utilizzare o meno l’intelligenza artificiale.
La vera sfida è costruire un sistema capace di governarla.

Ciò significa investire in formazione avanzata, definire procedure di validazione e monitoraggio, creare reti multidisciplinari permanenti, chiarire le responsabilità dei diversi attori coinvolti e sviluppare una cultura professionale che consideri l’algoritmo non come una scatola nera da accettare passivamente, ma come uno strumento da conoscere, verificare e controllare.

L’intelligenza artificiale non rappresenta una minaccia inevitabile né una soluzione automatica ai problemi della sanità.
È una tecnologia che richiede governo, competenze e responsabilità.
Per questo la domanda più importante non è se l’intelligenza artificiale entrerà nella sanità. Sta già entrando.
La domanda è se il sistema sanitario stia costruendo, con la stessa velocità, le condizioni necessarie affinché i professionisti poss
ano esercitare consapevolmente le responsabilità che continueranno a essere richieste loro.
Perché se l’algoritmo suggerisce, ma il professionista risponde, allora il tema non è soltanto tecnologico.
È organizzativo, culturale e professionale.

Grazio Gioacchino Carchia
TSLB | Master in Gestione e Coordinamento
Esperto in Healthcare Education & AI in Healthcare — formatoreFondatore, “PSU – Professioni Sanitarie Unite”