Gentile direttore,
se l’IA entra in corsia, non entra da sola. Porta con sé domande che riguardano la governance, la responsabilità, la formazione. Ecco alcune che ogni direzione sanitaria dovrebbe porsi prima di adottare un sistema di IA clinica.
Chi valida il sistema? L’AI Act richiede una valutazione di conformità di terza parte per i sistemi ad alto rischio. Ma chi, nella struttura, ha la competenza per valutare se un sistema è adatto al proprio contesto clinico? Non basta la certificazione del fornitore: serve una valutazione indipendente, basata su dati locali, che verifichi le prestazioni sui pazienti reali.
Chi nomina il responsabile della governance algoritmica? Ogni sistema di IA in uso dovrebbe avere un referente interno, con il compito di monitorare gli output, raccogliere le segnalazioni di errori, aggiornare le procedure. Non è un ruolo informatico: è un ruolo clinico, che richiede competenze di valutazione critica.
Chi forma il personale? L’articolo 26 dell’AI Act lo impone. Ma la formazione non può essere un corso generico sull’IA. Deve insegnare a riconoscere un output inaffidabile, a documentare il processo decisionale, a chiedere una seconda opinione umana quando necessario. E deve essere continua, perché i sistemi cambiano, e con essi i rischi.
Chi controlla i dati? Se un sistema di IA elabora dati dei pazienti, dove vanno quei dati? Chi li conserva? Per quanto tempo? Sono usati per addestrare il modello? Il consenso informato del paziente deve includere l’informazione sull’uso dell’IA e sulla natura probabilistica dei risultati, come sottolineato dal Comitato Nazionale per la Bioetica nel parere del febbraio 2026.
Chi risponde se qualcosa va storto? La catena di responsabilità non è mai lineare. Coinvolge il medico, la struttura, il fornitore del sistema, il produttore del software. La legge Gelli-Bianco ancora la responsabilità professionale all’aderenza alle linee guida, ma quando il medico si affida a un sistema che sbaglia, la valutazione della colpa diventa più complessa. La giurisprudenza sta muovendo i primi passi, ma il quadro è ancora incerto.
Cosa può fare il sistema sanitario, oggi
Non si tratta di aspettare che il quadro normativo sia completo. Si tratta di agire ora, con gli strumenti che abbiamo. Ecco alcune proposte concrete.
Un registro nazionale degli algoritmi in uso in sanità. Ogni struttura che adotta un sistema di IA clinica dovrebbe dichiararlo in un registro pubblico, con indicazione del fornitore, della finalità d’uso, dei dati utilizzati, delle modalità di validazione. Non è una misura burocratica: è uno strumento di trasparenza e di accountability, che permette di tracciare chi usa cosa e con quali risultati.
Linee guida nazionali su IA e responsabilità professionale. La legge Gelli-Bianco ha mostrato i suoi limiti. Serve un aggiornamento che affronti esplicitamente il caso dei sistemi di supporto decisionale, chiarendo i criteri di attribuzione della responsabilità e i requisiti di documentazione del processo decisionale.
Formazione obbligatoria e strutturale. La quota ECM dedicata all’IA, prevista dal decreto, è un primo passo. Ma la formazione deve essere differenziata: non lo stesso corso per il radiologo, l’infermiere, il direttore sanitario. E deve includere moduli pratici, basati su casi reali, con esercitazioni sulla valutazione critica degli output.
Audit periodici e valutazione indipendente. Ogni sistema di IA in uso clinico dovrebbe essere sottoposto a verifiche periodiche, con dati locali, per misurare le prestazioni reali e identificare i casi in cui il sistema sbaglia. Queste verifiche dovrebbero essere condotte da team indipendenti, non dai fornitori.
Coinvolgimento dei pazienti nella governance. I pazienti non sono solo destinatari delle decisioni algoritmiche. Sono portatori di diritti, e hanno il diritto di sapere se l’IA è stata usata nella loro cura, come previsto dalla legge 132/2025. La governance dell’IA in sanità non può essere solo tecnica: deve includere la voce di chi riceve le cure.
Sovranità digitale come priorità. La scelta di dove risiedono i dati, quali fornitori si utilizzano, quali infrastrutture si adottano, non è una scelta tecnica. È una scelta politica. E in sanità, dove i dati sono la materia prima della cura, questa scelta non può essere delegata al mercato.
La saggezza non è un algoritmo
E la saggezza, in medicina, è tutto. È la capacità di dire “non lo so” e di cercare insieme una risposta. È la capacità di ascoltare ciò che i numeri non dicono. È la capacità di vedere il paziente dietro la malattia. È la capacità di dubitare delle proprie stesse conclusioni, di chiedersi se si è visto qualcosa che non c’era o se non si è visto qualcosa che c’era. Questa forma di saggezza non è algoritmica. È umana. E nessuna macchina, per quanto potente, può sostituirla.
La storia della medicina è piena di strumenti che hanno ampliato le capacità dei medici. Il microscopio, i raggi X, la risonanza magnetica, i test genetici. Ogni strumento ha portato con sé nuove responsabilità, nuovi dilemmi etici, nuove domande su cosa significhi essere un buon medico. L’IA non è diversa. È solo più potente, più pervasiva, più vicina al cuore del ragionamento clinico. E forse proprio per questo ci costringe a chiederci cosa renda un medico tale, cosa renda la cura un atto umano, e quanto di quell’umanità siamo disposti a condividere con una macchina che per la prima volta sembra in grado di pensare come noi, o forse in alcuni ambiti meglio di noi.
Ciò che è in gioco, in ultima analisi, non è la tecnologia. È la nostra capacità di custodire l’umano in un’era in cui la conoscenza non è più solo nostra. È la nostra capacità di preservare uno spazio per la scelta, il dubbio, l’errore, tutte quelle dimensioni della medicina che un algoritmo, per quanto potente, non potrà mai replicare. È la nostra capacità di ricordare che la cura non è un problema da ottimizzare, ma un mistero da abitare. E che nessuna macchina, per quanto intelligente, può sostituire lo sguardo di un medico su un paziente, la mano di un ricercatore su un esperimento, la mente di uno scienziato che si chiede, davanti a un risultato inatteso: e se fosse vero? E poi, subito dopo: e se fosse falso?
Francesco Branda
Unità di Statistica Medica ed Epidemiologia Molecolare, Università Campus Bio-Medico di Roma
