Quando l’AI entra nei processi decisionali dei medici, chi è responsabile?

Con l’integrazione sempre più veloce dell’intelligenza artificiale in sanità, si fa sempre più urgente l’esigenza di rispondere al quesito: chi è responsabile quando in un contesto sanitario viene utilizzata l’AI per prendere decisioni? Se lo sono chiesto i cinque autori (Kyle Lam, Mindy Nunez Duffourc, Jiankai Sun, Eric Topol e Jianing Qiu) di un articolo su Nature, che hanno individuato i “vulnus” e prospettato una possibile soluzione per i possibili sviluppi legali.

Al momento, infatti, le responsabilità professionali sono ben definite nella giurisprudenza dei singoli paesi: il medico e la struttura rispondono sulla qualità delle cure e sull’organizzazione dei processi, mentre il produttore risponde sui difetti di eventuali dispositivi medici. Cosa succede però, quando l’AI viene coinvolta nel processo decisionale sul percorso terapeutico di un paziente e, in caso di danno, il medico non riesca a risalire al ragionamento utilizzato dall’algoritmo?

Per gli autori è importante che il sistema AI utilizzato venga innanzitutto classificato in base a tre dimensioni:

• Autonomia: il sistema ragiona senza intervento umano?
• Automazione: quali azioni può svolgere da solo?
• Ambito operativo: in quale contesto clinico può agire?

In base a questi tre aspetti, vengono individuati sette livelli di classificazione del rischio nell’uso dell’AI, progressivamente crescente da 0 a 6:

1. Informativo: gestisce, trasferisce o visualizza dati. (Liv. 0)
2. Assistivo: svolge un singolo compito sotto la supervisione del medico, come segnalare un nodulo in un’immagine. (Liv. 1)
3. Supporto decisionale: integra più dati e propone diagnosi o piani terapeutici, lasciando la decisione finale al clinico. (Liv. 2)
4. Automazione supervisionata: il sistema prende alcune decisioni e il medico interviene in caso di problemi, come in determinati sistemi automatizzati di somministrazione dell’insulina. (Liv. 3)
5. Supervisione umana attivata dall’IA: il sistema gestisce interi episodi terapeutici e chiama il personale solo quando rileva un’anomalia. (Liv. 4)
6. Clinico autonomo: un’IA capace di diagnosticare, prescrivere e gestire routine cliniche su larga scala; al momento non esiste. (Liv. 5)
7. IA medica autoapprendente: aggiorna autonomamente le proprie pratiche e potrebbe elaborare terapie mai sperimentate prima. (Liv. 6)

Tra 2.825 dispositivi medici con funzioni di IA già approvati, ribadiscono gli autori, nessuno supera attualmente il livello 3.

Per gli esperti, questa classificazione permette di distribuire la responsabilità professionale in funzione del coinvolgimento effettivo dell’AI e del controllo esercitato dal professionista umano. Per esempio, il medico può essere responsabile per aver scelto un paziente non adatto o ignorato un allarme segnalato; la struttura per aver scelto e validato una tecnologia AI inadeguata o per aver mancato di sorvegliarla; infine, il produttore per aver ignorato difetti di progettazione o non segnalato aggiornamenti dannosi.

Ovviamente, però, i livelli più autonomi di AI potrebbero comunque superare le categorie tradizionali di negligenza e si potrebbe verificare un esito negativo anche se tutti hanno agito correttamente.

Per gli autori, è però importante iniziare da subito ad approvare un iter da seguire con le intelligenze artificiali, mentre la loro evoluzione procede. Le regole vanno definite adesso, prima della diffusione e di un uso comune, nonché prima che si palesi un incidente o una crisi, a cui la giurisprudenza risponderebbe con soluzioni frammentate.

Le raccomandazioni rimangono:

• classificare ogni sistema in base al suo reale livello di autonomia;
• prevedere obblighi diversi di approvazione, controllo umano e sorveglianza post-commercializzazione;
• rivalutare un’IA quando cambia il contesto in cui viene usata;
• validarne le prestazioni sulla popolazione locale;
• formare il personale sui limiti dell’algoritmo;
• conservare registri delle decisioni prese dall’IA;
• chiarire coperture assicurative e responsabilità di medici, strutture e aziende.