quotidianosanità.it
Gentile Direttore,
stampa | chiudi
Mercoledì 17 SETTEMBRE 2025
L’intelligenza artificiale in sanità: una breve disamina sui limiti ed i rischi
l'Intelligenza artificiale (IA) è un settore dell’informatica che crea sistemi software in grado di simulare l’intelligenza umana, analizzando dati provenienti da flussi informativi esistenti per svolgere funzioni che normalmente richiedono intelligenza umana. Essa è parte integrante della vita di tutti noi da tempo. Basti pensare agli algoritmi utilizzati nelle caselle di posta elettronica per messaggi indesiderati (quante volte vi è stato chiesto di leggere tra gli spam?) o nei social come Facebook per individuare, ad esempio, post a rischio suicidio, analizzando parole chiave e frasi tramite algoritmi di machine learning. Se rilevato un rischio, il sistema avvisa un team di esperti in salute mentale che può contattare l'utente per offrire supporto. Ritroviamo algoritmi di IA nelle piattaforme di Amazon, Spotify, Netflix o nelle App come CHATGPT, una sorta di assistente virtuale addestrato all’ascolto e alla elaborazione di risposte.
Uno studio del Massachusetts Institute of Technology (MIT), basato su scansioni cerebrali con risonanza magnetica per analizzare in alcuni soggetti l’impatto dell’utilizzo prolungato di CHATGPT sul cervello umano, ha dimostrato che l’impiego dell’App non potenzia le capacità cognitive (con punteggi di connettività neurale scesi da 79 a 42 punti) ma le indebolisce, mantenendosi tale stato anche dopo la cessazione dell’uso. Nell’80 per cento dei casi, gli utilizzatori non erano in grado di ricordare le frasi prodotte, dimostrando dipendenza dal sistema, mentre la produzione appariva “fredda, impersonale, priva di profondità”.
L’IA è giunta anche nel settore sanitario, lo sta rivoluzionando ed è fondamentale che il personale sanitario comprenda i meccanismi, i vantaggi e i limiti fino ai rischi di questa tecnologia per integrarla efficacemente nella pratica clinica.
L'IA ha origine dagli algoritmi genetici di John Holland (1975 sui principi darwiniani dell’evoluzione delle specie) e dalla robotica di sciame di Stefano Nolfi (direttore ricerca del CNR), che hanno sviluppato approcci probabilistici e reti neurali che simulano il funzionamento del cervello umano. In ambito sanitario l’IA è utilizzata per diagnosi, prognosi e terapie personalizzate. I "gemelli digitali" permettono di simulare terapie su modelli virtuali, migliorando la medicina predittiva e personalizzata. Inoltre, il deep learning consente analisi avanzate di grandi quantità di dati, migliorando la ricerca e la diagnosi. Il metaverso, poi, offre nuove opportunità per la riabilitazione, la formazione medica e la simulazione di terapie, creando ambienti virtuali immersivi per pazienti e operatori sanitari.
Le applicazioni specifiche più note dell’IA in sanità sono nelle:
2. Medicina personalizzata
3. Imaging medico
4. Chirurgia robotica
5. Telemedicina
La digitalizzazione dei dati sanitari favorirà una medicina più efficiente e accessibile certamente ma l’approccio all’IA deve essere equilibrato attraverso una valutazione dei principali rischi (dei quali troppo poco si scrive), che includono la violazione della privacy dei dati sensibili dei pazienti, la creazione di algoritmi distorti o discriminatori che possono portare a cure non eque, la mancanza di trasparenza negli algoritmi e le difficoltà nel determinare la responsabilità legale in caso di errori. Attenzione deve essere poi posta all'eccessiva automazione, alla dipendenza dei sistemi dall'affidabilità dei dati, alla disuguaglianza nell'accesso alle tecnologie (limitate per la loro complessità a strutture di eccellenza pubbliche o private, acuendo le disparità sanitarie e rendendo i benefici accessibili solo a pochi) e alla formazione del personale.
L'IA richiede l'accesso a grandi quantità di dati sanitari sensibili utili per creare profili sanitari personalizzati che potrebbero essere anche utilizzati da Organizzazioni esterne al servizio sanitario nazionale aumentando il rischio di violazioni della privacy e della sicurezza dei dati stessi. Non basta anonimizzare un dato sensibile per avere la certezza che non sia riconducibile al soggetto originale.
Ma il rischio maggiore, a mio personale avviso, è rappresentato dalla creazione di algoritmi basati su dati insufficienti, incompleti, o non rappresentativi della popolazione, potendosi verificare discriminazioni che limitano l'accesso a cure e servizi per alcuni gruppi di pazienti. Ad esempio ( ma se ne possono citare tanti altri) un articolo di Giorgio Visca e Giovanni Maria Bersano, dirigenti della UOC cure palliative della ASL di Torino 4 “(Uniformità e comparabilità dei flussi informativi nazionali per le cure domiciliari (flusso SIAD), l’assistenza residenziale (flusso FAR) e gli hospice (flusso HOS)” dimostra che i flussi informativi nazionali per le cure domiciliari, l’assistenza residenziale e gli hospice sono risultati scarsamente uniformi fra loro per terminologia utilizzata, contenuti informativi raccolti e utilizzo di sistemi di classificazione sanitari standardizzati. La reciproca confrontabilità dei dati raccolti dai tre flussi è prevalentemente limitata ai dati di tipo amministrativo e identificativo-anagrafico e risultano scarse le possibilità di confronto affidabile delle informazioni relative a condizioni dei pazienti e percorsi assistenziali erogati nei tre flussi. Così si esprimono chiaramente gli Autori: “Il contributo dei flussi informativi esaminati allo sviluppo dell’assistenza territoriale e in campo epidemiologico è fortemente compromesso dall’attuale carenza di uniformità dei dati raccolti, nonostante le potenzialità offerte dall’interconnessione dei dati di diversi flussi su base individuale consentita oggi dal codice univoco. La scarsa uniformità messa in luce appare in grado di compromettere in modo significativo il contributo strategico offerto dai flussi informativi nazionali allo sviluppo dell’assistenza sanitaria territoriale e di limitare le potenzialità di ricerca in campo epidemiologico in questo ambito. Anche alla luce della possibile istituzione di nuovi flussi informativi nazionali dedicati alle cure primarie e agli ospedali di comunità, appare prioritaria la promozione di un radicale inquadramento metodologico finalizzato all’adozione condivisa da parte dei servizi sanitari e dei sistemi informativi di linguaggi, codifiche e strumenti uniformi e validati dedicati all’assistenza sociosanitaria del paziente cronico nei contesti territoriali.”
L’esempio si può estendere ad altri flussi sanitari nazionali, regionali, aziendali che è sempre più complesso ottenere!. L’accuratezza dei dati presenti nei flussi è essenziale per la creazione di algoritmi validi.
L’esempio riportato introduce il tema della validazione dei dati che in ambito sanitario sono supportati anche da studi clinici, non solo le sperimentazioni che testano farmaci o trattamenti innovativi per valutarne sicurezza ed efficacia, con Spagna e Germania prime in Europa rispetto al nostro Paese, che mostra un calo delle sperimentazioni no-profit, finanziamenti insufficienti, carenza di personale specializzato, eccessiva burocrazia e difficoltà a tenere il passo con l’innovazione. Investire in questo settore è strategico per garantire un set di dati efficaci ed appropriati al funzionamento dell’IA, pena la possibile distorsione delle informazioni contenute negli algoritmi.
L’IA è un sistema complesso che richiama un concetto fondamentale e critico: come vengono prese le decisioni, da chi, come? Ed in caso di errori di chi è la responsabilità legale (lo sviluppatore, l'operatore sanitario, l'azienda sanitaria). In Italia si occupano di IA Esperti ed Istituzioni universitarie e non come il CNR, il Politecnico di Torino, il Dipartimento della trasformazione digitale ma chi sono e come lavorano gli sviluppatori di applicazioni di IA per migliorare i software di programmi esistenti o da creare in sanità?. Sono gli sviluppatori (Artificial Intelligence Engineer) che di fatto sono artefici degli algoritmi, utilizzando competenze matematiche e di linguaggi di programmazione che consentono ai computer di apprendere dai dati e fare previsioni o addirittura proporre soluzioni. E’ un mercato in crescita quello dell’IA (1,2 miliardi in Italia con un interesse crescente nelle grandi imprese), anche in sanità con costi difficilmente quantificabili nel tempo e che introduce i rischi di una eccessiva dipendenza e della diminuzione del coinvolgimento umano nel rapporto medico-paziente con una possibile perdita di competenze. E’ fondamentale prevedere programmi di monitoraggio attento e costante delle varie iniziative di IA in sanità e soprattutto avviare una discussione formalizzata che coinvolga non solo il personale sanitario ma anche i pazienti attraverso progetti di informazione al pubblico e di formazione specifica del personale per evitare che come recentemente descritto nel documento della Conferenza Stato-Regioni sulla piattaforma di telemedicina l’utilizzo della stessa si concretizzi in un aggravio burocratico. Non se ne avverte la necessità!
La trasparenza delle metodologie adottate per la creazione degli algoritmi, l’esplicitazione delle fonti dati utilizzate, la condivisione con gli sviluppatori dei possibili miglioramenti che deriverebbero dall’utilizzo degli algoritmi nella diagnosi, cura e riabilitazione delle patologie è via maestra, senza mai perdere di vista le competenze acquisite e da acquisire, mai.
Isabella Mastrobuono
© RIPRODUZIONE RISERVATA