Gentile Direttore,
L’articolo pubblicato da Milena Gabanelli e Andrea Priante sul Corriere della Sera a proposito dell’impiego dell’intelligenza artificiale nelle pubblicazioni scientifiche e nella ricerca clinica richiama l’attenzione su un problema reale. Gli strumenti di intelligenza artificiale generativa possono produrre testi, immagini e dataset artificiali molto verosimili e di conseguenza possono essere potenzialmente utilizzati – in maniera impropria e persino fraudolenta – anche nell’ambito della ricerca scientifica.
Penso però che il titolo dell’articolo, “Così l’Intelligenza artificiale è usata per imbrogliare negli studi clinici”, sia decisamente fuorviante. L’argomento è importante ma deve essere descritto con precisione, distinguendo ciò che è già accaduto da ciò che potrebbe accadere e, soprattutto, evitando di confondere la pubblicazione di un articolo scientifico con la conduzione di una sperimentazione clinica. Il titolo scelto dal Corriere (che mi ha fatto saltare dalla sedia e – immagino – faccia sussultare anche molti lettori non addetti ai lavori) rischia invece di trasmettere al lettore l’idea che l’intelligenza artificiale venga già utilizzata per falsificare alcuni studi clinici e che, di conseguenza, le prove scientifiche sulle quali si fondano l’approvazione dei farmaci da parte degli enti regolatori (e le successive decisioni terapeutiche dopo che i trattamenti diventino disponibili nella pratica clinica) siano diventate poco affidabili.
Gli esempi riportati nell’articolo in realtà non dimostrano questo. L’articolo cita alcuni lavori ritirati perché contenevano frasi palesemente generate dall’intelligenza artificiale, un’immagine clinica modificata mediante intelligenza artificiale e un esperimento (che mirava a denunciare il rischio, non a sfruttarlo) nel quale erano state create radiografie artificiali difficili da distinguere da quelle autentiche. Sono episodi preoccupanti, che dimostrano senza dubbio che l’avvento dell’intelligenza artificiale rappresenti un motivo in più per rafforzare i controlli editoriali e l’attenta revisione dei manoscritti sottomessi alle riviste scientifiche per la pubblicazione. Nel dettaglio, l’esperimento italiano descritto nell’articolo, nel quale l’intelligenza artificiale è stata deliberatamente istruita a costruire un database di pazienti inesistenti e a dimostrare la superiorità di un trattamento, rappresenta una prova della capacità potenziale dello strumento. I ricercatori non hanno scoperto un trial contraffatto: hanno prodotto intenzionalmente dati falsi per verificare fino a che punto potessero apparire credibili e quanto fosse difficile riconoscerli attraverso la sola analisi statistica. È sicuramente una dimostrazione utile e meritevole di attenzione, ma non può essere presentata come prova del fatto che oggi gli studi clinici vengono falsificati attraverso l’intelligenza artificiale. Dimostrare che un software può generare un database plausibile non equivale a dimostrare che quel database possa essere introdotto senza controlli nel percorso regolatorio di un farmaco. Nell’articolo si afferma che soltanto “di fronte a evidenti anomalie” le riviste chiederebbero agli autori di mostrare il database completo. Questa descrizione può essere valida per una parte della letteratura scientifica, ma va spiegato chiaramente al lettore non addetto ai lavori che il funzionamento degli studi clinici registrativi è molto diverso. Uno studio clinico registrativo non nasce nel momento in cui un manoscritto viene inviato a una rivista. Prima dell’avvio, il protocollo viene valutato dalle autorità regolatorie e dai comitati etici e da molti anni lo studio viene obbligatoriamente registrato in appositi registri pubblici. Ogni centro partecipante deve essere identificato e autorizzato. I pazienti devono aver firmato un consenso informato ed essere stati visitati, trattati e seguiti, in maniera tracciabile, presso strutture sanitarie riconoscibili. I dati inseriti nelle schede elettroniche dello studio devono essere fedeli e riconducibili alla documentazione clinica originale: cartelle sanitarie, referti di laboratorio, esami strumentali, prescrizioni e dispensazione dei farmaci. Tutte le modifiche apportate al database devono essere tracciabili. Per di più, a tutela della qualità dei dati, sono previsti il monitoraggio dello studio da parte dello sponsor, controlli centralizzati sulla qualità e sulla coerenza dei dati, verifiche statistiche, riconciliazione degli eventi avversi, nonché audit e possibili ispezioni da parte delle autorità regolatorie. Le autorità possono accedere non soltanto ai risultati riassuntivi, ma all’intera documentazione dello studio e ai dati dei singoli partecipanti.
Ovviamente, nessun sistema di controllo può assicurare che una frode sia impossibile. Tuttavia, la falsificazione sistematica di uno studio registrativo è molto più difficile della semplice creazione di un file contenente dati di pazienti inventati, e i meccanismi di verifica e controllo aumentano considerevolmente la probabilità che eventuali manipolazioni vengano individuate.
Peraltro, mi piace sottolineare che la falsificazione e la fabbricazione dei dati, la manipolazione delle immagini, le pubblicazioni duplicate, la selezione opportunistica dei risultati, esistevano molto prima di ChatGPT. Molti oncologi ricorderanno il clamore scatenato, una trentina di anni fa, dal “caso Bezwoda” il ricercatore sudafricano che aveva pubblicato dati molto interessanti relativi all’efficacia della chemioterapia ad alte dosi nelle pazienti con tumore della mammella, rivelatisi poi completamente inaffidabili e “ritrattati” dalla rivista. L’intelligenza artificiale non ha creato questo problema, anche se è sicuramente vero che può amplificarlo. Può ridurre il tempo, le competenze e i costi necessari per produrre contenuti falsi e aumentarne quantità e apparente credibilità. Può generare riferimenti bibliografici inesistenti, immagini artificiali, testi plausibili e distribuzioni di dati costruite per sostenere una conclusione decisa in partenza. Sarebbe quindi sbagliato minimizzarne i rischi. Sarebbe però altrettanto sbagliato utilizzare questi rischi per proiettare un sospetto indiscriminato su tutta la ricerca clinica.
Vero è che, a fronte delle tutele e delle garanzie intrinseche nella conduzione degli studi clinici registrativi, esistono contesti nei quali i controlli possono essere meno strutturati. Gli studi accademici spontanei, soprattutto quelli di piccole dimensioni, non sempre dispongono delle risorse necessarie per un monitoraggio capillare, una gestione professionale dei dati o audit indipendenti. Attenzione! Questo non significa che la ricerca spontanea sia meno seria o meno affidabile. Ci sforziamo di ricordare in tutte le sedi e in tutte le occasioni quanto la ricerca indipendente – in oncologia come in altre discipline – sia preziosa, risponda spesso a quesiti clinici essenziali che, non presentando un interesse commerciale, rimarrebbero senza risposta. La sua possibile vulnerabilità deve rappresentare una ragione per sostenerla meglio, non per delegittimarla. Servono investimenti pubblici nelle infrastrutture di ricerca, nel monitoraggio proporzionato al rischio, nella qualità dei dati e nel supporto metodologico e statistico. Chiedere standard elevati senza mettere i ricercatori indipendenti nelle condizioni di rispettarli rischia di determinare un’ulteriore riduzione degli studi accademici, che – come sappiamo da anni e come è stato confermato dal recente Rapporto AIFA sulle Sperimentazioni Cliniche – sono in preoccupante diminuzione.
In oncologia, la ricerca clinica è il percorso prezioso attraverso il quale un’ipotesi scientifica può diventare, in caso di successo, una cura più efficace e sicura rispetto a quelle già disponibili nella pratica clinica. Tanti pazienti cercano studi clinici adatti alla loro condizione, tanti pazienti scelgono – su proposta dei ricercatori – di partecipare alle sperimentazioni, contribuendo non soltanto alla propria possibilità di cura, ma anche al progresso delle conoscenze per i pazienti futuri. Bisogna quindi evitare di ingenerare sfiducia nella ricerca clinica. Ovviamente la fiducia che chiediamo ai pazienti e alla società non deve essere cieca. Deve essere una fiducia informata, fondata su trasparenza, registrazione degli studi, tracciabilità dei dati, controlli indipendenti, pubblicazione dei risultati e sanzioni rigorose per chi viola le regole.
In questo scenario, la comunicazione pubblica ha una responsabilità rilevante. È giusto denunciare le nuove possibilità di frode, ma bisogna distinguere una vulnerabilità teorica da una frode realmente documentata, un articolo scientifico da una sperimentazione clinica e il controllo editoriale di una rivista dalle verifiche regolatorie condotte sui dati di uno studio ai fini dell’approvazione. Titoli allarmistici come quello scelto dal Corriere possono indebolire la disponibilità dei pazienti a partecipare alle sperimentazioni, compromettere il rapporto con i ricercatori e alimentare una sfiducia generalizzata proprio nel momento in cui l’Italia deve accrescere la propria capacità di fare ricerca. Proprio in questi giorni il mondo si interroga sui rischi di uno sviluppo troppo rapido dell’intelligenza artificiale, e questo passo veloce ci impone di aggiornare rapidamente le regole e gli strumenti di controllo. E’ necessario vigilare e gestire i rischi, ma è ancora più importante tutelare la fiducia dei cittadini nella ricerca clinica come strada maestra per il progresso.
Prof. Massimo Di Maio, Dipartimento di Oncologia, Università di Torino, AOU Città della Salute e della Scienza di Torino, Presidente AIOM
