Gentile Direttore,
è di questi giorni la notizia di un preoccupato appello per chiedere lo stop allo sviluppo della c.d. «Super Intelligenza Artificiale» [1]; primi firmatari i massimi esperti del settore: Geoffrey Hinton (Nobel per la fisica nel 2024) e Yoshua Bengio (Premio Turing nel 2018 insieme a Hinton).
Il fatto, trattandosi delle medesime personalità che hanno determinato il primo sviluppo di questi sistemi, richiama alla memoria il Manifesto Russell-Einstein del 9 luglio 1955, ove un precedente promotore della corsa all’atomica poi ammonì riguardo i rischi derivanti da un assai analogo bivio tra «morte universale della specie umana o nuovo Paradiso».
Premesso che al livello planetario l’IA ha avuto i più elevati gradi di sviluppo proprio in campo sanitario, in questa rubrica sono stati numerosi i contributi (i più in euforico favore) ad essa dedicati, essendosi sviluppate e collaudate una molteplicità di applicazioni per diagnosi, prognosi, terapie personalizzate, ricerca in campo epidemiologico, ma anche in ambito organizzativo ed amministrativo [2].
Alcuni prevedono uno sviluppo positivo del «grande potenziale dell’IA in particolare, nel supporto del processo decisionale, nel miglioramento delle previsioni diagnostiche e nell’ottimizzazione del monitoraggio dei pazienti» [3].
Altri descrivono il ruolo di “filtro” esercitato dalle chatbot, con valutazione rapida delle condizioni del paziente, pur con certo «discernimento» [4].
Altri ancora, prudentemente, richiamando la insostituibilità del medico, propongono l’obiettivo “sicurezza”, da perseguirsi attraverso l’implementazione di formazione e informazione – tanto per i medici quanto per i pazienti – per garantire l’utilizzo sicuro e responsabile dell’IA [2].
Pochi i contributi che evidenziano l’«eccessiva dipendenza» e la «diminuzione del coinvolgimento umano nel rapporto medico-paziente con una possibile perdita di competenze» [5]; qualcuno ha discusso dell’ «uso umanocentrico e responsabile dell’IA» [6], ritenendo che leggi e principi siano sufficienti a riaffermare «il primato della decisione umana su quella automatizzata».
Qualcun altro, elogiando la medesima novella normativa Italiana (L. 132/2025), delinea un percorso per l’integrazione dell’IA nel sistema sanitario, bilanciando innovazione e tutela dei diritti fondamentali [7].
Ma c’è anche sia chi abbia denunciato una compravendita di dati personali e sanitari che, in forte espansione, starebbe alimentando un fiorente sistema criminale [8], sia chi, negando ad una assai prevedibile comprensione che possano concretizzarsi pericolosi fallout giuridico-sociologici da passati regimi autoritari, abbia esaltato tout court l’uso dell’IA, addirittura asserendo che quelli che sapranno usarla saranno addirittura “migliori” di coloro che (magari anche per mera obiezione di coscienza) non lo faranno.
Alcune considerazioni rispetto a siffatte alquanto diversificate analisi:
Anzitutto che – piaccia o no – il progresso, in ogni sua accezione, è ineluttabile: proprio Einstein asseriva che «Tutti sanno che una cosa è impossibile da realizzare, finché arriva qualcuno che non lo sa e la inventa», pertanto se qualcosa non sarà inventata da taluno, certamente sarà inventata da talaltro, in altro luogo e data, forse a scapito del primo (non a caso un riottoso Charles Darwin si affrettò a pubblicare la sua “Origine delle specie” solo quando apprese dei medesimi studi e riflessioni di Alfred R. Wallace).
In secondo luogo che, come dicevano gli antichi Romani: «facta lex. inventa fraus», pertanto, abbandonando ipocrite illusioni, dovremmo attenderci che qualsiasi siano le normative, i principi, le linee guida che saranno poste in essere, ci sarà certamente qualcuno che le violerà … o farà finta non esistano: infatti nessun big del settore ha sottoscritto il documento.
E fin qui si potrebbe pure dire che cadiamo nel banale …
Il core-problem, infatti, risiede nel fatto che, come già i recenti casi “Deepfake porno” stiano pur minimamente dimostrando, lo sviluppo di questi sistemi già funzionanti, che peraltro sembrano fortemente superabili dalla super-IA, proprio perché emulano, con potenzialità, velocità e versatilità certamente non raggiungibili naturalmente, le caratteristiche di creatività ed analisi che fino a questo punto della storia universale hanno deciso il successo dell’umanità su tutto il restante mondo vivente, come già vaticinato anni fa da Elon Musk: «pone profondi rischi per la società e l’umanità, perché più pericoloso delle armi nucleari». In breve la super-IA rappresenta un rivale incontenibile ed impareggiabile per lo stesso proprio creatore, ove il minor rischio risiede nella possibilità per i gestori degli algoritmi di gestire le nostre vite: poteri di effettiva supremazia potrebbero avere a disposizione inimmaginabili strumenti di controllo e manipolazione di qualsiasi cosa … addirittura anche delle menti …
Ed il peggiore risiede nella possibilità di una inversione dei ruoli, ove saranno gli algoritmi a gestire gli ex gestori … e tutta l’umanità ad un inevitabile seguito, anche più temibile del rischio atomico paventato da Einstein ieri e da Musk oggi; e considerato che per quanto riguardi l’energia atomica da un lato si è saputo NON utilizzare più le armi atomiche (che però non potevano auto-attivarsi), ma dall’altro NON si è saputo nemmeno approfittare dell’opportunità di uno sviluppo pacifico dell’energia nucleare, cui sembra soltanto ora si voglia tornare, ora che l’utilizzo in ampia scala delle fonti fossili rischia di far fossilizzare tutto il resto …
Mi piace concludere così come ho iniziato un altro mio recente intervento [9]: Stephen Hawking nel 1999, asseriva: «i virus dei computer dovrebbero essere considerati forme di vita. Questo ci dovrebbe far meditare sul fatto che l’unica forma di vita che l’uomo è riuscito a creare è essenzialmente distruttiva»: sembra proprio che con la Super-IA valga lo stesso: ed a proposito di ansiosi futuribili scenari evocabili, tra i più suggestivi ne ricordo due: la narrazione del Morpheus di “Matrix” di quando «l’umanità intera si ritrovò unita all’insegna dei festeggiamenti. Grande fu la meraviglia per la nostra magnificenza mentre davamo alla luce IA»…; e la sconvolgente risoluzione del protagonista di “Fuga da Los Angeles” “Snake” Plissken, che disgustato dalla guerra senza fine di classe (e nel caso, economica) del mondo, con un telecomando attiva i satelliti “Spada di Damocle”, disattivando tutta la tecnologia sulla Terra, per poi semplicemente accendersi una sigaretta, e mormorare: «Benvenuti nel regno della razza umana».
Dott. Calogero Spada
TSRM – Dottore Magistrale
NOTE
[1] https://video.sky.it/news/tecnologia/playlist/progress-3697
[2] https://www.quotidianosanita.it/lettere-al-direttore/articolo.php?articolo_id=127592
[3] https://www.quotidianosanita.it/lettere-al-direttore/articolo.php?articolo_id=125130
[4] https://www.quotidianosanita.it/lettere-al-direttore/articolo.php?articolo_id=129915
[5] https://www.quotidianosanita.it/lettere-al-direttore/articolo.php?articolo_id=131986
[6] https://www.quotidianosanita.it/lettere-al-direttore/articolo.php?articolo_id=132521
[7] https://www.quotidianosanita.it/lettere-al-direttore/articolo.php?articolo_id=132628
[8] https://www.quotidianosanita.it/lettere-al-direttore/articolo.php?articolo_id=126057
[9] https://www.quotidianosanita.it/lettere-al-direttore/articolo.php?articolo_id=124067
