C’è una frase che potrebbe segnare un passaggio importante nel rapporto tra intelligenza artificiale e medicina: Per fare ricerca serve l’intelligenza artificiale, ma quella che sa tacere quando non lo sa. Quella soprattutto che evita approssimazioni.
La pronuncia Florian Jug, responsabile della nuova area strategica sull’AI di Human Technopole, spiegando una questione apparentemente semplice e invece decisiva: un modello che fornisce sempre una risposta finisce inevitabilmente per rispondere anche quando non dispone di elementi sufficienti. In medicina, avverte Jug, sbagliare mostrando sicurezza è peggio che non rispondere.
È esattamente qui che torna utile una categoria che avevo proposto alcuni mesi fa definendola “stupidario algoritmico”, successivamente sviluppata nel mio volume Le politiche sociosanitarie. Tra LEA, federalismo fiscale e regionalismo differenziato (FrancoAngeli, 2026).
Con quella espressione non intendevo costruire un catalogo delle sciocchezze prodotte dall’intelligenza artificiale. Il problema è assai più serio. Lo stupidario algoritmico nasce quando una macchina produce un risultato linguisticamente impeccabile, statisticamente plausibile e apparentemente autorevole che, proprio per queste caratteristiche, induce chi lo riceve a considerarlo vero.
Il pericolo non è dunque l’errore evidente. È l’errore credibile.
In medicina la differenza è enorme.
Un errore riconoscibile provoca una reazione critica. Una risposta algoritmica ben costruita, espressa con sicurezza e accompagnata dall’apparente neutralità della macchina rischia invece di trasformarsi silenziosamente in una fonte di autorità.
È la delega cognitiva.
Il medico non utilizza più l’algoritmo per interrogare meglio la realtà clinica, ma rischia di utilizzare la realtà clinica per confermare ciò che l’algoritmo gli ha già suggerito.
La questione diventa allora epistemologica prima ancora che tecnologica.
Ed è proprio su questo terreno che la ricerca scientifica sembra oggi concentrare una parte rilevante dei propri sforzi. Human Technopole lavora su modelli capaci non soltanto di formulare previsioni, ma di misurarne l’incertezza, rendere spiegabili le ragioni dell’output e riconoscere quando il caso debba essere restituito alla valutazione umana.
Il principio dovrebbe essere elementare: non basta sapere che cosa risponde l’intelligenza artificiale; occorre sapere quanto l’intelligenza artificiale sappia di poter avere torto.
La differenza è radicale.
Un algoritmo che comunica «questa è la diagnosi» esercita una pressione cognitiva sul medico. Un sistema che comunica «questa è l’ipotesi maggiormente probabile, ma il mio grado di affidabilità è insufficiente» restituisce invece al professionista ciò che non avrebbe mai dovuto essergli sottratto: la responsabilità del giudizio.
Non casualmente la prima International School on Generative & Multimodal AI for Healthcare, programmata a Milano nel febbraio 2027, pone tra i suoi temi proprio l’incertezza, la spiegabilità, l’affidabilità dei sistemi, la validazione, la qualità dei dati e l’implementazione responsabile dell’IA sanitaria.
Sta cambiando, dunque, la domanda.
Per alcuni anni ci siamo chiesti quanto potesse diventare potente l’intelligenza artificiale. Adesso dobbiamo domandarci quanto sappia diventare prudente.
Ed è forse questa la frontiera più interessante.
Nel volume Le politiche sociosanitarie avevo collocato lo stupidario algoritmico nell’ambito di una questione più generale, quella della resilienza cognitiva e della sicurezza epistemica. Perché la tutela della salute non dipende soltanto dalla disponibilità delle cure, delle strutture e dei professionisti. Dipende sempre più anche dall’affidabilità della conoscenza utilizzata per decidere.
Una conoscenza sbagliata produce una decisione sbagliata.
Ma una conoscenza sbagliata presentata come certa produce qualcosa di peggiore: impedisce persino di percepire la necessità del dubbio.
Da qui nasce un problema che il diritto dovrà affrontare molto presto.
Se l’algoritmo partecipa alla costruzione della decisione clinica, occorrerà stabilire non soltanto chi risponda dell’errore, ma quali caratteristiche debba possedere il sistema perché il medico possa legittimamente farvi affidamento.
La trasparenza, in questa prospettiva, non può ridursi alla possibilità teorica di conoscere il funzionamento del software. Deve comprendere almeno la possibilità di conoscere il grado di incertezza dell’output.
Potremmo chiamarlo diritto all’incertezza dichiarata.
Il paziente deve poter confidare nel fatto che una macchina utilizzata per concorrere alla diagnosi non trasformi statisticamente il dubbio in certezza. Il medico, parallelamente, deve essere posto nelle condizioni di sapere quando l’algoritmo dispone di elementi sufficientemente robusti e quando, invece, sta entrando nel territorio dell’ipotesi.
La responsabilità professionale ne sarà inevitabilmente investita.
Non dovrebbe infatti essere considerato allo stesso modo il medico che contraddice un risultato algoritmico altamente validato e quello che disattende un output del quale il sistema stesso segnala un’elevata incertezza. E, specularmente, potrebbe diventare censurabile affidarsi automaticamente alla macchina quando questa abbia segnalato i propri limiti.
Nasce così una possibile nuova grammatica della responsabilità sanitaria: dato ? inferenza ? grado di incertezza ? decisione umana ? responsabilità.
L’intelligenza artificiale non elimina dunque il medico. Potrebbe, al contrario, costringerci a riscoprire la parte più autentica della medicina: il giudizio prudenziale.
Perché la medicina non è mai stata la scienza delle certezze assolute. È la disciplina che utilizza la migliore conoscenza disponibile per decidere nell’incertezza riguardo a una persona irripetibile.
Per questo la frase di Jug assume un significato persino più ampio della ricerca alla quale si riferisce.
Una macchina che sa moltissimo ma non conosce i confini di ciò che sa può essere pericolosa.
Una macchina capace di riconoscere quei confini diventa invece uno strumento scientifico.
Forse lo stupidario algoritmico comincia proprio dove scompare il «non lo so».
E forse la vera intelligenza artificiale comincerà quando la macchina avrà imparato non soltanto a rispondere, ma ad avere il coraggio algoritmico del dubbio.
