IA e medicina: due studi per costruire ricerca, formazione e regole di sicurezza più precise

L’Intelligenza Artificiale (IA) sta entrando rapidamente nella medicina e sta cambiando il modo in cui si possono prevenire, diagnosticare e trattare le malattie; le applicazioni dell’IA possono aprire prospettive straordinarie per la salute dei cittadini e per il lavoro dei professionisti, senza però perdere di vista il valore insostituibile della competenza e della responsabilità del medico.

È fondamentale, prima di tutto, conoscere l’IA, comprenderne potenzialità e limiti, imparare ad applicarla correttamente e soprattutto essere capaci di governarla. L’obiettivo verso cui deve tendere la medicina moderna non è di rinunciare all’intelligenza artificiale, ma di usarla con responsabilità, controllo e senso critico.

Nel territorio di Novara Daniele Angioni, Medico di Medicina Generale, ha pubblicato con alcuni colleghi due articoli scientifici che valutano l’impatto dell’intelligenza artificiale nella pratica clinica.

Il primo, “Quando un errore sembra una risposta perfetta”, descrive un rischio più insidioso dell’errore evidente: l’IA può sbagliare usando un linguaggio così ordinato e autorevole da sembrare nel giusto.

Può perfino citare un vero articolo scientifico e, nello stesso tempo, interpretarlo male. Gli autori chiamano questo fenomeno “evidence-like error”: un errore che ha l’aspetto dell’evidenza.

Immaginiamo un sistema che trovi una fonte corretta, ma ne estragga una frase senza il contesto necessario, oppure utilizzi una citazione autentica per sostenere una conclusione che quella fonte non afferma davvero. È come prendere una frase vera da un contratto e usarla per dimostrare il contrario di ciò che il contratto dice nel suo insieme.

In medicina può diventare pericoloso se vengono trascurate, per esempio, una controindicazione, una dose diversa o una limitazione importante. Il messaggio è immediato: una citazione non è una garanzia. Va controllato che dica davvero ciò che l’IA sostiene.

Il secondo, “E se la risposta fosse giusta, ma ci facesse ragionare peggio?”, pone una domanda ancora più sorprendente. Anche una risposta corretta può creare un problema se porta chi la legge a verificare meno, a dubitare meno o a considerare meno alternative. Un medico può avere in mente diverse possibili spiegazioni per un sintomo.

Se l’IA ne propone una con grande sicurezza, quella risposta può diventare dominante e far passare in secondo piano ipotesi meno probabili ma importanti da non perdere. Da qui nasce il concetto di “algovigilanza cognitiva”, cioè osservare nel tempo non solo gli errori dell’IA, ma anche gli effetti del suo utilizzo sul ragionamento dei professionisti, per riconoscere precocemente eccesso di fiducia o perdita di autonomia decisionale.

Il paragone è con la farmacovigilanza: quando un farmaco entra nell’uso reale, continuiamo a sorvegliarne la sicurezza e gli eventuali effetti indesiderati. Con l’IA, sostengono gli autori, dovremmo osservare non solo gli errori dello strumento, ma anche ciò che accade al nostro modo di pensare quando lo utilizziamo nel tempo.

Continuiamo a controllare le fonti? Manteniamo un giudizio autonomo? Siamo ancora capaci di dire alla macchina “no, questa risposta non mi convince”?. L’IA ci aiuta a ragionare meglio oppure, senza accorgercene, ci abitua a ragionare meno?

Questi due studi confermano, quindi, che pubblicare un lavoro scientifico non significa trasformare un’idea in una verità definitiva. La scienza funziona in modo diverso. Pubblicare significa mettere definizioni, argomenti e proposte a disposizione della comunità perché possano essere esaminati, discussi, criticati e sviluppati.

Così un problema nuovo smette di essere una semplice impressione e diventa qualcosa che può essere studiato e misurato. Concetti come “evidence-like error” e “algovigilanza cognitiva” forniscono quindi un linguaggio per costruire ricerca, formazione e regole di sicurezza più precise.