Intelligenza artificiale in medicina: due studi novaresi sui rischi delle risposte “perfette”

NOVARA – L’intelligenza artificiale può offrire nuove opportunità nella prevenzione, nella diagnosi e nella cura delle malattie, ma richiede controllo, senso critico e competenze specifiche. È il tema affrontato in due pubblicazioni scientifiche del medico di medicina generale novarese Daniele Angioni, realizzate insieme ad alcuni colleghi. Il primo lavoro, Evidence-like error and physician responsibility in retrieval-augmented clinical artificial intelligence, analizza il rischio legato a risposte apparentemente affidabili prodotte da sistemi che recuperano e utilizzano fonti scientifiche. Una risposta può infatti citare un articolo reale, ma interpretarlo in modo errato o fuori contesto. Gli autori definiscono questo fenomeno “evidence-like error”: un errore che assume l’aspetto di un’evidenza scientifica. In medicina, spiegano, questo può portare a trascurare controindicazioni, differenze nei dosaggi o altri limiti importanti. Una citazione non è quindi una garanzia di correttezza e deve sempre essere verificata.

Il secondo articolo, Clinical artificial intelligence as a cognitive intervention: cognitive algovigilance, adverse events, and post-market surveillance, propone il concetto di “cognitive algovigilance”, traducibile come algovigilanza cognitiva. L’idea è monitorare non soltanto gli errori dello strumento, ma anche gli effetti che il suo utilizzo può avere nel tempo sul ragionamento e sull’autonomia decisionale di medici e operatori sanitari.

Una risposta corretta e formulata con sicurezza, infatti, può indurre chi la utilizza a verificare meno le fonti o a prendere meno in considerazione ipotesi alternative. Le due pubblicazioni propongono quindi un confronto su ricerca, formazione e regole di sicurezza, con l’obiettivo di utilizzare l’intelligenza artificiale come supporto alla medicina senza sostituire il giudizio clinico e la responsabilità professionale.