Intelligenza artificiale e diagnosi mediche: quando i chatbot sbagliano più dell’80% dei casi iniziali

L’uso dell’intelligenza artificiale in ambito medico sta crescendo a ritmo sostenuto, entrando sempre più spesso nelle abitudini quotidiane delle persone. Sempre più utenti si affidano ai chatbot per ottenere una prima valutazione dei sintomi, nella speranza di ricevere indicazioni rapide e rassicuranti. Tuttavia, dietro questa apparente semplicità si nasconde una realtà più complessa e, in alcuni casi, preoccupante.

Secondo uno studio pubblicato su Jama Network Open e rilanciato dal Financial Times, i principali modelli linguistici mostrano una forte difficoltà proprio nelle fasi iniziali del processo diagnostico. In queste situazioni, caratterizzate da dati incompleti o poco chiari, i sistemi tendono a ridurre troppo velocemente il ventaglio delle possibili diagnosi, arrivando spesso – anche per l’80 per cento dei casi – a conclusioni errate.

Il problema principale emerge quando le informazioni fornite dagli utenti risultano vaghe o frammentarie. In questi contesti, i chatbot non riescono a gestire efficacemente l’incertezza, mostrando una tendenza a fornire risposte troppo sicure anche quando non dovrebbero. Questo comportamento può portare a sottovalutare condizioni importanti o, al contrario, a generare inutili allarmismi.

A sottolinearlo è Arya Rao, ricercatrice del sistema sanitario Mass General Brigham, che evidenzia come questi strumenti siano estremamente efficaci solo quando dispongono di un quadro completo. Nella fase iniziale, invece, quella più delicata, emergono i limiti più evidenti della tecnologia.

La situazione cambia sensibilmente quando i chatbot possono contare su informazioni più dettagliate. In presenza di dati clinici completi, i tassi di errore si riducono drasticamente, scendendo sotto il 40%. Alcuni modelli, nei casi più strutturati, riescono addirittura a superare il 90% di accuratezza, dimostrando il loro potenziale in contesti ben definiti.

Questo evidenzia un aspetto fondamentale: l’intelligenza artificiale non è intrinsecamente inaffidabile, ma dipende fortemente dalla qualità e dalla quantità delle informazioni ricevute. Più il quadro è chiaro, più le risposte diventano precise e utili. MNonostante i progressi, affidarsi esclusivamente ai chatbot per una diagnosi medica può rappresentare un rischio concreto. La valutazione clinica umana resta, naturalmente, insostituibile, soprattutto nelle fasi iniziali in cui è necessario interpretare segnali deboli e sfumature che una macchina fatica ancora a cogliere.

Il vero nodo della questione riguarda l’uso consapevole di questi strumenti: i chatbot possono essere un valido supporto, ma non devono assolutamente rappresentare o diventare l’unico punto di riferimento. In ambito sanitario, la differenza tra un sospetto e una diagnosi può essere sottile, e affidarla esclusivamente a un algoritmo potrebbe avere conseguenze importanti.

💪 SIAMO ANCHE SU GOOGLE NEWS! Seguici cliccando QUI! 🖋