L’intelligenza artificiale corre, ma non tutti sono disposti a farle guidare anche la medicina. Se da una parte OpenAI accelera sul fronte sanitario con ChatGPT Salute, dall’altra Google sceglie un approccio più prudente e mette un freno ai contenuti medici generati da AI Overview. Alla base della decisione, un’inchiesta del Guardian che ha acceso i riflettori su risposte cliniche imprecise – e in alcuni casi fuorvianti – fornite dall’AI agli utenti.
Secondo quanto emerso dal report del quotidiano britannico, realizzato con il supporto di esperti del settore, alcune risposte automatiche di Google presenterebbero errori o semplificazioni eccessive su temi delicati legati alla salute. Una criticità che avrebbe spinto il colosso di Mountain View a rimuovere o ridimensionare determinate ricerche mediche dai cosiddetti “sommari AI”, ovvero le risposte generate automaticamente e mostrate in cima ai risultati di ricerca.
Una decisione che non convince tutti
Una mossa che, però, non convince tutti. Vanessa Hebditch, direttrice delle comunicazioni della British Liver Trust, ha commentato la scelta di Google parlando di un intervento tampone: una soluzione che limita i danni nel breve periodo senza risolvere il problema alla radice. In altre parole, si interviene sugli effetti, ma non sulla causa strutturale: l’inaffidabilità – ancora presente – dei modelli di intelligenza artificiale quando si confrontano con la complessità clinica reale.
Dal canto suo, Google ha respinto le accuse con una difesa non priva di zone d’ombra. Un portavoce dell’azienda ha dichiarato che, dopo il confronto con un team interno di medici, le risposte segnalate non sarebbero tecnicamente errate e risulterebbero anzi supportate da fonti considerate autorevoli. Una posizione che, tuttavia, non ha dissipato i dubbi sollevati dall’inchiesta.
AI Overview e salute: cosa cambia per gli utenti
Domande come “Quali sono i valori normali delle analisi epatiche?” o “Qual è la pressione arteriosa ideale?” potrebbero quindi sparire – o essere fortemente ridimensionate – dalle risposte automatiche di AI Overview. La decisione di Google sarebbe legata non solo alla presenza di inesattezze, ma soprattutto alla mancanza di contesto.
I grandi modelli linguistici, infatti, tendono a fornire valori medi e standardizzati, ignorando variabili fondamentali in ambito medico: età, sesso, patologie pregresse, stile di vita ed etnia. Elementi che, nella pratica clinica, incidono in modo significativo sui parametri di riferimento.
Per fare un esempio concreto, i valori target della pressione arteriosa per una donna di 85 anni con problemi cardiaci non coincidono affatto con quelli di un giovane adulto in buona salute. E al momento, AI Overview non è in grado di distinguere queste differenze, con il rischio di suggerire indicazioni potenzialmente pericolose per chi le interpreta come consigli personalizzati.