Il nuovo prodotto di OpenAI non può sostituire un medico. Ma potrebbe essere meglio che cercare i propri sintomi sul web.
Negli ultimi vent’anni, chiunque iniziasse a manifestare nuovi sintomi medici compiva un primo passo ovvio: cercava informazioni online. Questa pratica era così comune da guadagnarsi il soprannome dispregiativo di “Dr. Google”. Ma i tempi stanno cambiando e molti di coloro che cercano informazioni mediche ora utilizzano gli LLM. Secondo OpenAI, ogni settimana 230 milioni di persone rivolgono a ChatGPT domande relative alla salute.
Questo è il contesto in cui si inserisce il lancio del nuovo prodotto ChatGPT Health di OpenAI, presentato all’inizio di questo mese. Il lancio è avvenuto in un momento poco propizio: due giorni prima, il sito di notizie SFGate aveva pubblicato la storia di Sam Nelson, un adolescente morto l’anno scorso per overdose dopo aver avuto lunghe conversazioni con ChatGPT su come combinare al meglio vari farmaci. Sulla scia di entrambe le notizie, diversi giornalisti hanno messo in discussione l’opportunità di affidarsi per consigli medici a uno strumento che potrebbe causare danni così gravi.
Sebbene ChatGPT Health si trovi in una scheda laterale separata dal resto di ChatGPT, non si tratta di un modello nuovo. È più simile a un involucro che fornisce a uno dei modelli preesistenti di OpenAI una guida e strumenti che può utilizzare per fornire consigli sulla salute, compresi alcuni che gli consentono di accedere alle cartelle cliniche elettroniche e ai dati delle app di fitness degli utenti, se autorizzato. Non c’è dubbio che ChatGPT e altri modelli linguistici di grandi dimensioni possano commettere errori medici, e OpenAI sottolinea che ChatGPT Health è inteso come un supporto aggiuntivo, piuttosto che come un sostituto del proprio medico. Ma quando i medici non sono disponibili o non sono in grado di aiutare, le persone si rivolgono ad alternative.
Alcuni medici vedono gli LLM come un vantaggio per l’alfabetizzazione medica. Il paziente medio potrebbe avere difficoltà a orientarsi nel vasto panorama delle informazioni mediche online e, in particolare, a distinguere le fonti di alta qualità dai siti web raffinati ma di dubbia attendibilità, ma gli LLM possono svolgere questo compito al posto loro, almeno in teoria. Curare i pazienti che avevano cercato i propri sintomi su Google richiedeva “un grande sforzo per combattere l’ansia dei pazienti [e] ridurre la disinformazione”, afferma Marc Succi, professore associato alla Harvard Medical School e radiologo praticante. Ma ora, dice, “si vedono pazienti con un’istruzione universitaria o superiore che fanno domande al livello di quelle che potrebbe fare uno studente di medicina alle prime armi”.
Il rilascio di ChatGPT Health e il successivo annuncio di Anthropic di nuove integrazioni sanitarie per Claude indicano che i giganti dell’IA sono sempre più disposti a riconoscere e incoraggiare gli usi dei loro modelli in ambito sanitario. Tali usi comportano certamente dei rischi, data la ben documentata tendenza degli LLM ad essere d’accordo con gli utenti e a inventare informazioni piuttosto che ammettere la propria ignoranza.
Ma tali rischi devono anche essere valutati rispetto ai potenziali benefici. C’è un’analogia con i veicoli autonomi: quando i responsabili politici valutano se consentire l’uso di Waymo nella loro città, il parametro chiave non è se le sue auto siano mai coinvolte in incidenti, ma se causino meno danni rispetto allo status quo che prevede l’affidamento a conducenti umani. Se il Dr. ChatGPT rappresenta un miglioramento rispetto al Dr. Google, e le prime prove suggeriscono che potrebbe essere così, potrebbe potenzialmente ridurre l’enorme peso della disinformazione medica e dell’ansia inutile per la salute che Internet ha creato.
Tuttavia, determinare l’efficacia di un chatbot come ChatGPT o Claude per la salute dei consumatori è complicato. “È estremamente difficile valutare un chatbot aperto”, afferma Danielle Bitterman, responsabile clinico per la scienza dei dati e l’intelligenza artificiale presso il sistema sanitario Mass General Brigham. I modelli linguistici di grandi dimensioni ottengono buoni risultati negli esami di abilitazione medica, ma tali esami utilizzano domande a scelta multipla che non riflettono il modo in cui le persone utilizzano i chatbot per cercare informazioni mediche.
Sirisha Rambhatla, assistente professore di scienze gestionali e ingegneria presso l’Università di Waterloo, ha cercato di colmare questa lacuna valutando come GPT-4o ha risposto alle domande dell’esame di abilitazione quando non aveva accesso a un elenco di possibili risposte. Gli esperti medici che hanno valutato le risposte ne hanno giudicate corrette solo circa la metà. Tuttavia, le domande a scelta multipla degli esami sono progettate per essere abbastanza complesse da non rivelare completamente le opzioni di risposta, e sono ancora un’approssimazione piuttosto lontana dal tipo di domande che un utente digiterebbe in ChatGPT.
Un altro studio, che ha testato GPT-4o su prompt più realistici inviati da volontari umani, ha scoperto che rispondeva correttamente alle domande mediche circa l’85% delle volte. Quando ho parlato con Amulya Yadav, professore associato alla Pennsylvania State University che gestisce il Responsible AI for Social Emancipation Lab e ha condotto lo studio, ha chiarito che personalmente non era un fan dei modelli di linguaggio medico rivolti ai pazienti. Tuttavia, ammette apertamente che, dal punto di vista tecnico, sembrano all’altezza del compito: dopotutto, afferma, i medici umani sbagliano la diagnosi dei pazienti nel 10-15% dei casi. “Se lo guardo con distacco, mi sembra che il mondo stia per cambiare, che mi piaccia o no”, afferma.
Per chi cerca informazioni mediche online, secondo Yadav gli LLM sembrano essere una scelta migliore rispetto a Google. Anche Succi, il radiologo, ha concluso che gli LLM possono essere un’alternativa migliore alla ricerca sul web quando ha confrontato a domande su comuni patologie croniche con le informazioni presentate nel pannello di conoscenza di Google, la casella informativa che a volte appare sul lato destro dei risultati di ricerca.
Da quando gli studi di Yadav e Succi sono apparsi online, nella prima metà del 2025, OpenAI ha rilasciato diverse nuove versioni di GPT, ed è ragionevole aspettarsi che GPT-5.2 abbia prestazioni ancora migliori rispetto ai suoi predecessori. Tuttavia, gli studi presentano importanti limiti: si concentrano su domande semplici e concrete ed esaminano solo brevi interazioni tra utenti e chatbot o strumenti di ricerca web. Alcuni dei punti deboli degli LLM, in particolare la loro adulazione e la tendenza ad avere allucinazioni, potrebbero manifestarsi più facilmente in conversazioni più estese e con persone che affrontano problemi più complessi. Reeva Lederman, professore presso l’Università di Melbourne che studia tecnologia e salute, osserva che i pazienti che non gradiscono la diagnosi o le raccomandazioni terapeutiche ricevute dal medico potrebbero cercare un altro parere da un LLM e che, se questo è adulatorio, potrebbe incoraggiarli a rifiutare il consiglio del medico.
Alcuni studi hanno scoperto che gli LLM hanno allucinazioni e mostrano adulazione in risposta a richieste relative alla salute. Ad esempio, uno studio ha dimostrato che GPT-4 e GPT-4o accettano volentieri e utilizzano informazioni errate sui farmaci incluse nella domanda di un utente. In un altro, GPT-4o ha spesso inventato definizioni per sindromi e test di laboratorio fittizi menzionati nella richiesta dell’utente. Data l’abbondanza di diagnosi e trattamenti medici dubbi che circolano su Internet, questi modelli di comportamento dei modelli di linguaggio grande potrebbero contribuire alla diffusione di disinformazione medica, in particolare se le persone considerano i modelli di linguaggio grande affidabili.
OpenAI ha riferito che la serie di modelli GPT-5 è notevolmente meno adulatoria e incline alle allucinazioni rispetto ai modelli precedenti, quindi i risultati di questi studi potrebbero non essere applicabili a ChatGPT Health. L’azienda ha anche valutato il modello che alimenta ChatGPT Health sulle sue risposte a domande specifiche sulla salute, utilizzando il benchmark HeathBench disponibile al pubblico. HealthBench premia i modelli che esprimono incertezza quando appropriato, raccomandano agli utenti di rivolgersi a un medico quando necessario e si astengono dal causare stress inutile agli utenti dicendo loro che la loro condizione è più grave di quanto non sia in realtà. È ragionevole supporre che il modello alla base di ChatGPT Health abbia mostrato questi comportamenti durante i test, anche se Bitterman osserva che alcuni dei prompt in HealthBench sono stati generati da LLM, non dagli utenti, il che potrebbe limitare l’efficacia del benchmark nel mondo reale.
Un LLM che evita l’allarmismo sembra un netto miglioramento rispetto ai sistemi che inducono le persone a convincersi di avere il cancro dopo pochi minuti di navigazione su . E con il continuo sviluppo dei modelli linguistici di grandi dimensioni e dei prodotti basati su di essi, qualsiasi vantaggio abbia il Dr. ChatGPT rispetto al Dr. Google è destinato ad aumentare. L’introduzione di ChatGPT Health è sicuramente un passo in questa direzione: esaminando le cartelle cliniche, ChatGPT può potenzialmente ottenere molte più informazioni sul contesto specifico della salute di un paziente rispetto a quelle che potrebbero essere incluse in qualsiasi ricerca su Google, anche se numerosi esperti hanno messo in guardia dal concedere a ChatGPT tale accesso per motivi di privacy.
Anche se ChatGPT Health e altri nuovi strumenti rappresentano un miglioramento significativo rispetto alle ricerche su Google, potrebbero comunque avere un effetto negativo sulla salute in generale. Proprio come i veicoli automatizzati, anche se più sicuri delle auto guidate da esseri umani, potrebbero comunque rivelarsi negativi se incoraggiano le persone a utilizzare meno i mezzi pubblici, gli LLM potrebbero minare la salute degli utenti se inducono le persone a fare affidamento su Internet invece che sui medici umani, anche se aumentano la qualità delle informazioni sanitarie disponibili online.
Lederman afferma che questo risultato è plausibile. Nella sua ricerca, ha scoperto che i membri delle comunità online incentrate sulla salute tendono a riporre la loro fiducia negli utenti che si esprimono bene, indipendentemente dalla validità delle informazioni che condividono. Poiché ChatGPT comunica come una persona eloquente, alcune persone potrebbero fidarsi troppo di esso, potenzialmente escludendo il proprio medico. Ma gli LLM non possono certamente sostituire un medico umano, almeno non ancora.
