Cosa potreste aver perso riguardo GPT-5

Poiché l’intelligenza artificiale generale rimane fuori portata, OpenAI sta puntando maggiormente su applicazioni specifiche. La consulenza sanitaria è il suo banco di prova più pericoloso.

Prima che OpenAI rilasciasse GPT-5 giovedì scorso, il CEO Sam Altman ha affermato che le sue capacità lo facevano sentire “inutile rispetto all’IA”. Ha detto che lavorare su questo progetto comporta un peso che immagina abbiano provato gli sviluppatori della bomba atomica.

Mentre i giganti della tecnologia convergono su modelli che fanno più o meno la stessa cosa, la nuova offerta di OpenAI avrebbe dovuto dare un assaggio della nuova frontiera dell’IA. Doveva segnare un salto verso l'”intelligenza artificiale generale” che, secondo le promesse degli evangelisti della tecnologia, trasformerà l’umanità in meglio.

Contrariamente alle aspettative, il modello ha deluso le aspettative.

Sono stati evidenziati errori evidenti nelle risposte di GPT-5, contraddicendo l’affermazione di Altman fatta al momento del lancio secondo cui funziona come “un vero esperto di livello dottorale in qualsiasi area di cui si abbia bisogno su richiesta”. I primi tester hanno anche riscontrato dei problemi con la promessa di OpenAI secondo cui GPT-5 individua automaticamente il tipo di modello di IA più adatto alla domanda: un modello di ragionamento per le query più complesse o un modello più veloce per quelle più semplici. Altman sembra aver ammesso che questa funzione è imperfetta e toglie il controllo all’utente. Tuttavia, ci sono anche buone notizie: il modello sembra aver alleviato il problema di ChatGPT che adulava gli utenti, con GPT-5 meno propenso a ricoprirli di complimenti esagerati.

Nel complesso, come ha sottolineato la mia collega Grace Huckins, la nuova versione rappresenta più un aggiornamento del prodotto, che offre modi più eleganti e gradevoli di conversare con ChatGPT, che una svolta che ridefinisce le possibilità dell’IA.

Ma c’è un’altra cosa da trarre da tutto questo. Per un certo periodo, le aziende di IA non si sono sforzate molto di suggerire come i loro modelli potessero essere utilizzati. Il piano era invece quello di costruire semplicemente il modello più intelligente possibile, una sorta di cervello, e confidare che fosse in grado di fare molte cose. Scrivere poesie sarebbe stato naturale come la chimica organica. Per raggiungere questo obiettivo sarebbero stati necessari modelli più grandi, tecniche di addestramento migliori e innovazioni tecnologiche.

Ma le cose stanno cambiando: ora la strategia è quella di spingere i modelli esistenti in più ambiti, promuovendo applicazioni specifiche. Le aziende sono state più aggressive nelle loro promesse, ad esempio affermando che i loro modelli di IA possono sostituire i programmatori umani (anche se le prime prove suggeriscono il contrario). Una possibile spiegazione di questo cambiamento è che i giganti della tecnologia semplicemente non hanno fatto le scoperte che si aspettavano. Per il momento potremmo doverci accontentare di miglioramenti solo marginali nelle capacità dei modelli linguistici di grandi dimensioni. Ciò lascia alle aziende di IA una sola opzione: lavorare con ciò che hanno a disposizione.

L’esempio più lampante di questo cambiamento nel lancio di GPT-5 è il modo in cui OpenAI sta incoraggiando le persone a utilizzarlo per consigli sulla salute, uno dei campi più delicati dell’IA.

All’inizio, OpenAI non rispondeva alle domande di carattere medico. Se si provava a chiedere a ChatGPT informazioni sulla propria salute, esso forniva numerose avvertenze in cui si precisava che non era un medico e, per alcune domande, si rifiutava addirittura di rispondere. Tuttavia, come ho recentemente riportato, tali avvertenze hanno iniziato a scomparire con il rilascio dei nuovi modelli da parte di OpenAI. I suoi modelli ora non solo interpretano radiografie e mammografie, ma pongono anche domande di approfondimento che portano a una diagnosi.

A maggio, OpenAI ha segnalato che avrebbe cercato di affrontare direttamente le domande di carattere medico. Ha annunciato HealthBench, un modo per valutare l’efficacia dei sistemi di IA nel trattare argomenti di salute rispetto alle opinioni dei medici. A luglio ha pubblicato uno studio a cui ha partecipato, riportando che un gruppo di medici in Kenya ha commesso meno errori diagnostici quando è stato aiutato da un modello di IA.

Con il lancio di GPT-5, OpenAI ha iniziato a dire esplicitamente alle persone di utilizzare i suoi modelli per consigli sulla salute. All’evento di lancio, Altman ha dato il benvenuto sul palco a Felipe Millon, un dipendente di OpenAI, e a sua moglie, Carolina Millon, a cui era stato recentemente diagnosticato un tumore multiplo. Carolina ha raccontato di aver chiesto aiuto a ChatGPT per le sue diagnosi, dicendo di aver caricato le copie dei risultati della sua biopsia su ChatGPT per tradurre il gergo medico e di aver chiesto all’IA di aiutarla a prendere decisioni su questioni come l’opportunità o meno di sottoporsi a radioterapia. Il trio lo ha definito un esempio significativo di riduzione del divario di conoscenza tra medici e pazienti.

Con questo cambiamento di approccio, OpenAI si sta avventurando in acque pericolose.

Da un lato, sta utilizzando le prove che i medici possono trarre vantaggio dall’IA come strumento clinico, come nello studio condotto in Kenya, per suggerire alle persone senza alcuna formazione medica di chiedere consiglio al modello di IA sulla propria salute. Il problema è che molte persone potrebbero chiedere questo consiglio senza mai consultare un medico (e sono meno propense a farlo ora che il chatbot raramente lo suggerisce).

Infatti, due giorni prima del lancio di GPT-5, l’Annals of Internal Medicine ha pubblicato un articolo su un uomo che ha smesso di mangiare sale e ha iniziato a ingerire quantità pericolose di bromuro dopo una conversazione con ChatGPT. Ha sviluppato un avvelenamento da bromuro, che è quasi scomparso negli Stati Uniti dopo che la Food and Drug Administration ha iniziato a limitare l’uso del bromuro nei farmaci da banco negli anni ’70, e poi è quasi morto, trascorrendo settimane in ospedale.

Qual è il punto di tutto questo? Essenzialmente, si tratta di responsabilità. Quando le aziende di IA passano dalla promessa di un’intelligenza generale all’offerta di un’utilità simile a quella umana in un campo specifico come quello sanitario, si pone una seconda domanda, ancora senza risposta, su cosa accadrà quando verranno commessi degli errori. Allo stato attuale, non vi sono indicazioni che le aziende tecnologiche saranno ritenute responsabili dei danni causati.

“Quando i medici danno consigli medici dannosi a causa di errori o pregiudizi, è possibile citarli in giudizio per negligenza e ottenere un risarcimento”, afferma Damien Williams, assistente professore di scienza dei dati e filosofia presso l’Università della Carolina del Nord a Charlotte.

“Quando ChatGPT fornisce consigli medici dannosi perché è stato addestrato su dati pregiudizievoli o perché le ‘allucinazioni’ sono inerenti al funzionamento del sistema, a cosa puoi ricorrere?”