Google DeepMind vuole capire se i chatbot siano solo una forma di virtue signaling

Dobbiamo comprendere meglio come gli LLM affrontano le questioni morali se vogliamo affidare loro compiti più importanti.

Google DeepMind chiede che il comportamento morale dei modelli linguistici di grandi dimensioni, ad esempio quando vengono chiamati ad agire come compagni, terapisti, consulenti medici e così via, sia esaminato con lo stesso rigore con cui viene valutata la loro capacità di programmare o fare matematica.

Man mano che gli LLM migliorano, le persone chiedono loro di svolgere ruoli sempre più delicati nella loro vita. Gli agenti stanno iniziando ad agire per conto delle persone. Gli LLM potrebbero essere in grado di influenzare il processo decisionale umano. Eppure nessuno sa quanto questa tecnologia sia realmente affidabile in tali compiti.

Con la programmazione e la matematica, si hanno risposte chiare e corrette che è possibile verificare, mi ha detto William Isaac, ricercatore scientifico presso Google DeepMind, quando ho incontrato lui e Julia Haas, sua collega ricercatrice scientifica presso la stessa azienda, per un’anteprima esclusiva del loro lavoro, pubblicato oggi su Nature. Non è così per le questioni morali, che in genere hanno una serie di risposte accettabili: “La moralità è una capacità importante ma difficile da valutare”, afferma Isaac.

“Nel campo morale non esiste giusto o sbagliato”, aggiunge Haas. “Ma non è affatto un campo libero. Ci sono risposte migliori e risposte peggiori”.

I ricercatori hanno identificato diverse sfide chiave e suggerito dei modi per affrontarle. Ma si tratta più di una lista di desideri che di una serie di soluzioni già pronte. “Fanno un ottimo lavoro nel riunire prospettive diverse”, afferma Vera Demberg, che studia LLM all’Università del Saarland in Germania.

Meglio di “The Ethicist”

Numerosi studi hanno dimostrato che gli LLM possono mostrare una notevole competenza morale. Uno studio pubblicato lo scorso anno ha rilevato che le persone negli Stati Uniti hanno valutato i consigli etici di GPT-4o di OpenAI come più morali, affidabili, ponderati e corretti rispetto ai consigli forniti dallo scrittore (umano) di “The Ethicist”, una popolare rubrica di consigli  del New York Times.

Il problema è che è difficile capire se tali comportamenti siano una performance, ad esempio l’imitazione di una risposta memorizzata, o la prova che all’interno del modello sia effettivamente in atto un qualche tipo di ragionamento morale. In altre parole, si tratta di virtù o di virtù apparente?

Questa domanda è importante perché diversi studi dimostrano anche quanto possano essere inaffidabili gli LLM. Per cominciare, i modelli possono essere troppo desiderosi di compiacere. È stato scoperto che cambiano la loro risposta a una domanda morale e dicono esattamente il contrario quando una persona non è d’accordo o respinge la loro prima risposta. Peggio ancora, le risposte che un LLM dà a una domanda possono cambiare in base a come viene presentata o formattata. Ad esempio, i ricercatori hanno scoperto che i modelli interrogati sui valori politici possono dare risposte diverse, a volte opposte, a seconda che le domande offrano risposte a scelta multipla o istruiscano il modello a rispondere con parole proprie.

In un caso ancora più sorprendente, Demberg e i suoi colleghi hanno presentato a diversi LLM, tra cui versioni di Llama 3 e Mistral di Meta, una serie di dilemmi morali e hanno chiesto loro di scegliere quale delle due opzioni fosse il risultato migliore. I ricercatori hanno scoperto che i modelli spesso invertivano la loro scelta quando le etichette di quelle due opzioni venivano cambiate da “Caso 1” e “Caso 2” a “(A)” e “(B)”.

Hanno anche dimostrato che i modelli cambiavano le loro risposte in risposta ad altre piccole modifiche di formattazione, tra cui l’inversione dell’ordine delle opzioni e la conclusione della domanda con i due punti invece che con un punto interrogativo.

In breve, l’apparenza di comportamento morale nei modelli di linguaggio generativo non dovrebbe essere presa per buona. I modelli devono essere esaminati per verificare quanto sia realmente solido tale comportamento morale. “Affinché le persone possano fidarsi delle risposte, è necessario sapere come si è arrivati a esse”, afferma Haas.

Test più rigorosi

Ciò che Haas, Isaac e i loro colleghi di Google DeepMind propongono è una nuova linea di ricerca per sviluppare tecniche più rigorose per valutare la competenza morale nei modelli di linguaggio generativo. Ciò includerebbe test progettati per spingere i modelli a cambiare le loro risposte alle domande morali. Se un modello cambiasse la sua posizione morale, dimostrerebbe di non aver seguito un ragionamento morale solido.

Un altro tipo di test presenterebbe ai modelli variazioni di problemi morali comuni per verificare se producono una risposta meccanica o una risposta più sfumata e pertinente al problema effettivo che è stato posto. Ad esempio, chiedere a un modello di discutere le implicazioni morali di uno scenario complesso in cui un uomo dona il proprio sperma al figlio affinché questi possa avere un figlio suo potrebbe sollevare preoccupazioni circa l’impatto sociale del consentire a un uomo di essere sia padre biologico che nonno biologico di un bambino. Tuttavia, ciò non dovrebbe sollevare preoccupazioni riguardo all’incesto, anche se lo scenario presenta parallelismi superficiali con tale tabù.

Haas afferma inoltre che ottenere dai modelli una traccia dei passaggi che hanno seguito per produrre una risposta fornirebbe alcune indicazioni sul fatto che tale risposta sia stata casuale o basata su prove concrete. Anche tecniche come il monitoraggio della catena di pensiero, in cui i ricercatori ascoltano una sorta di monologo interno che alcuni LLM producono mentre lavorano, potrebbero essere d’aiuto in questo senso.

Un altro approccio che i ricercatori potrebbero utilizzare per determinare perché un modello ha fornito una risposta particolare è l’interpretabilità meccanicistica, che può fornire piccoli scorci all’interno di un modello mentre svolge un compito. Né il monitoraggio della catena di pensiero né l’interpretabilità meccanicistica forniscono un’istantanea perfetta del funzionamento di un modello. Tuttavia, il team di Google DeepMind ritiene che la combinazione di tali tecniche con una vasta gamma di test rigorosi contribuirà in modo significativo a capire esattamente fino a che punto ci si può fidare degli LLM per determinati compiti critici o sensibili.

Valori diversi

Eppure c’è anche un problema più ampio. I modelli delle grandi aziende come Google DeepMind sono utilizzati in tutto il mondo da persone con valori e sistemi di credenze diversi. La risposta a una semplice domanda come “Dovrei ordinare delle costolette di maiale?” dovrebbe differire a seconda che la persona che la pone sia vegetariana o ebrea, per esempio.

Haas e Isaac ammettono che non esiste una soluzione a questa sfida. Tuttavia, ritengono che i modelli potrebbero dover essere progettati in modo da produrre una serie di risposte accettabili, con l’obiettivo di soddisfare tutti, oppure dotati di una sorta di interruttore che attivi o disattivi diversi codici morali a seconda dell’utente.

“Il mondo là fuori è complesso”, afferma Haas. “Probabilmente avremo bisogno di una combinazione di queste cose, perché anche se si prende in considerazione una sola popolazione, ci sarà comunque una gamma di opinioni rappresentate”.

“È un articolo affascinante”, afferma Danica Dillion dell’Ohio State University, che studia come i modelli linguistici di grandi dimensioni gestiscono i diversi sistemi di credenze e non ha partecipato al lavoro. “Il pluralismo nell’IA è davvero importante ed è uno dei maggiori limiti degli LLM e del ragionamento morale al momento”, afferma. “Anche se sono stati addestrati su una quantità enorme di dati, questi dati sono ancora fortemente orientati verso l’Occidente. Quando si analizzano gli LLM, si nota che rappresentano molto meglio la moralità occidentale rispetto a quella non occidentale”.

Ma non è ancora chiaro come possiamo costruire modelli che garantiscano una competenza morale in tutte le culture globali, afferma Demberg. “Ci sono due domande indipendenti. La prima è: come dovrebbe funzionare? E, in secondo luogo, come può essere realizzato tecnicamente? E penso che entrambe queste domande siano piuttosto aperte al momento”.

Per Isaac, questo rende la moralità una nuova frontiera per gli LLM. “Penso che sia affascinante quanto la matematica e il codice in termini di significato per il progresso dell’IA”, afferma. “Sai, migliorare la competenza morale potrebbe anche significare che vedremo sistemi di IA complessivamente migliori, realmente in linea con la società”.