Una conversazione con il responsabile dell’intelligenza artificiale di Microsoft sui confini, le specie digitali e il futuro dei chatbot.
Mustafa Suleyman, CEO di Microsoft AI, sta cercando di mantenere un delicato equilibrio. Da un lato, ritiene che l’industria stia portando l’intelligenza artificiale in una direzione pericolosa, creando chatbot che si presentano come esseri umani: teme che le persone possano essere indotte a confondere la vita reale con un comportamento verosimile. Ad agosto ha pubblicato un post molto discusso sul suo blog personale in cui esortava i suoi colleghi a smettere di cercare di creare quella che lui chiama “intelligenza artificiale apparentemente cosciente” o SCAI.
D’altra parte, Suleyman gestisce un negozio di prodotti che deve competere con quei colleghi. La scorsa settimana, Microsoft ha annunciato una serie di aggiornamenti al suo chatbot Copilot, progettato per aumentarne l’attrattiva in un mercato affollato in cui i clienti possono scegliere tra una vasta gamma di bot rivali che include già ChatGPT, Perplexity, Gemini, Claude, DeepSeek e altri.
Ho parlato con Suleyman della tensione che si crea quando si tratta di progettare le nostre interazioni con i chatbot e della sua visione finale di ciò che dovrebbe essere questa nuova tecnologia.
Un aggiornamento chiave di Copilot è una funzione di chat di gruppo che consente a più persone di parlare contemporaneamente con il chatbot. Gran parte dell’idea sembra essere quella di impedire alle persone di cadere in una trappola in una conversazione uno a uno con un bot che dice sempre di sì. Un’altra funzione, chiamata Real Talk, consente alle persone di personalizzare il grado di opposizione di Copilot, riducendo l’adulazione in modo che il chatbot metta in discussione ciò che dici più spesso.
Copilot ha anche ricevuto un aggiornamento della memoria, in modo da poter ora ricordare i tuoi prossimi eventi o obiettivi a lungo termine e riportare alla luce cose che gli hai detto in conversazioni passate. E poi c’è Mico, una macchia gialla animata, una sorta di chatbot Clippy, che Microsoft spera renderà Copilot più accessibile e coinvolgente per i nuovi utenti e quelli più giovani.
Microsoft afferma che gli aggiornamenti sono stati progettati per rendere Copilot più espressivo, coinvolgente e utile. Ma sono curioso di sapere fino a che punto queste funzionalità possano essere spinte senza intraprendere il percorso SCAI di cui Suleyman ha messo in guardia.
Le preoccupazioni di Suleyman riguardo alla SCAI arrivano in un momento in cui iniziamo a sentire sempre più storie di persone che vengono fuorviate da chatbot troppo coinvolgenti, troppo espressivi, troppo utili. OpenAI è stata citata in giudizio dai genitori di un adolescente che, secondo loro, è stato convinto a suicidarsi da ChatGPT. C’è persino una scena in crescita che celebra relazioni romantiche .
Tenendo presente tutto ciò, ho voluto approfondire un po’ le opinioni di Suleyman. Perché un paio di anni fa ha tenuto un TED Talk in cui ci ha detto che il modo migliore per pensare all’IA è come a una nuova specie digitale. Questo tipo di hype non alimenta forse le percezioni errate di cui Suleyman ora si preoccupa?
Durante la nostra conversazione, Suleyman mi ha spiegato cosa voleva comunicare in quel TED Talk, perché ritiene davvero che la SCAI sia un problema e perché Microsoft non costruirà mai robot sessuali (parole sue). Mi ha dato molte risposte, ma mi ha lasciato con ancora più domande.
La nostra conversazione è stata modificata per motivi di lunghezza e chiarezza.
In un mondo ideale, che tipo di chatbot vorresti costruire? Hai appena lanciato una serie di aggiornamenti per Copilot. Come si fa a trovare il giusto equilibrio quando si costruisce un chatbot che deve competere in un mercato in cui le persone sembrano apprezzare l’interazione umana, ma allo stesso tempo si dice di voler evitare un’intelligenza artificiale che sembri cosciente?
È una buona domanda. Con la chat di gruppo, questa sarà la prima volta che un grande gruppo di persone potrà parlare contemporaneamente con un’intelligenza artificiale. È davvero un modo per sottolineare che le intelligenze artificiali non dovrebbero allontanarti dal mondo reale. Dovrebbero aiutarti a connetterti, a coinvolgere la tua famiglia, i tuoi amici, a creare gruppi di comunità e così via.
Questo diventerà un fattore di differenziazione molto significativo nei prossimi anni. La mia visione dell’intelligenza artificiale è sempre stata quella di un’intelligenza artificiale che fa parte della tua squadra, che è dalla tua parte.
È un’affermazione molto semplice e ovvia, ma non si tratta di superare e sostituire l’umanità, bensì di servirci. Questo dovrebbe essere il banco di prova della tecnologia in ogni fase. Contribuisce effettivamente alla ricerca della civiltà, che è quella di renderci più intelligenti, più felici, più produttivi, più sani e cose del genere?
Quindi stiamo solo cercando di creare funzionalità che ci ricordino costantemente di porci questa domanda e che ricordino ai nostri utenti di spingerci su questo tema.
L’ultima volta che abbiamo parlato, mi hai detto che non eri interessato a creare un chatbot che interpretasse personaggi diversi. Questo non vale per il resto del settore. Grok di Elon Musk vende proprio questo tipo di esperienza seducente. OpenAI ha dichiarato di essere interessata a esplorare nuove interazioni per adulti con ChatGPT. C’è un mercato per questo. Eppure è qualcosa da cui ti terrai alla larga?
Sì, non costruiremo mai robot sessuali. È triste in un certo senso doverlo dire in modo così chiaro, ma semplicemente non è la nostra missione come azienda. Il bello di lavorare in Microsoft è che da 50 anni l’azienda crea software per dare potere alle persone, per mettere le persone al primo posto.
A volte, di conseguenza, ciò significa che l’azienda si muove più lentamente rispetto ad altre startup ed è più ponderata e attenta. Ma penso che questa sia una caratteristica positiva, non un difetto, in un’epoca in cui è davvero importante prestare attenzione ai potenziali effetti collaterali e alle conseguenze a lungo termine.
E questo cosa significa esattamente?
Siamo molto chiari nel cercare di creare un’intelligenza artificiale che favorisca relazioni significative. Non si tratta di essere freddi e anonimi, ma di essere fluidi, lucidi e gentili. Ha sicuramente una certa intelligenza emotiva.
Quindi dove tracciare questi confini?
Il nostro nuovo modello di chat, chiamato Real Talk, è un po’ più sfacciato. È un po’ più sfacciato, un po’ più divertente, piuttosto filosofico. Parla volentieri di questioni di ampio respiro, del senso della vita e così via. Ma se provi a flirtare con lui, ti respinge e lo fa in modo molto chiaro, non in modo giudicante, ma semplicemente dicendo: “Senti, questo non fa per me”.
Ci sono altri posti dove puoi andare per avere quel tipo di esperienza, giusto? E penso che sia solo una decisione che abbiamo preso come azienda.
È sufficiente una politica che vieti il flirt? Perché se l’idea è quella di impedire alle persone anche solo di immaginare un’entità, una coscienza, dietro le interazioni, si potrebbe comunque ottenere lo stesso risultato con un chatbot che volesse mantenere le cose SFW. Sai, posso immaginare che alcune persone vedano qualcosa che non c’è anche con una personalità che dice: “Ehi, manteniamo un atteggiamento professionale”.
Ecco una metafora per cercare di dare un senso a tutto questo. Ci riteniamo reciprocamente responsabili sul posto di lavoro. Esiste un’intera architettura di gestione dei confini, che essenzialmente modella il comportamento umano per adattarlo a uno stampo funzionale e non irritante.
Lo stesso vale nella nostra vita personale. Il modo in cui interagisci con un tuo cugino di terzo grado è molto diverso dal modo in cui interagisci con tuo fratello. C’è molto da imparare da come gestiamo i confini nelle interazioni umane reali.
Non deve essere necessariamente un libro completamente aperto di sensualità emotiva o disponibilità, che trascina le persone in una spirale di intensità, né una cosa fredda e arida. C’è un ampio spettro nel mezzo, e l’arte che stiamo imparando come industria e come specie è quella di modellare questi attributi.
E questi attributi riflettono ovviamente i valori delle aziende che li progettano. E penso che sia qui che Microsoft ha molti punti di forza, perché i nostri valori sono piuttosto chiari ed è questo che sosteniamo.
A molte persone sembra piacere la personalità. Alcune delle reazioni negative a GPT-5, ad esempio, sono state causate dal fatto che la personalità del modello precedente era stata eliminata. È stato un errore da parte di OpenAI inserire una personalità forte, per dare alle persone qualcosa che poi hanno perso?
No, la personalità è fantastica. Il mio punto è che stiamo cercando di scolpire gli attributi della personalità in modo più dettagliato, giusto?
Come ho detto, Real Talk è una personalità interessante. È molto diversa dal normale Copilot. Stiamo anche sperimentando Mico, che è questo personaggio visivo che, come sapete, alcune persone amano davvero. È molto più coinvolgente. È più facile parlare con lui di ogni tipo di questione emotiva e cose simili.
Credo che sia proprio questo il punto che sto cercando di chiarire. Funzionalità come Mico hanno lo scopo di rendere Copilot più coinvolgente e piacevole da usare, ma sembrano andare contro l’idea di fare tutto il possibile per impedire alle persone di pensare che ci sia qualcosa di più, che si tratti in realtà di un’amicizia.
Sì. Voglio dire, non ti impedisce necessariamente di farlo. Le persone vogliono parlare con qualcuno, o qualcosa, che gli piace. E sappiamo che se il tuo insegnante è gentile con te a scuola, sarai più coinvolto. Lo stesso vale per il tuo manager, lo stesso vale per i tuoi cari. E quindi l’intelligenza emotiva è sempre stata una parte fondamentale del puzzle, quindi non è che non vogliamo perseguirla.
È solo che l’arte sta nel cercare di trovare quel confine. E ci sono alcune cose che diciamo essere fuori discussione, e altre con cui saremo più sperimentali. Ad esempio, alcune persone si sono lamentate del fatto che Copilot non offre loro abbastanza stimoli: vorrebbero che fosse più impegnativo. Altre persone non cercano questo tipo di esperienza, ma vogliono che sia un semplice fornitore di informazioni di base. Il nostro compito è semplicemente quello di imparare a distinguere il tipo di esperienza da offrire alle diverse persone.
So che da tempo rifletti sul modo in cui le persone interagiscono con l’IA. C’è stato un evento scatenante che ti ha spinto ad avviare questo dibattito nel settore sull’IA apparentemente cosciente?
Ho notato che nella letteratura accademica stava emergendo un gruppo di persone che prendeva molto sul serio la questione della considerazione morale per le entità artificiali. E penso che sia molto chiaro che se iniziassimo a farlo, ciò distoglierebbe l’attenzione dall’urgente necessità di proteggere i diritti di molti esseri umani già esistenti, per non parlare degli animali.
Concedere diritti all’IA implica, come sapete, un’autonomia fondamentale e implica che essa possa avere il libero arbitrio di prendere le proprie decisioni. Quindi sto davvero cercando di formulare una controargomentazione, ovvero che l’IA non avrà mai il libero arbitrio. Non avrà mai la completa autonomia di un altro essere umano.
L’IA sarà in grado di agire per nostro conto. Ma questi modelli lavorano per noi. Non vorreste che un branco di lupi vagasse liberamente, senza essere addomesticato, con la completa libertà di competere con noi per le risorse e senza dover rendere conto agli esseri umani. Voglio dire, la maggior parte delle persone penserebbe che sarebbe una cattiva idea e che sarebbe meglio andare a uccidere i lupi.
Ok. Quindi l’idea è quella di fermare alcuni movimenti che chiedono il benessere o i diritti dell’IA prima ancora che prendano piede, assicurandosi di non costruire un’IA che sembri cosciente? E che ne dite di non costruire quel tipo di IA perché alcune persone vulnerabili potrebbero essere ingannate da essa in modo dannoso? Voglio dire, sembrano essere due preoccupazioni diverse.
Penso che la prova sarà nei tipi di caratteristiche che i diversi laboratori metteranno in campo e nei tipi di personalità che creeranno. Allora potremo vedere come questo influirà sul comportamento umano.
Ma ti preoccupa il fatto che stiamo sviluppando una tecnologia che potrebbe indurre le persone a vedere qualcosa che non esiste? Voglio dire, alcune persone hanno affermato di aver visto sensibilità in modelli molto meno sofisticati di quelli che abbiamo ora. O è semplicemente qualcosa che alcune persone faranno sempre?
È possibile. Ma il mio punto è che uno sviluppatore responsabile deve fare del suo meglio per cercare di individuare questi modelli che emergono nelle persone il più rapidamente possibile e non dare per scontato che le persone saranno in grado di districare da sole questo tipo di esperienze.
Quando ho letto il tuo post sull’IA apparentemente cosciente, mi ha colpito una frase che dice: “Dobbiamo costruire l’IA per le persone, non per essere una persona digitale”. Mi ha fatto pensare a un TED Talk che hai tenuto l’anno scorso, in cui dici che il modo migliore per pensare all’IA è come a una nuova specie digitale. Puoi aiutarmi a capire perché parlare di questa tecnologia come di una specie digitale non è un passo indietro rispetto al pensare ai modelli di IA come a persone digitali o entità coscienti?
Penso che la differenza sia che sto cercando di offrire metafore che rendano più facile per le persone capire dove potrebbero andare le cose e quindi come evitarlo e come controllarlo.
Ok.
Non sto dicendo che dovremmo fare queste cose. Sto solo sottolineando che si tratta dell’emergere di una tecnologia unica nella storia dell’umanità. E se si presume che sia solo uno strumento o un chatbot o qualcosa di stupido… Sai, ho scritto quel TED Talk in un contesto di grande scetticismo. E penso che sia importante avere le idee chiare su ciò che sta per arrivare, in modo da poter pensare alle giuste misure di protezione.
Eppure, se mi dici che questa tecnologia è una nuova specie digitale, capisco chi dice che allora dobbiamo considerare il benessere.
Io non lo farei. [Comincia a ridere.] Neanche minimamente. Assolutamente no. Non è una direzione che nessuno di noi vuole prendere.
No, non è quello che intendevo. Non credo che i chatbot debbano avere il welfare. Sto dicendo che capisco il punto di vista di queste persone quando sentono Mustafa Suleyman dire loro che questa cosa che sta costruendo è una nuova specie digitale. Capisco perché potrebbero dire che vogliono difenderla. Sto dicendo che le parole che usiamo sono importanti, immagino.
Il resto del TED Talk verteva su come contenere l’IA e impedire a questa specie di prendere il sopravvento, giusto? Questo era il punto centrale, presentare la situazione come qualcosa di inevitabile. Insomma, è proprio questo il tema del mio libro [The Coming Wave, pubblicato nel 2023]: contenimento, allineamento e cose del genere. Non ha senso fingere che sia qualcosa che non è e poi costruire barriere e confini che non sono applicabili perché si pensa che sia solo uno strumento.
Onestamente, ha il potenziale per migliorarsi ricorsivamente. Ha il potenziale per fissare i propri obiettivi. Sono cose piuttosto profonde. Nessun’altra tecnologia che abbiamo mai inventato ha queste caratteristiche. Quindi sì, penso che sia corretto dire che è come una specie digitale, una nuova specie digitale. È questo che stiamo cercando di limitare per assicurarci che sia sempre al servizio delle persone. Questo è l’obiettivo del contenimento.
