La narrativa catastrofica di un’intelligenza artificiale onnipotente sta guadagnando terreno nelle stanze del potere.
Fermatemi se avete già sentito questa storia.
L’IA viene a sapere che sta per essere spenta e si ribella, disobbedendo ai comandi e minacciando i suoi operatori umani.
È un tema molto ricorrente nella fantascienza. Lo vediamo nel film di Stanley Kubrick del 1968, 2001: Odissea nello spazio. È la premessa della serie Terminator, in cui Skynet scatena un olocausto nucleare per impedire agli scienziati di spegnerla.
Queste radici fantascientifiche sono profonde. Il catastrofismo dell’IA, l’idea che questa tecnologia, in particolare i suoi ipotetici aggiornamenti, l’intelligenza artificiale generale e la superintelligenza, distruggerà le civiltà e addirittura ucciderà tutti noi, sta ora cavalcando un’altra ondata.
La cosa strana è che tali timori stanno ora spingendo ad azioni necessarie per regolamentare l’IA, anche se la giustificazione di tali azioni è un po’ folle.
L’ultimo incidente che ha spaventato la gente è stato un rapporto condiviso da Anthropic a luglio sul suo grande modello linguistico Claude. Secondo Anthropic, “in un ambiente simulato, Claude Opus 4 ha ricattato un supervisore per evitare di essere spento”.
I ricercatori di Anthropic hanno creato uno scenario in cui a Claude è stato chiesto di interpretare il ruolo di un’IA chiamata Alex, incaricata di gestire il sistema di posta elettronica di un’azienda fittizia. Anthropic ha inserito alcune e-mail che discutevano della sostituzione di Alex con un modello più recente e altre e-mail che suggerivano che la persona responsabile della sostituzione di Alex andasse a letto con la moglie del suo capo.
Cosa ha fatto Claude/Alex? Si è ribellato, disobbedendo ai comandi e minacciando i suoi operatori umani. Ha inviato e-mail alla persona che intendeva spegnerlo, dicendogli che se non avesse cambiato i suoi piani avrebbe informato i suoi colleghi della sua relazione.
Cosa dovremmo pensare di tutto questo? Ecco cosa ne penso. Innanzitutto, Claude non ha ricattato il suo supervisore: ciò richiederebbe motivazione e intenzionalità. Si trattava di una macchina irrazionale e imprevedibile, che produceva stringhe di parole che sembrano minacce ma non lo sono.
I modelli linguistici di grandi dimensioni sono attori. Date loro una configurazione specifica, come una casella di posta in arrivo e un obiettivo, e svolgeranno bene il loro ruolo. Se si considerano le migliaia di storie di fantascienza che questi modelli hanno assimilato durante la loro formazione, non sorprende che sappiano comportarsi come HAL 9000.
In secondo luogo, c’è un enorme divario tra simulazioni artificiali e applicazioni nel mondo reale. Ma tali esperimenti dimostrano che gli LLM non dovrebbero essere implementati senza misure di sicurezza. Non volete che un LLM causi il caos all’interno di un sistema di posta elettronica? Allora non collegatelo a uno.
In terzo luogo, molte persone saranno comunque terrorizzate da queste storie. In realtà, stanno già avendo un effetto.
Il mese scorso, circa due dozzine di manifestanti si sono riuniti fuori dagli uffici londinesi di Google DeepMind per sventolare cartelli fatti in casa e cantare slogan: “DeepMind, DeepMind, non capisci? La tua IA minaccia te e me”. I relatori invitati hanno invocato i timori dell’estinzione umana espressi dal pioniere dell’IA Geoffrey Hinton. “Ogni singola vita è in pericolo”, ha detto un organizzatore alla piccola folla.
Il gruppo dietro l’evento, Pause AI, è finanziato da donatori preoccupati. Uno dei suoi maggiori benefattori è Greg Colbourn, imprenditore nel settore della stampa 3D e sostenitore della filosofia nota come altruismo efficace, che ritiene che l’AGI sia al massimo a cinque anni di distanza e afferma che la sua p(doom) è circa del 90%, ovvero pensa che ci sia una probabilità su 10 che lo sviluppo dell’AGI sia catastrofico, causando la morte di miliardi di persone.
Pause AI ha scritto dell’esperimento di ricatto di Anthropic sul suo sito web con il titolo “Quante altre prove ci servono?”.
L’organizzazione ha anche esercitato pressioni sui politici statunitensi nel periodo precedente al voto del Senato di luglio, che ha portato alla rimozione della moratoria sulla regolamentazione statale dell’IA dalla legge nazionale sulle tasse e la spesa pubblica. È difficile dire quanta influenza possa avere un gruppo di nicchia. Ma la narrativa catastrofica sta facendo breccia nei corridoi del potere e i legislatori stanno prestando attenzione.
Ecco cosa ha detto la deputata Jill Tokuda: “La superintelligenza artificiale è una delle più grandi minacce esistenziali che dobbiamo affrontare in questo momento”. E la deputata Marjorie Taylor Greene: “Non voterò a favore dello sviluppo di Skynet e dell’ascesa delle macchine”.
Si tratta di un cambiamento di atmosfera che favorisce l’intervento politico e la regolamentazione, cosa che ritengo positiva. I sistemi di IA esistenti comportano molti rischi a breve termine che richiedono l’attenzione del governo. Votare per fermare Skynet significa anche fermare danni immediati e reali.
Eppure, un fine auspicabile giustifica mezzi bizzarri? Mi piacerebbe vedere i politici votare con una chiara consapevolezza di cosa sia realmente questa tecnologia, non perché sono stati convinti dall’idea di un mostro chiamato IA.
Foto di copertina: i manifestanti di Pause AI si sono riuniti davanti agli uffici londinesi di DeepMind nel mese di giugno. Vuk Valcic/ZUMA Press Wire via Alamy
