I robot che prevedono il futuro

Tre libri analizzano la nostra ossessione per le previsioni e ciò che perdiamo quando affidiamo questo compito alle macchine.

Essere umani significa, fondamentalmente, essere dei previsori. A volte anche piuttosto bravi. Cercare di vedere il futuro, sia attraverso la lente dell’esperienza passata che attraverso la logica di causa ed effetto, ci ha aiutato a cacciare, a evitare di essere cacciati, a coltivare, a stringere legami sociali e, in generale, a sopravvivere in un mondo che non dà priorità alla nostra sopravvivenza. Infatti, mentre gli strumenti di divinazione sono cambiati nel corso dei secoli, dalle foglie di tè ai set di dati, la nostra convinzione che il futuro possa essere conosciuto (e quindi controllato) è diventata sempre più forte.

Oggi siamo sommersi da un mare di previsioni così vasto e inarrestabile che la maggior parte di noi non le registra nemmeno. Mentre scrivo questa frase, gli algoritmi su qualche server remoto sono impegnati a indovinare la mia prossima parola sulla base di quelle che ho già digitato. Se state leggendo questo articolo online, un altro insieme di algoritmi vi avrà probabilmente già proposto un annuncio pubblicitario ritenuto più adatto ai vostri gusti. (Agli irriducibili che leggono questa storia su carta, congratulazioni! Siete sfuggiti agli algoritmi… per ora.)

Se il pensiero di un livello predittivo onnipresente, per lo più invisibile, segretamente innestato nella vostra vita da un gruppo di aziende assetate di profitto vi mette a disagio… beh, lo stesso vale per me.

Come è potuto succedere tutto questo? Il desiderio delle persone di avere previsioni affidabili è comprensibile. Tuttavia, nessuno ha mai accettato di avere un oracolo algoritmico onnipresente che media ogni aspetto della propria vita. Tre nuovi libri cercano di dare un senso al nostro mondo incentrato sul futuro: come siamo arrivati a questo punto e cosa significa questo cambiamento. Ognuno di essi offre le proprie ricette per affrontare questa nuova realtà, ma tutti concordano su una cosa: le previsioni riguardano in ultima analisi il potere e il controllo.

In The Means of Prediction: How AI Really Works (and Who Benefits), l’economista di Oxford Maximilian Kasy spiega come la maggior parte delle previsioni nella nostra vita si basi sull’analisi statistica di modelli in grandi set di dati etichettati, ciò che negli ambienti dell’intelligenza artificiale è noto come apprendimento supervisionato. Una volta “addestrati” su tali set di dati, gli algoritmi per l’apprendimento supervisionato possono essere alimentati con ogni tipo di nuova informazione e quindi fornire la loro migliore ipotesi su un risultato futuro specifico. Violerete la libertà vigilata, pagherete il mutuo, otterrete una promozione se sarete assunti, otterrete buoni risultati agli esami universitari, sarete a casa vostra quando verrà bombardata? Sempre più spesso, le nostre vite sono plasmate (e, sì, occasionalmente accorciate) dalla risposta di una macchina a queste domande.

Se il pensiero di un livello predittivo onnipresente, per lo più invisibile, segretamente innestato nella tua vita da un gruppo di aziende avide di profitto ti mette a disagio… beh, anche a noi. Questo sistema sta portando a un mondo più crudele, più insipido, più strumentalizzato, in cui le possibilità della vita sono precluse, i pregiudizi secolari sono radicati e il cervello di tutti sembra trasformarsi attivamente in poltiglia. Secondo Kasy, si tratta di un risultato del tutto prevedibile.

I sostenitori dell’IA potrebbero definire queste conseguenze come “non intenzionali” o semplici problemi di ottimizzazione e allineamento. Kasy, invece, sostiene che esse rappresentano il funzionamento del sistema come previsto. “Se un algoritmo che seleziona ciò che vedete sui social media promuove l’indignazione, massimizzando così il coinvolgimento e i clic sugli annunci”, scrive, “è perché promuovere l’indignazione fa bene ai profitti derivanti dalla vendita di pubblicità”. Lo stesso vale per un algoritmo che scarta i candidati “che potrebbero avere responsabilità familiari al di fuori del posto di lavoro” e quelli che “escludono le persone che potrebbero sviluppare problemi di salute cronici o disabilità”. Ciò che è positivo per i profitti di un’azienda potrebbe non esserlo per le tue prospettive di lavoro o la tua aspettativa di vita.

Kasy si differenzia dagli altri critici in quanto non ritiene che lavorare per creare algoritmi meno distorti e più equi risolverà il problema. Cercare di riequilibrare la bilancia non può cambiare il fatto che gli algoritmi predittivi si basano su dati passati che sono spesso razzisti, sessisti e viziati in innumerevoli altri modi. E, secondo lui, gli incentivi al profitto prevarranno sempre sui tentativi di eliminare i danni. L’unico modo per contrastare questo fenomeno è un ampio controllo democratico su ciò che Kasy chiama “i mezzi di previsione”: dati, infrastrutture computazionali, competenze tecniche ed energia.

Poco più della metà di The Means of Prediction è dedicata a spiegare come questo potrebbe essere realizzato, attraverso meccanismi che includono i “data trust” (enti pubblici collettivi che prendono decisioni su come elaborare e utilizzare i dati per conto dei loro contributori) e regimi fiscali aziendali che cercano di tenere conto del danno sociale causato dall’IA. Nel corso del libro si parla molto di economia, di come gli “agenti del cambiamento” potrebbero contribuire a raggiungere un “allineamento dei valori” al fine di “massimizzare il benessere sociale”. Ragionevole, immagino, anche se uno scettico potrebbe sottolineare che l’approccio rigoroso e sistematico di Kasy alla creazione di nuove istituzioni al servizio del pubblico arriva in un momento in cui la fiducia dei cittadini nelle istituzioni non è mai stata così bassa. Inoltre, c’è il problema del “brain goo”.

A suo merito, Kasy è realista su questo punto. Non presume che nessuna di queste proposte sarà facile da attuare. Né che ciò avverrà dall’oggi al domani, o anche nel prossimo futuro. La domanda inquietante alla fine del suo libro è: abbiamo tutto questo tempo a disposizione?

Leggendo il progetto di Kasy per assumere il controllo dei mezzi di previsione, sorge un’altra domanda urgente. Come diavolo siamo arrivati al punto in cui la previsione dell’ o mediata dalle macchine è più o meno inevitabile? Il capitalismo, potrebbe essere la risposta concisa di Marx. Va bene, per quanto riguarda questo aspetto, ma ciò non spiega perché gli stessi tipi di algoritmi che attualmente modellano il cambiamento climatico stiano anche decidendo, per qualche motivo, se tu riceverai un nuovo rene o io otterrò un prestito per l’acquisto di un’auto.

Se lo chiedeste a Benjamin Recht, autore di The Irrational Decision: How We Gave Computers the Power to Choose for Us, probabilmente vi direbbe che la nostra attuale situazione ha molto a che fare con l’idea e l’ideologia della teoria della decisione, o quella che gli economisti chiamano teoria della scelta razionale. Recht, professore poliedrico del Dipartimento di Ingegneria Elettrica e Informatica dell’Università della California, Berkeley, preferisce il termine “razionalità matematica” per descrivere la concezione statistica ristretta che ha alimentato il desiderio di costruire computer, ha influenzato il loro funzionamento e ha determinato il tipo di problemi che sarebbero stati in grado di risolvere.

Questo sistema di credenze risale all’Illuminismo, ma secondo Recht si è affermato definitivamente alla fine della seconda guerra mondiale. Niente concentra la mente sul rischio e sulla rapidità decisionale come la guerra, e i modelli matematici che si sono rivelati particolarmente utili nella lotta contro le potenze dell’Asse hanno convinto un gruppo selezionato di scienziati e statistici che potevano anche costituire una base logica per la progettazione dei primi computer. È nata così l’idea del computer come agente razionale ideale, una macchina in grado di prendere decisioni ottimali quantificando l’incertezza e massimizzando l’utilità.

L’intuizione, l’esperienza e il giudizio hanno lasciato il posto, secondo Recht, all’ottimizzazione, alla teoria dei giochi e alla previsione statistica. “Gli algoritmi fondamentali sviluppati in questo periodo guidano le decisioni automatizzate del nostro mondo moderno, che si tratti di gestire le catene di approvvigionamento, programmare gli orari dei voli o inserire annunci pubblicitari sui feed dei social media”, scrive. In questa realtà guidata dall’ottimizzazione, “ogni decisione della vita viene presentata come se fosse una partita in un casinò immaginario, e ogni argomento può essere ridotto a costi e benefici, mezzi e fini”.

Oggi, la razionalità matematica (che indossa la sua pelle umana) è rappresentata al meglio da personaggi come il sondaggista Nate Silver, lo psicologo di Harvard Steven Pinker e un assortimento di oligarchi della Silicon Valley, afferma Recht. Si tratta di persone che credono fondamentalmente che il mondo sarebbe un posto migliore se più di noi adottassero la loro mentalità analitica e imparassero a valutare costi e benefici, stimare i rischi e pianificare in modo ottimale. In altre parole, sono persone che credono che tutti dovremmo prendere decisioni come i computer.

Come potremmo dimostrare che l’intuizione, la moralità e il giudizio umani (non quantificabili) sono modi migliori per affrontare alcuni dei problemi più importanti e complessi del mondo?

È un’idea ridicola per molteplici ragioni, afferma. Per citarne solo una, non è che prima dell’automazione gli esseri umani non fossero in grado di prendere decisioni basate su prove concrete. “I progressi nell’ambito dell’acqua potabile, degli antibiotici e della sanità pubblica hanno portato l’aspettativa di vita da meno di 40 anni nel 1850 a 70 anni nel 1950”, scrive Recht. “Dalla fine del 1800 all’inizio del 1900, abbiamo assistito a scoperte scientifiche rivoluzionarie nel campo della fisica, tra cui nuove teorie di termodinamica, meccanica quantistica e relatività”. Siamo anche riusciti a costruire automobili e aeroplani senza un sistema formale di razionalità e in qualche modo abbiamo ideato innovazioni sociali come la democrazia moderna senza una teoria decisionale ottimale.

Come potremmo quindi convincere i Pinker e i Silver di questo mondo che la maggior parte delle decisioni che dobbiamo affrontare nella vita non sono in realtà materia prima per l’inesorabile mulino della razionalità matematica? Inoltre, come potremmo dimostrare che l’intuizione, la moralità e il giudizio umani (non quantificabili) potrebbero essere modi migliori per affrontare alcuni dei problemi più importanti e complessi del mondo?

Si potrebbe iniziare ricordando ai razionalisti che qualsiasi previsione, computazionale o di altro tipo, è in realtà solo un desiderio, ma con una forte tendenza ad autoavverarsi. Questa idea anima la polemica meravigliosamente ampia di Carissa Véliz, Profezia: previsione, potere e lotta per il futuro, dagli antichi oracoli all’intelligenza artificiale.

Filosofa dell’Università di Oxford, Véliz vede una previsione come “una calamita che piega la realtà verso sé stessa”. Scrive: “Quando la forza della calamita è abbastanza forte, la previsione diventa la causa della sua realizzazione”.

Prendiamo Gordon Moore. Anche se non compare in Prophecy, Moore occupa un posto di rilievo nella storia della razionalità matematica di Recht. Cofondatore del gigante tecnologico Intel, Moore è famoso per la sua previsione del 1965 secondo cui la densità dei transistor nei circuiti integrati sarebbe raddoppiata ogni due anni. La “legge di Moore” si è rivelata vera e rimane tale ancora oggi, anche se sembra aver perso slancio a causa dei limiti fisici delle dimensioni dell’atomo di silicio.

Una storia che si può raccontare sulla legge di Moore è che Gordon era semplicemente un uomo lungimirante. Il suo ormai classico articolo del 1965 “Cramming More Components onto Integrated Circuits” (Inserire più componenti nei circuiti integrati), pubblicato sulla rivista Electronics, si limitava a estrapolare ciò che le tendenze informatiche avrebbero potuto significare per il futuro dell’industria dei semiconduttori.

Un’altra storia, quella che immagino potrebbe raccontare Véliz, è che Moore ha diffuso nel mondo una previsione informata e che un’intera industria aveva un interesse collettivo a realizzarla. Come chiarisce Recht, c’erano e ci sono tuttora evidenti incentivi finanziari per le aziende a produrre chip per computer più veloci e più piccoli. E mentre l’industria ha probabilmente speso miliardi di dollari cercando di mantenere in vita la legge di Moore, ne ha indubbiamente tratto un profitto ancora maggiore. La legge di Moore era un magnete incredibilmente potente.

Le previsioni non hanno solo l’abitudine di avverarsi, dice Véliz. Possono anche distrarci dalle sfide del presente. Quando un sostenitore dell’intelligenza artificiale promette che l’intelligenza artificiale generale sarà l’ultimo problema che l’umanità dovrà risolvere, non solo influenza il modo in cui pensiamo al ruolo dell’intelligenza artificiale nella nostra vita, ma distoglie anche la nostra attenzione dai problemi molto reali e molto urgenti del presente, problemi che in molti casi sono causati proprio dall’intelligenza artificiale.

In questo senso, le domande relative alle previsioni (chi le fa? chi ha il diritto di farle?) riguardano fondamentalmente anche il potere. Non è un caso, afferma Véliz, che le società che fanno maggiormente affidamento sulle previsioni siano anche quelle che tendono all’oppressione e all’autoritarismo. Le previsioni sono “affermazioni prescrittive velate: ci dicono come agire”, scrive. “Sono ciò che i filosofi chiamano atti linguistici. Quando crediamo a una previsione e agiamo in base ad essa, è come obbedire a un ordine”.

Per quanto le aziende tecnologiche vorrebbero farci credere il contrario, la tecnologia non è il destino. Sono gli esseri umani a crearla e a scegliere come usarla… o non usarla. Forse la cosa più appropriata (e umana) che possiamo fare di fronte a tutte le previsioni quotidiane non richieste nella nostra vita è semplicemente sfidarle.

Bryan Gardiner è uno scrittore che vive a Oakland, in California.