Tre libri esaminano ciò che guadagniamo e perdiamo quando lasciamo che siano le macchine a creare.
Nel 2021, 20 anni dopo la morte della sorella maggiore, Vauhini Vara non era ancora in grado di raccontare la storia della sua perdita. “Mi sono chiesta”, scrive in Searches, la sua nuova raccolta di saggi sulla tecnologia AI, “se la macchina di Sam Altman potesse farlo per me”. Così ha provato il GPT-3. Ma quando la macchina ha elaborato i suggerimenti di Vara in frasi che andavano dallo stentato all’inquietante al sublime, l’oggetto che aveva arruolato come strumento ha smesso di sembrare così meccanico.
“Una volta mi ha insegnato a esistere”, ha scritto il modello AI della giovane donna che Vara aveva idolatrato. Vara, giornalista e scrittrice, ha intitolato il saggio che ne è scaturito “Fantasmi” e, a suo parere, le righe migliori non sono state scritte da lei: “Mi sono trovata irresistibilmente attratta da GPT-3 per il modo in cui si offriva, senza giudicare, di consegnare le parole a una scrittrice che si era trovata in difficoltà… mentre cercavo di scrivere in modo più onesto, l’IA sembrava fare lo stesso”.
La rapida proliferazione dell’intelligenza artificiale nelle nostre vite introduce nuove sfide in materia di autorialità, autenticità ed etica nel lavoro e nell’arte. Ma offre anche un problema narrativo particolarmente umano: come possiamo dare un senso a queste macchine, non solo usarle? E in che modo le parole che scegliamo e le storie che raccontiamo sulla tecnologia influenzano il ruolo che le permettiamo di assumere (o addirittura di prendere il sopravvento) nelle nostre vite creative? Sia il libro di Vara che The Uncanny Muse, una raccolta di saggi sulla storia dell’arte e dell’automazione del critico musicale David Hajdu, esplorano il modo in cui gli esseri umani hanno lottato storicamente e personalmente con i modi in cui le macchine si relazionano ai nostri corpi, ai nostri cervelli e alla nostra creatività. Allo stesso tempo, The Mind Electric, un nuovo libro di un neurologo, Pria Anand, ci ricorda che il nostro funzionamento interno potrebbe non essere così facile da replicare.
Searches è uno strano artefatto. In parte memorie, in parte analisi critica e in parte sperimentazione creativa assistita dall’intelligenza artificiale, i saggi di Vara ripercorrono il suo periodo di giornalista tecnologica e poi di scrittrice nella Baia di San Francisco insieme alla storia dell’industria che ha visto crescere. La tecnologia è sempre stata abbastanza vicina da poterla toccare: un’amica del college era un’impiegata di Google e quando Vara ha iniziato a lavorare su Facebook (ora Meta), lei e Mark Zuckerberg sono diventati “amici” sulla sua piattaforma. Nel 2007 ha pubblicato uno scoop sul fatto che l’azienda stava pianificando l’introduzione del targeting degli annunci pubblicitari basato sulle informazioni personali degli utenti, il primo colpo sparato nella lunga e aspra guerra dei dati che sarebbe seguita. Nel suo saggio “Stealing Great Ideas” (Rubare grandi idee), racconta di aver rifiutato un lavoro come giornalista di Apple per andare alla scuola di specializzazione in narrativa. Lì ha scritto un romanzo su un fondatore di tecnologia, che è stato poi pubblicato come The Immortal King Rao. Vara sottolinea che, in un certo senso, all’epoca la sua arte era “inestricabile dalle risorse [da lei] utilizzate per crearla”: prodotti come Google Docs, un MacBook, un iPhone. Ma queste risorse precedenti all’IA erano strumenti, semplici e concreti. Quello che è venuto dopo è stato diverso.
I saggi di Vara sono intervallati da capitoli di botta e risposta tra l’autrice e ChatGPT sul libro stesso, dove il bot funge da editore su richiesta di Vara. ChatGPT riassume e critica i suoi scritti con un tono aziendale che è ormai familiare a tutti i lavoratori della conoscenza. “Se c’è un punto di disaccordo”, si legge nei primi capitoli dedicati alle aziende tecnologiche, “potrebbe essere l’equilibrio di queste narrazioni. Alcuni potrebbero sostenere che i benefici – come la creazione di posti di lavoro, l’innovazione in vari settori come l’intelligenza artificiale e la logistica, e il contributo all’economia globale – possono superare gli aspetti negativi”.
Searches: Selfhood in the Digital Age
Vauhini Vara
PANTHEON, 2025
Vara nota che ChatGPT scrive “noi” e “nostro” in queste risposte, inserendolo nella storia umana, non in quella tecnologica: “Prima hai parlato di ‘nostro accesso alle informazioni’ e di ‘nostre esperienze e comprensioni collettive'”. Quando la giornalista chiede quale sia lo scopo retorico di questa scelta, ChatGPT risponde con un elenco numerato di vantaggi, tra cui “inclusività e solidarietà” e “neutralità e obiettività”. Aggiunge che “l’uso della prima persona plurale aiuta a inquadrare la discussione in termini di esperienze umane condivise e sfide collettive”. Il bot crede di essere umano? O almeno, gli umani che lo hanno creato vogliono che gli altri umani lo credano? “Le aziende possono usare questi strumenti [retorici] anche nei loro prodotti, per far sì che le persone si identifichino con loro e non in opposizione?”. Chiede Vara. ChatGPT risponde: “Assolutamente sì”.
Vara è preoccupata anche per le parole che ha usato. In “Thank You for Your Important Work” (Grazie per il tuo importante lavoro), si preoccupa dell’impatto di “Ghosts” (Fantasmi), che è diventato virale dopo la sua prima pubblicazione. Il suo scritto aveva aiutato le aziende a nascondere la realtà dell’IA dietro una cortina di velluto? L’autrice intendeva offrire una “provocazione” sfumata, esplorando quanto possa essere inquietante l’IA generativa. Invece, aveva prodotto qualcosa di così bello da risuonare come una pubblicità per il suo potenziale creativo. Anche la stessa Vara si è sentita ingannata. Le piaceva particolarmente un passaggio scritto dal bot, che parlava di Vara e sua sorella da bambine che si tenevano per mano durante un lungo viaggio in macchina. Ma non riusciva a immaginare che nessuna delle due fosse così sentimentale. Ciò che Vara aveva suscitato nella macchina, si rese conto, era la “realizzazione di un desiderio”, non un’ossessione.
La rapida proliferazione dell’intelligenza artificiale nelle nostre vite introduce nuove sfide in materia di paternità, autenticità ed etica del lavoro e dell’arte. Come possiamo dare un senso a queste macchine, non solo usarle?
La macchina non era l’unica cosa che si nascondeva dietro quella tenda troppo bella per essere vera. I modelli GPT e altri vengono addestrati attraverso il lavoro umano, in condizioni talvolta di sfruttamento. E molti dei dati di addestramento erano il lavoro creativo di scrittori umani prima di lei. “Avevo creato un linguaggio artificiale sul dolore attraverso l’estrazione del linguaggio degli esseri umani reali sul dolore”, scrive l’autrice. I fantasmi creativi del modello erano sì fatti di codice, ma anche, in ultima analisi, di persone. Forse il saggio di Vara ha contribuito a nascondere anche questa verità.
Nel saggio finale del libro, Vara offre come antidoto un’immagine speculare di questi scambi di chiamate e risposte di AI. Dopo aver inviato un sondaggio anonimo a donne di varie età, presenta le risposte a ogni domanda, una dopo l’altra. “Descrivi qualcosa che non esiste”, chiede, e le donne rispondono: “Dio”. “Dio”. “Dio”. “La perfezione”. “Il mio lavoro. (L’ho perso.)” Persone vere si contraddicono, scherzano, urlano, piangono e ricordano. Invece di un’unica voce autorevole – un editore o una guida di stile limitata di un’azienda – Vara ci offre l’intera folla ansimante della creatività umana. “Cosa si prova a essere vivi?”. Vara chiede al gruppo. Una donna risponde: “Dipende”.
David Hajdu, ora redattore musicale di The Nation e in precedenza critico musicale di The New Republic, va molto più indietro dei primi anni di Facebook per raccontare la storia di come gli esseri umani hanno creato e usato le macchine per esprimere noi stessi. Pianoforti, microfoni, sintetizzatori e strumenti elettrici sono state tutte tecnologie di assistenza che hanno affrontato lo scetticismo prima di essere accettate e, talvolta, elevate nella musica e nella cultura popolare. Hanno persino influenzato il tipo di arte che le persone potevano e volevano fare. L’amplificazione elettrica, ad esempio, ha permesso ai cantanti di utilizzare una gamma vocale più ampia e di raggiungere comunque un pubblico. Il sintetizzatore ha introdotto un nuovo lessico sonoro nella musica rock. “Che cosa c’è di male nell’essere meccanici? Si chiede Hajdu in The Uncanny Muse. E “cosa c’è di così bello nell’essere umani?”.
The Uncanny Muse: Music, Art, and Machines from Automata to AI
David Hajdu
W.W. NORTON & COMPANY, 2025
Ma Hajdu è anche interessato a quanto sia intrecciata la storia dell’uomo e della macchina e a quanto spesso abbiamo usato l’uno come metafora dell’altra. Cartesio vedeva il corpo come un macchinario vuoto per la coscienza, ci ricorda. Hobbes scrisse che “la vita non è che un movimento di membra”. Freud descrisse la mente come un motore a vapore. Andy Warhol disse a un intervistatore che “tutti dovrebbero essere macchine”. E quando i computer sono entrati in scena, anche gli esseri umani li hanno usati come metafore di se stessi . “Laddove il modello della macchina ci aveva aiutato a comprendere il corpo umano… una nuova categoria di macchine ci ha portato a immaginare il cervello (come pensiamo, cosa sappiamo, persino come sentiamo o come pensiamo a ciò che sentiamo) in termini di computer”, scrive Hajdu.
Ma cosa si perde con queste mappature uno-a-uno? Cosa succede quando immaginiamo che la complessità del cervello – un organo che non siamo nemmeno vicini a comprendere appieno – possa essere replicata in 1 e 0? Forse ci troveremo di fronte a un mondo pieno di chatbot e agenti, opere d’arte generate al computer e DJ AI, che le aziende dichiarano essere voci creative individuali piuttosto che remix di un milione di input umani. E forse avremo anche progetti come Painting Fool, un’intelligenza artificiale che dipinge, sviluppata da Simon Colton, uno studioso della Queen Mary University di Londra. Ha detto ad Hajdu che voleva “dimostrare il potenziale di un programma per computer di essere preso sul serio come un artista creativo a sé stante”. Ciò che Colton intende non è solo una macchina che fa arte, ma che esprime la propria visione del mondo: “Arte che comunica cosa significa essere una macchina”.
Cosa succede quando immaginiamo che la complessità del cervello – un organo che non siamo nemmeno vicini a comprendere appieno – possa essere replicata in 1 e 0?
Hajdu sembra essere curioso e ottimista riguardo a questa linea di ricerca. “Le macchine di molti tipi hanno comunicato cose per secoli, svolgendo ruoli inestimabili nella nostra comunicazione attraverso l’arte”, dice. “Crescendo in intelligenza, le macchine potrebbero avere ancora molto da comunicare, se glielo permettiamo”. Ma la domanda che The Uncanny Muse solleva alla fine è: perché noi esseri umani che fanno arte dovremmo essere così veloci nel consegnare la vernice al pennello? Perché ci interessa come il pennello vede il mondo? Abbiamo davvero finito di raccontare le nostre storie?
Pria Anand potrebbe dire di no. In The Mind Electric, scrive: “La narrazione è universalmente, spettacolarmente umana; è inconscia come il respiro, essenziale come il sonno, confortante come la familiarità. Ha la capacità di legarci, ma anche di allontanarci, di metterci a nudo, ma anche di oscurare”. L’elettricità di La mente elettrica appartiene interamente al cervello umano, senza bisogno di metafore. Il libro esplora invece una serie di affezioni neurologiche e le storie che pazienti e medici raccontano per comprenderle meglio. “La verità dei nostri corpi e delle nostre menti è strana come la finzione”, scrive Anand, e il linguaggio che usa nel libro è evocativo come quello di qualsiasi romanzo.
The Mind Electric: A Neurologist on the Strangeness and Wonder of Our Brains
Pria Anand
WASHINGTON SQUARE PRESS, 2025
In vignette personali e profondamente studiate, nella tradizione di Oliver Sacks, Anand dimostra che qualsiasi paragone tra cervelli e macchine è inevitabilmente destinato a cadere nel vuoto. Racconta di pazienti che vedono immagini chiare quando sono funzionalmente ciechi, inventano intere storie quando hanno perso la memoria, si rompono lungo cuciture che pochi riescono a trovare e – sì – vedono e sentono fantasmi. Anand cita infatti uno studio condotto su 375 studenti universitari in cui i ricercatori hanno scoperto che quasi tre quarti “avevano sentito una voce che nessun altro poteva sentire”. Non si trattava di schizofrenici diagnosticati o di persone affette da tumori cerebrali, ma solo di persone che ascoltavano le proprie muse misteriose. Molti hanno sentito il proprio nome, altri hanno sentito Dio e altri ancora sono riusciti a percepire la voce di una persona cara che è venuta a mancare. Anand suggerisce che gli scrittori di tutta la storia hanno sfruttato gli scambi organici con queste apparizioni interne per creare arte. “Mi vedo portare il respiro di queste voci nelle mie vele”, scrisse Virginia Woolf a proposito delle sue esperienze con i suoni spettrali. “Sono un vascello poroso che galleggia sulle sensazioni”. La mente in The Mind Electric è vasta, misteriosa e popolata. Le narrazioni che le persone costruiscono per attraversarla sono altrettanto piene di meraviglia.
Gli esseri umani non smetteranno presto di usare la tecnologia per aiutarci a creare, e non c’è motivo per cui dovremmo farlo. Le macchine sono strumenti meravigliosi, come lo sono sempre stati. Ma quando trasformiamo gli strumenti stessi in artisti e narratori, cervelli e corpi, maghi e fantasmi, bypassiamo la verità per la realizzazione dei desideri. Forse la cosa peggiore è che ci priviamo dell’opportunità di contribuire con le nostre voci al coro vivace e rumoroso dell’esperienza umana. E impediamo anche agli altri il piacere umano di ascoltarle.
Rebecca Ackermann è una scrittrice, designer e artista di San Francisco.
