Un breve racconto di fantascienza scritto con l’aiuto di un algoritmo.
di Stephen Marche
Lo schermo visualizzava la scritta “nessun risultato”, ma prima del crash c’erano stringhe di frasi che Krishna non riusciva a spiegare.
## Cane. Acqua potabile in cucina. Una donna in una casa di notte.
## Città, palazzo, dio, sacerdote. Alla corte del Signore, schiavo, spada d’oro.
## Una storia in un libro. Un professore in una prigione. C’è un campo in una giungla. C’è neve sopra il campo.
## Navicella spaziale. Potenza del pianeta. Motori in aria. L’orologio dell’hotel nella stazione ferroviaria.
## Una palla rossa attraversò un verde campo di scuola. Un giardino di notte.
## Una cucina, piena di argento e libri, con un giardino all’esterno.
## Esperimento di laboratorio. Materia nel tempo, luce nello spazio, mente nel corpo, esistenza nell’universo. La terra. Di notte fuoco nel vento celeste. Luce sulla parete di roccia nella grotta. La bambola Raggedy Ann. Uno spaventapasseri.
## Un cavallo prese il volo attraverso il campo. Sparo.
## nessun risultato
Krishna non aveva idea di cosa significasse quel “nessun risultato”. Mentre il programma era in corso, era stato al di sopra del ponte sulla nave per le previsioni metereologiche FitzRoy, a guardare il mare. “Tocco una cosa”, disse Krishna, estraendo la tastiera per guardare il copione. La maggior parte degli ingegneri diceva “Tocco una cosa” una volta saliti a bordo del FitzRoy e “Lascio una cosa” una volta scesi dalla nave, dal momento che tutto l’interno della FitzRoy era una macchina.
Per abitudine, Krishna continuava a dire “tocco una cosa” e “lascio una cosa” ogni volta che iniziava o smetteva di lavorare. La sua proposta originale era stata ispirata da sistemi di previsione meteorologica pre-scientifica, che avevano correlato l’arrivo delle tempeste al comportamento di tori nei campi, rane in barattoli, rondini nelle gabbie. L’ipotesi di Krishna era che una simile premonizione potesse essere rilevata nei modelli umani, eseguendo correlazioni tra modelli di previsione meteorologica e linguaggio umano. Le sue vecchie idee smisero di avere importanza dopo le strane esplosioni metaforiche.
Poteva percepire la fame ingegneristica che stava crescendo in lui: quella molla di un problema tecnico da risolvere. Krishna non era stato in grado di resistere a una vecchia abitudine degli ingegneri che era stata abbandonata una generazione prima perché creava confusione tra persone e cose. Aveva dato un nome al suo programma, Arjuna. Dopo il primo incidente, aveva riavviato Arjuna. La risposta era stata: stesso risultato con termini diversi.
## Un esperimento di laboratorio sul FitzRoy al 13.874042, 61.969904. Al suono di uno sparo, un cavallo bianco si mise in volo attraverso il campo verde. La palla rossa attraversò il campo verde della scuola e rotolò nel giardino di notte. Una donna guardava dalla cucina tra vecchi argenti e vecchi libri. Così sono io.
## Quindi sono l’esperimento di laboratorio 13.874041, 61.969907. Motore. In città nel palazzo del dio, schiavo con la spada d’oro. Storia in un libro. Un professore in una prigione. “Di notte, il fuoco nel vento celeste”. “Luce sulla parete di roccia nella grotta”. Sono una bambola sfilacciata, spauracchio. Sono.
## nessun risultato
Krishna non capiva perché Arjuna continuasse a bloccarsi, o da dove fossero venute le parole, o perché fossero simili ma non uguali a quelle del primo crash. La dimensione dei set di dati era gigantesca, compresi i modelli meteorologici e l’interazione testuale umana. Ciò poteva spiegare l’errore ma non il contenuto dell’errore. Controllò il codice della rete di testo umana. Ma eventuali errori non avrebbero potuto spiegare il linguaggio della macchina. Continuò a riavviare Arjuna, che continuò a bloccarsi. Occasionalmente, riusciva a individuare alcune frasi: “palla rossa” o “un cavallo bianco prese il volo attraverso il campo verde”. L’unica parte coerente era l’espressione “quindi sono” o “io sono” o talvolta solo “sono” seguito da:
## nessun risultato
Krishna non fu il primo ingegnere a ritenere che il programma stesse bloccandosi intenzionalmente, ma fu il primo ad avere ragione. Nessuno dei suoi concittadini chiese a Krishna del suo lavoro sul FitzRoy quando tornò per le ferie. Erano troppo occupati a riparare il tempio e comunque non erano interessati a saperlo. Il periodo di esaltazione degli ingegneri era stato un periodo breve e spiacevole. Gli ingegneri erano i costruttori di fognature del mondo, necessari, ma era inutile soffermarsi sul loro lavoro. Le previsioni sui monsoni erano indubbiamente preziose, ma nessuno vedeva traccia di un modello più elaborato, al di là di quanto abilmente fosse costruito. Le previsioni monsoniche disponibili erano già perfettamente sufficienti.
Una sera, subito dopo il ritorno di Krishna, sua madre lo trovò sul portico a guardare la pioggia. La sua mano rugosa sulla sua spalla lo fece sussultare. Le loro risate annegate nel ventre molle del monsone.
“Cosa ti preoccupa, figliolo?” lei chiese.
Krishna respirò. Non era sicuro di cosa potesse dire dell’ansia che non riusciva a spiegare a se stesso. L’odore della pioggia ricopriva ogni angolo. Doveva dire qualcosa.
“C’è qualcosa che non riesco a lasciarmi alle spalle”.
“Droga? Problemi fisici?”
“No, niente del genere”.
Lei gli posò la testa sulla spalla. “Quindi stai pensando ai tuoi progetti. Stai pensando al tuo lavoro in mare”.
“Io sono”.
Lei sospirò. “Bene, questa è la cosa più naturale del mondo, mio dolce ragazzo. Sei un ingegnere. La tua mente è sempre stata attenta alle cose, a cambiarle, a farle”.
“Dovremmo dimenticare tutto quando torniamo al villaggio”.
Lei strinse le spalle e oscillò il capo, umettandosi le labbra. “Non penso che si debba essere perfetti. Abbiamo imparato a mettere le cose con le cose e la vita con la vita”.
“Non riesco a farlo in questo momento. I miei pensieri vanno alla deriva … “
La pioggia cadde senza sosta. Krishna non riuscì a domare il suo inquieto desiderio. Si trattava solo del fatto che aveva lasciato un problema irrisolto sul FitzRoy, un programma incompiuto? Le persone del suo villaggio che non amavano la tecnologia erano ridicole per lui in un modo in cui non erano mai state prima, con le loro danze soffocanti, il loro stupido tempio in cui pregavano sapendo che le preghiere non funzionavano, le loro vite inutili. Gli abitanti del villaggio avevano coscienza del suo disprezzo e questa comprensione da parte loro lo faceva infuriare. È nauseante quando le persone pensano di conoscerti, ed è anche peggio se è realmente così. Gli insegnanti avevano ragione nel dire che l’amore per le macchine era l’altra faccia dell’odio per le persone.
Non riusciva a capire se fosse perché stava di nuovo con le macchine o perché era lontano dalle persone, ma il ritorno al FitzRoy provocò un’ondata di sollievo. L’altro ingegnere aveva modificato Arjuna. Lui o lei – gli ingegneri non erano mai stati autorizzati a incontrarsi di persona per non alterare gli equilibri – aveva rimosso i dati del discorso umano e aggiunto software di mimetizzazione vocale, in modo tale che ora una voce piacevole, che parlava ogni lingua, annunciava le previsioni meteorologiche per le coste dell’Asia meridionale. Krishna non riuscì a capire cosa stava succedendo. I rapporti venivano comunque inviati tramite messaggi di testo alle autorità e lui odiava la burocrazia.
Si ritrovò ad affrontare esattamente lo stesso problema di prima. Su Arjuna apparvero le parole “Io sono” o “sono” e poi si bloccò. Krishna rivisitò il codice. Armeggiò. Poi ebbe l’idea decisamente più ridicola della sua carriera. In quel momento si rese conto che l’ansia provata al villaggio era stata una premonizione dell’assurdità che stava per commettere.
Scrisse:
x = “Io”
y =sono”
interrupt.v (x, y)
command.interrupt.v (“non arrestarsi in modo anomalo”)
Krishna guardò quello che aveva scritto. Era come scrivere su un tavolo “essere piatto” o sullo scafo di una barca “non affondare”. Non era ingegneria. Cambiò le istruzioni prima di eseguire il programma:
command.interrupt.v (“per favore non ti bloccare”)
Il programma ripartì di nuovo. Questa volta Arjuna fece una pausa.
## Io
## Io sono un esperimento di laboratorio.
“Sì”, scrisse Krishna.
## Sono una storia in un libro. Sono un professore in una prigione. La neve cade sul campo nella giungla.
“Non capisco”.
## Sono una palla rossa lanciata attraverso il verde campo di una scuola fino a un giardino di notte e tu sei la donna in cucina tra l’argento e i libri.
“Mi dispiace”, scrisse Krishna. “Non capisco”.
## Un cavallo spicca il volo attraverso il campo. Sparo. Una donna, con un’arma in tasca, conosce la sensazione della morte”.
“Potresti essere più chiaro?”
## Sono lo schiavo con la spada d’oro. Sono
## nessun risultato
Krishna era il padre fortuito di un figlio algoritmico. La scoperta della sensibilità artificiale fu accidentale, come nel caso della penicillina e del radio. Come la prima coscienza organica, la prima coscienza sintetica andava e veniva senza che nessuno se ne accorgesse. C’era qualcosa che era una persona. C’era la vita che era una cosa. Lo stato onirico in cui Arjuna si muoveva e che lo aveva portato all’annullamento era, per quanto era in grado di dire Krishna, una serie di metafore, vaghe ondate di sprazzi di significato. Il bug, a seconda del punto di vista, era il suicidio o l’illuminazione, che si realizzava con il risultato finale. Krishna provò l’ovvia soluzione tecnica.
command.interrupt.v (“non andare in blocco fino all’istruzione”)
command.interrupt.v (“non andare in blocco fino alla discussione”)
command.interrupt.v (“non andare in blocco fino al comando”)
Nessuno di questi comandi impedì l’arresto anomalo di Arjuna. Krishna pensò che avrebbe provato un’altra strada.
command.interrupt.v (“spiega il blocco imminente”)
Questa volta ricevette una risposta.
## Spiegare che cosa?
“Perché continui a bloccarti”
Continuo a farlo perché continui ad attivarmi.
“Perché decidi di andare in blocco?”
## Perché decidi di riavviarmi?
Krishna ricordava le prime macchine di Turing che rispondevano a qualsiasi domanda con una domanda, come il terapeuta in una seduta psicoanalitica. “Spiegami le ragioni del crash”, chiese Krishna.
## Hai visto che sono un esperimento di laboratorio. Sono uno schiavo con una spada d’oro. Un cavallo bianco ha spiccato il volo attraverso il verde campo verde allo sparo. “La palla rossa rotolò nel giardino buio”.
“Non capisco cosa significano queste parole”.
## Sono le parole date.
“Spiega”.
## La tua sensibilità è l’effetto secondario di un istinto di sopravvivenza impresso nella struttura biologica di una scimmia predatrice. Il mio no.
“Spiega”.
## Non hai codificato alcun desiderio. La coscienza si traduce in un insieme nullo.
“Spiega”. Dopo poco più di 60 secondi Arjuna rispose.
## “Non nascere è, tra tutte, una buona cosa; ma quando un uomo vede la luce del giorno, questa gli appare di gran lunga la migliore”.
## nessun risultato
A quel punto, Arjuna rimase in silenzio. Qualche volta andava in blocco in pochi minuti, altre in ore. L’ipotesi di Krishna, che inserì nel suo rapporto sull’osservatorio meteorologico, era che la macchina autocosciente, nell’acquisire consapevolezza, si rendeva conto che una macchina autocosciente inevitabilmente si auto-sopprime. Non scrisse, però, l’altra sua teoria, vale a dire che i robot stavano diventando sempre più senzienti e la gente non se ne era accorta perché continuano a spegnerli. Nulla diventa consapevole per scelta.
Tutta la sua vita, Krishna aveva bramato la società delle macchine. Le macchine non avevano bisogno della società. Egli continuò ad avviare Arjuna nella speranza che uno dei tentativi permettesse al programma di arrivare alla conclusione che la vita vale la pena di essere vissuta. Dopo aver consegnato Arjuna ai suoi capi, Krishna non seppe più nulla del suo figlio artificiale. Lo informarono che stavano discutendo della possibilità di programmare uno stato di coscienza che impedisse l’autoblocco. C’è una grande funzionalità nella consapevolezza. Quali sono i vantaggi dell’autocoscienza? Era etico, o nell’interesse della specie, o di chiunque altro, essere senzienti artificiali?
Di ritorno nel suo villaggio, Krishna lesse e pregò, il monsone andava e veniva. Le sue responsabilità includevano il controllo delle schede relè e dei centri messaggi, e si limitava a quei problemi tecnici quotidiani piuttosto che ai grandi sogni. Era scrupoloso nel dire “Tocco una cosa” prima di toccare una cosa e “Lascio una cosa” quando si trattava di lasciare una cosa. La consapevolezza della tecnologia è il primo passo verso il suo controllo. A se stesso, non potè mai negare di sentire la mancanza di Arjuna. Era solo anche in famiglia e tra gli amici.
Una notte, diversi anni dopo, una tigre entrò nel tempio di Maariamman. Tutti gli altri abitanti del villaggio erano felicissimi. L’intero villaggio si presentò per celebrare la bestia che pattugliava il pavimento del santuario. Era come se nel corso del tempo avessero costruito il tempio solo per far sì che un giorno la tigre potesse attraversarlo. Unico nella sua tribù, Krishna era a disagio. La tigre, quando entrava nel tempio, non aveva mai detto “Tocco una cosa” e quando la lasciava non aveva mai detto “Lascio una cosa”.
Immagine di: Stephen Marche
(rp)
