Attraverso una mod del videogame Civilizazion è possibile sperimentare gli effetti di una ribellione delle macchine.
di Jamie Condliffe
Un gruppo di ricercatori dell’Università di Cambridge ha creato una mod del videogioco Civilization che permette ai giocatori di allevare – e addomesticare – una superintelligenza in grado di superare gli esseri umani.
Il gioco: Shahar Avin, del Centre for the Study of Existential Risk, spiega come il gioco consente ai giocatori di sviluppare capacità di R&D in IA all’interno del loro mondo virtuale. In caso di successo, il risultato è una IA in grado di superare l’essere umano; allo stesso tempo, il rischio che questa IA si ribelli al suo creatore aumenta e i giocatori possono solo condurre ricerche di sicurezza per limitare questa probabilità e i suoi effetti.
Il traguardo: “Volevamo mettere alla prova la nostra comprensione dei concetti legati al rischio esistenziale di una superintelligenza artificiale introducendoli in un rigoglioso, seppur ridotto simulatore di mondo, testando nel contempo la reazione dei giocatori alle decisioni indipendenti di una IA”, spiega Avin.
Paure di accettazione: Il progetto è pensato anche per raggiungere una audience più ampia con tematiche serie. Avin è “consapevole” che il gioco potrebbe allargare i timori legati allo sviluppo di intelligenze artificiali; sostiene, però, che “i giocatori, oltre a vedere i rischi associati allo sviluppo di IA, possono scoprire la vasta gamma di strumenti a loro disposizione per mitigarli”.
(MO)
