Esistono veramente robot in grado di individuare e colpire bersagli nemici senza alcuna necessità di controllo da parte di esseri umani.
di Luca Longo
Sarà presto in produzione ED-209: il nuovo robot realizzato dalla multinazionale Omni Consumer Products. Richard Dick Jones, vicepresidente e manager della divisione Sicurezza della OCP, ha recentemente presentato il primo prototipo destinato alla Polizia di Detroit. Si tratta del robot d’assalto bipede Enforcement Droid Series, 209 dotato di tre cannoncini automatici e di un lanciarazzi che, però, ancora pare soffrire di qualche problema nella programmazione – almeno secondo la finzione cinematografica diretta da Paul Verhoeven nel film Robocop del 1987.
Ma oggi esistono veramente robot in grado di individuare e colpire bersagli nemici senza alcuna necessità di controllo da parte di esseri umani. Il Dipartimento della Difesa USA, nella Direttiva “3000.09 – ‘Autonomy in Weapons Systems’” ha creato la categoria delle “armi autonome”: sistemi d’arma che sono capaci di “selezionare e attaccare gli obiettivi senza ulteriori interventi da parte di operatori umani.”
La sentinella robotica SGR-A1, nata da una collaborazione fra l’Università di Seoul e la Samsung, viene già dispiegata dalla Corea del Sud per sorvegliare la zona demilitarizzata al confine con l’irrequieta Corea del Nord.
L’SGR-A1 è dotato di un sofisticato sistema di Intelligenza artificiale che gli permette di interpretare i segnali dai propri sensori ottici, infrarossi, laser e radar, elaborarli, prendere decisioni “intelligenti” e mettere fisicamente in atto la risposta programmata.
Se attivata in configurazione automatica, l’arma autonoma della Samsung individua gli esseri umani fino a 3 km di distanza all’interno della zona demilitarizzata e decide autonomamente se distruggerli o meno. Nessuno è autorizzato ad entrare nella fascia demilitarizzata, perciò il riconoscimento di un bersaglio si riduce alla capacità di individuare oggetti in movimento e di comprendere se questi sono esseri umani oppure animali o vegetazione mossa dal vento.
Ma i sensori e gli algoritmi percettivi di cui è dotato il robot armato non sanno risolvere problemi decisivi. Ad esempio: Come potrebbero distinguere tra una pattuglia armata che tenta un blitz dietro le linee sudcoreane e famiglie di dissidenti nordcoreani che fuggono dal regime?
Inoltre, gli SGR-A1 non sono in grado di conformare il proprio comportamento alle Convenzioni di Ginevra, distinguendo fra un nemico ostile e un soldato ferito e innocuo oppure che si è arreso.
Questo non è il solo sistema d’arma autonomo in circolazione. Un altro esempio è rappresentato dai sistemi antimissile già installati sulle nuove navi della Marina Militare degli Stati Uniti: Sono da tempo in grado di individuare e colpire un oggetto volante in arrivo senza alcun intervento umano. L’esigenza di rendere la reazione automatica è dovuta alla necessità di abbattere i missili in arrivo nei pochi secondi utili che passano tra la prima rilevazione e il loro impatto. Ma l’intelligenza artificiale di cui sono dotati non permette loro di distinguere fra un aereo ostile e un aereo con difficoltà radio che impediscono di trasmettere il segnale codificato di riconoscimento..
La comunità scientifica internazionale ha avviato una campagna per una moratoria sulle armi autonome mirata a imporre una sospensione di qualsiasi attività finalizzata al loro sviluppo, al loro dispiegamento sul campo almeno fino a quando le stesse non saranno in grado di esercitare una efficace valutazione della situazione in cui si trovano e di rispettare i protocolli delle convenzioni connesse al diritto bellico.
Ma il dibattito internazionale si è presto spostato su iniziative più radicali. Dopo la campagna Stop Killer Robots del 2012, nel luglio del 2015 è stata pubblicata una lettera aperta per richiedere la messa al bando totale e preventiva delle armi autonome. Negli ultimi mesi è stata sottoscritta da più di 20.000 firmatari, tra i quali figurano 3.000 ricercatori nei settori dell’intelligenza artificiale e della robotica.
È vero che, nel breve periodo, la sostituzione dei soldati con dei robot sul campo di battaglia potrebbe diminuire il numero dei morti e superare le limitazioni percettive, cognitive ed emotive dei comuni soldati. Ma gli aspetti negativi sopravanzano abbondantemente i presunti vantaggi.
Regimi repressivi e gruppi terroristici ben organizzati potrebbero impadronirsi o dotarsi di armi come queste sul mercato illegale per lanciarle in operazioni non ufficiali o in attacchi terroristici. Questi robot dovranno essere integrati con meccanismi di autodistruzione e con componenti non riconducibili ai mandanti. Così, in caso di cattura, non sarà facile indurli a “parlare”…
Questa evoluzione da Robocop a Terminator (il film di James Cameron del 1984) non è limitata alla fantascienza: da anni diversi eserciti impiegano sistematicamente droni telecomandati armati. Ma l’intelligenza artificiale necessaria per renderli autonomi è dietro l’angolo se non già disponibile, almeno per compiti specifici.