La linea del fronte si sta trasformando in un luogo dove addestrare modelli di intelligenza artificiale e, al momento, è di fatto una zona priva di regolamentazione.
I campi di battaglia in Ucraina sono disseminati dai resti dei droni, ormai consolidatisi come arma fondamentale della guerra moderna. Ma dietro a tutte quelle macerie si nasconde una nuova miniera d’oro per il settore della difesa. I dati generati dai droni sopravviveranno di gran lunga alle guerre in cui vengono impiegati, diventando sempre più parte integrante dell’architettura dell’intelligenza artificiale che plasma anche la vita civile.
Ad ogni volo, i sistemi senza pilota raccolgono migliaia di dati, dalle immagini e dai video ai comandi impartiti dal controllore. Nel loro insieme, questi dati mostrano come una macchina e una persona abbiano reagito a circostanze in costante mutamento.
L’Ucraina ha ora iniziato a trasformare quell’esperienza in una risorsa. Il suo Ministero della Difesa ha annunciato a gennaio che avrebbe messo a disposizione sia degli appaltatori militari che delle aziende commerciali milioni di dati raccolti durante decine di migliaia di voli di droni, e da allora più di 100 aziende e il governo del Regno Unito ne hanno ottenuto l’accesso.
Per un paese in guerra, si tratta di un modo rapido per attrarre finanziamenti e partnership. Ma questa mossa trasforma la linea del fronte in un sito attivo di addestramento dei modelli, sfruttando il fatto che il caos della guerra crea condizioni che le aziende di intelligenza artificiale faticano a riprodurre da sole.
È probabile che altri paesi e teatri di guerra seguano l’esempio dell’Ucraina, ma la responsabilità di regolamentare questo nuovo settore non può ricadere esclusivamente su un paese che lotta per la propria sopravvivenza. Questo vuoto giuridico deve essere colmato congiuntamente dai paesi e dalle aziende coinvolti nello sviluppo di questo settore.
Crescita esplosiva
I campi di battaglia ucraini non sono i primi a produrre dati utilizzati per addestrare e sviluppare modelli: i droni americani in Siria e nello Yemen hanno raccolto dati che hanno ispirato la prima generazione di hardware militare semiautonomo alla fine degli anni 2010.
La differenza ora è che l’accesso a tali dati viene utilizzato per sviluppare un ecosistema più ampio. E il valore finanziario per le aziende del settore della difesa è immenso: i dati provenienti dai campi di battaglia offrono grandi volumi di esperienza dei sistemi raccolti in condizioni che nessun laboratorio è in grado di riprodurre.
Questo perché i dati più preziosi per l’addestramento dei modelli di IA provengono dalle eccezioni: il momento in cui la visibilità scompare, un segnale viene disturbato o un operatore umano improvvisa. Le aziende specializzate in IA dedicano anni e somme ingenti nel tentativo di catturare un numero sufficiente di questi momenti per rendere i propri modelli più robusti. Ma la guerra li produce con una frequenza che i test controllati non possono eguagliare.
È proprio questo terreno in costante mutamento a rendere i dati dei droni preziosi ben oltre il campo di battaglia. Un drone commerciale utilizzato per le consegne o il telerilevamento potrebbe non incontrare mai il fuoco dell’artiglieria, ma deve comunque operare con informazioni incomplete in un mondo in cui le persone si comportano in modo imprevedibile. Lo stesso problema viene condensato dalla guerra in un arco di tempo molto più breve.
Una volta elaborati e incrociati con le registrazioni delle azioni dell’operatore, questi dati trasformano i registri operativi in set di addestramento. Il combattimento diventa una risorsa commerciale.
Molti conflitti hanno già visto verificarsi questo ciclo di addestramento, poiché le riprese dei droni alimentano le successive generazioni di tecnologia militare, e il mercato è destinato a crescere. Enabled Intelligence, un’azienda americana specializzata nell’elaborazione di dati per renderli utilizzabili nell’addestramento dell’IA, afferma di aver già reso disponibili oltre mezzo milione di ore di riprese effettuate da droni ucraini per alimentare la prossima generazione di modelli, pubblicizzandone i possibili utilizzi sia nei sistemi militari che in quelli commerciali.
Chiudere il ciclo dei dati
Molti dei droni che oggi caratterizzano la nostra era moderna della guerra hanno avuto origine come tecnologia civile. Ma recentemente hanno ricevuto una spinta dai nuovi sistemi di IA disponibili in commercio, che consentono a macchine economiche di operare in modo autonomo — sia singolarmente che in stormo — al mutare dell’ambiente circostante. Ogni volo crea quindi una registrazione di ciò che il sistema ha incontrato.
I dati che ne derivano sono fondamentali. Gli ambienti di laboratorio controllati, solitamente sviluppati per addestrare questi sistemi autonomi, possono simulare i malfunzionamenti ma non sono paragonabili alle condizioni reali di un campo di battaglia con rischi molto concreti. I programmi di intelligence militare hanno conservato per quasi un decennio i dati generati da sistemi dotati di numerosi sensori, come i droni Predator e Reaper, attraverso iniziative come il Progetto Maven, ma l’accesso è rimasto interamente circoscritto al mondo della difesa. I dati generati erano disponibili solo attraverso canali riservati e classificati, al solo scopo di sviluppare nuovi sistemi d’arma che sarebbero poi tornati a beneficio dello stesso esercito che li aveva prodotti in primo luogo. Quell’esperienza viene ora condivisa con una rete di sviluppo molto più ampia.
Il cerchio ora si chiude. Le tecnologie commerciali adattate al campo di battaglia stanno generando dati che possono rifluire nei settori da cui provengono, diventando parte dell’infrastruttura di dati su cui fanno affidamento sia i governi che il settore privato.
I droni addestrati nello spazio aereo ucraino, soggetto a interferenze di segnale, vengono ora impiegati nel settore agricolo per aiutare gli agricoltori a mappare e rilevare i propri campi in luoghi privi del segnale cellulare necessario alle tecnologie delle generazioni precedenti.
È probabile che altri paesi seguano l’esempio dell’Ucraina nella vendita dei propri dati provenienti dal campo di battaglia, e non siamo pronti per il nuovo mercato che ne deriverà.
Soggetti malintenzionati potrebbero acquisire i dati, ma i controlli sugli acquisti mitigano già tale rischio. Gli agenti dei servizi di intelligence esaminano attentamente l’infrastruttura dei potenziali clienti per individuare eventuali vie attraverso cui i dati potrebbero raggiungere nemici o soggetti malintenzionati.
I dati di addestramento creano però un nuovo problema di tracciabilità. Mentre il movimento dei set di dati commerciali può essere seguito quando i dettagli di contatto inseriti artificialmente compaiono a due passaggi dall’acquirente originale, la provenienza dei dati di addestramento dell’IA svanisce in un modo insito nella tecnologia stessa. Un altro rischio è che questo uso dei dati crei un’economia estrattiva in cui i paesi più ricchi, lontani dal pericolo, traggano beneficio dalla minaccia mortale che grava sugli Stati in prima linea, creando potenzialmente un incentivo di mercato affinché la guerra continui come una miniera inesauribile di oro digitale.
Una nuova frontiera irta di pericoli
Le leggi esistenti regolano il modo in cui le forze armate possono condurre la guerra. Ma non dicono quasi nulla su ciò che accade quando i documenti creati in combattimento vengono privati del loro contesto operativo, confezionati come dati e concessi in licenza ad aziende i cui prodotti circolano ben oltre il luogo in cui sono stati creati.
Le responsabilità delle aziende che progettano questi sistemi rimangono irrisolte. L’Ucraina sta mettendo a punto controlli di accesso, menzionati nel recente accordo sull’intelligenza artificiale siglato tra Regno Unito e Ucraina, ma nessun governo sta lavorando attivamente per regolamentare ciò che accade quando i dati vengono assorbiti in un modello e tornano a circolare nei mercati civili.
Quei dati contengono vite umane. I soldati e i civili che vi compaiono non hanno acconsentito a diventare materiale di addestramento per prodotti che potrebbero essere venduti anni dopo. Ma i dati dei sensori, le riprese delle telecamere e le coordinate dei civili in fuga da un attacco con droni costituiscono ora il tipo di dati che determinano il modo in cui le macchine del futuro prenderanno le decisioni.
Si tratta di un problema di consenso. Gli individui presenti nei dati – che siano bersagli, operatori o civili presenti sul posto – diventano parte del materiale di addestramento. Le capacità autonome basate su tali dati non si fermano ai confini del campo di battaglia. Tali capacità si trasferiscono in altri sistemi militari o commerciali, come i veicoli per le consegne o i macchinari agricoli. Gli errori e le ipotesi insiti nei dati viaggiano insieme al modello anche una volta che questo entra nella vita civile.
I dati provenienti dal campo di battaglia non dovrebbero essere trattati come normale materiale commerciale. Tuttavia, attualmente non esiste alcuna agenzia o autorità di regolamentazione che abbia giurisdizione su questa questione. Nel frattempo, i governi che concedono l’accesso ai dati della difesa dovrebbero trattarli come farebbero con un trasferimento controllato di armi, registrandone l’origine, rilasciando licenze ai loro utenti e limitandone l’ulteriore condivisione. L’Ucraina ha iniziato ad affrontare la questione. Il suo programma Avengers Labs consente alle aziende di addestrare modelli sui dati provenienti dal campo di battaglia senza concedere loro l’accesso diretto a banche dati sensibili. Tuttavia, ciò mitiga solo una parte del problema.
I governi dovrebbero imporre l’obbligo di divulgazione quando i modelli addestrati su materiale bellico vengono successivamente incorporati in prodotti civili. L’obiettivo di tale regolamentazione dovrebbe essere quello di rendere visibile il percorso dal campo di battaglia al commercio.
Ciò che queste aziende stanno realmente estraendo è l’esperienza. E i soldati non possono acconsentire a che la loro esperienza venga utilizzata in questo modo — come dati di addestramento che producono un vantaggio per i modelli e, in ultima analisi, supportano un prodotto utilizzato lontano dal luogo in cui si è combattuta la guerra.
La questione non è più solo cosa le aziende tecnologiche possano vendere per l’uso in guerra. È cosa possano ricavarne.
Per proteggerci dagli eccessi di questo nuovo settore, abbiamo bisogno di un sistema normativo che segua i dati del campo di battaglia ovunque vadano, dal combattimento al modello fino al prodotto commerciale.
Cory Alpert è ricercatore presso l’Università di Melbourne, dove studia l’impatto dell’intelligenza artificiale sulla democrazia. In precedenza ha prestato servizio alla Casa Bianca sotto l’amministrazione Biden.
