Tre domande aperte sulla spinta del Pentagono verso l’IA generativa.
La scorsa settimana ho parlato con due marine statunitensi che hanno trascorso gran parte dello scorso anno nel Pacifico, conducendo esercitazioni dalla Corea del Sud alle Filippine. Entrambi erano responsabili dell’analisi della sorveglianza per avvertire i loro superiori di possibili minacce all’unità. Ma questa missione è stata unica: per la prima volta, hanno utilizzato l’intelligenza artificiale generativa per analizzare le informazioni, attraverso un’interfaccia chatbot simile a ChatGPT.
Come ho scritto nel mio nuovo articolo, questo esperimento è l’ultima prova della spinta del Pentagono a utilizzare l’IA generativa – strumenti che possono impegnarsi in una conversazione simile a quella umana – in tutti i suoi ranghi, per compiti che includono la sorveglianza. Si tratta della fase due della spinta dell’esercito statunitense verso l’IA, mentre la fase uno è iniziata nel 2017 con tipi di IA più vecchi, come la visione computerizzata per analizzare le immagini dei droni. Anche se questa nuova fase è iniziata sotto l’amministrazione Biden, c’è una nuova urgenza, dato che il DOGE di Elon Musk e il Segretario alla Difesa Pete Hegseth spingono a gran voce per un’efficienza alimentata dall’IA.
Come scrivo anche nel mio articolo, questa spinta solleva l’allarme di alcuni esperti di sicurezza dell’IA, che si chiedono se i modelli linguistici di grandi dimensioni siano adatti ad analizzare pezzi sottili di intelligence in situazioni con un’alta posta in gioco geopolitica. Inoltre, accelera gli Stati Uniti verso un mondo in cui l’IA non si limita ad analizzare i dati militari, ma suggerisce azioni, ad esempio generando liste di obiettivi. I sostenitori dicono che questo promette una maggiore precisione e meno morti tra i civili, ma molti gruppi per i diritti umani sostengono il contrario.
Tenendo conto di ciò, ecco tre questioni aperte da tenere d’occhio nel momento in cui le forze armate statunitensi, e altre in tutto il mondo, porteranno l’IA generativa in più parti della cosiddetta “catena di morte“.
Quali sono i limiti di “human in the loop”?
Se parlate con tante aziende del settore della difesa come me, sentirete ripetere spesso una frase: “human in the loop”. Significa che l’IA è responsabile di determinati compiti e gli esseri umani sono presenti per controllare il suo lavoro. Si tratta di una salvaguardia contro gli scenari più disastrosi – ad esempio, l’IA che ordina erroneamente un attacco mortale – ma anche contro incidenti più banali. L’idea è implicita nell’ammissione che l’intelligenza artificiale commetterà degli errori e nella promessa che l’uomo li coglierà.
Ma la complessità dei sistemi di IA, che attingono a migliaia di dati, rende questo compito erculeo per gli esseri umani, afferma Heidy Khlaaf, che è capo scienziato dell’IA presso l’AI Now Institute, un’organizzazione di ricerca, e che in passato ha condotto verifiche di sicurezza per i sistemi alimentati dall’IA.
Il concetto di “uomo nel loop” non è sempre un’attenuazione significativa”, afferma l’esperta. Quando un modello di IA si basa su migliaia di dati per trarre conclusioni, “non sarebbe davvero possibile per un essere umano vagliare quella quantità di informazioni per determinare se il risultato dell’IA è errato”. Man mano che i sistemi di IA si basano su un numero sempre maggiore di dati, questo problema si aggrava.
L’intelligenza artificiale rende più facile o più difficile sapere cosa dovrebbe essere classificato?
Nell’era della Guerra Fredda, le informazioni dell’intelligence militare statunitense venivano acquisite con mezzi segreti, redatte in rapporti da esperti di Washington e poi contrassegnate con la dicitura “Top Secret”, con accesso limitato a chi aveva le autorizzazioni necessarie. L’era dei big data, e ora l’avvento dell’intelligenza artificiale generativa per analizzare tali dati, sta stravolgendo il vecchio paradigma in molti modi.
Un problema specifico è chiamato classificazione per compilazione. Immaginate che centinaia di documenti non classificati contengano tutti dettagli separati di un sistema militare. Chi riuscisse a metterli insieme potrebbe rivelare informazioni importanti che di per sé sarebbero classificate. Per anni è stato ragionevole supporre che nessun essere umano fosse in grado di unire i puntini, ma questo è esattamente il genere di cose in cui eccellono i grandi modelli linguistici.
Con la montagna di dati che cresce di giorno in giorno e l’IA che crea costantemente nuove analisi, “non credo che nessuno sia riuscito a trovare una risposta adeguata a quale debba essere la classificazione appropriata di tutti questi prodotti”, afferma Chris Mouton, ingegnere senior di RAND, che di recente ha testato quanto l’IA generativa sia adatta all’intelligence e all’analisi. La sottoclassificazione è un problema di sicurezza degli Stati Uniti, ma i legislatori hanno anche criticato il Pentagono per la sovraclassificazione delle informazioni.
Il gigante della difesa Palantir si sta posizionando per aiutare, offrendo i suoi strumenti di intelligenza artificiale per determinare se un dato debba essere classificato o meno. Sta anche lavorando con Microsoft su modelli di IA che si addestrino su dati classificati.
A che livello della catena decisionale deve arrivare l’IA?
Allargando un attimo lo sguardo, vale la pena notare che l’adozione dell’IA da parte dell’esercito statunitense ha seguito per molti versi i modelli dei consumatori. Nel 2017, quando le app sui nostri telefoni stavano diventando brave a riconoscere i nostri amici nelle foto, il Pentagono ha lanciato un proprio sforzo di computer vision, chiamato Project Maven, per analizzare i filmati dei droni e identificare gli obiettivi.
Ora che grandi modelli linguistici entrano nella nostra vita lavorativa e personale attraverso interfacce come ChatGPT, il Pentagono sta utilizzando alcuni di questi modelli per analizzare la sorveglianza.
Qual è il prossimo passo? Per i consumatori, l’IA agenziale, ovvero modelli in grado non solo di conversare con voi e analizzare le informazioni, ma anche di andare su Internet ed eseguire azioni per vostro conto. Si tratta anche di IA personalizzata, ovvero di modelli che imparano dai vostri dati privati per essere più utili.
Tutti i segnali indicano che anche i modelli di IA militare seguiranno questa traiettoria. Un rapporto pubblicato a marzo dal Centro per la sicurezza e le tecnologie emergenti di Georgetown ha riscontrato un’impennata nell’adozione dell’IA in ambito militare per assistere il processo decisionale. “I comandanti militari sono interessati al potenziale dell’IA per migliorare il processo decisionale, soprattutto a livello operativo di guerra”, hanno scritto gli autori.
In ottobre, l’amministrazione Biden ha pubblicato il suo memorandum sulla sicurezza nazionale dell’IA, che prevedeva alcune salvaguardie per questi scenari. Questo memorandum non è stato formalmente abrogato dall’amministrazione Trump, ma il Presidente Trump ha indicato che la corsa all’IA competitiva negli Stati Uniti ha bisogno di più innovazione e meno supervisione. In ogni caso, è chiaro che l’IA si sta rapidamente spostando verso l’alto, non solo per gestire il lavoro amministrativo, ma per assistere nelle decisioni più importanti e sensibili al tempo.
Seguirò da vicino queste tre domande. Se avete informazioni su come il Pentagono potrebbe gestire queste domande, contattatemi via Signal all’indirizzo jamesodonnell.22.
