Lo scontro tra Anthropic e Washington ha già sollevato nuove domande sulla sicurezza e la sovranità dell’IA, nonché sulla concorrenza cinese.
Per chi di voi si sta godendo l’estate all’insaputa dell’ultima disputa tra Anthropic e il governo statunitense, ecco un riassunto: ad aprile l’azienda ha dichiarato di aver sviluppato un modello di IA chiamato Mythos, talmente efficiente nell’elaborazione del codice da poter rappresentare una minaccia globale per la sicurezza informatica. Anthropic ha concesso l’accesso a un ristretto gruppo di esperti di sicurezza informatica affinché potessero rendersi conto di cosa si trovassero ad affrontare. Martedì 9 giugno ha poi rilasciato una versione modificata chiamata Fable, che secondo l’azienda era più sicura per il pubblico. Quel venerdì, il governo federale ha comunicato all’azienda che il modello rappresentava una minaccia per la sicurezza nazionale e ha imposto controlli sulle esportazioni della nuova versione. Poche ore dopo, Anthropic ha revocato l’accesso a entrambi i modelli.
Chi teme gli effetti catastrofici dell’IA — comunemente definiti “doomers” — sostiene da anni che questa tecnologia rappresenti una minaccia per l’umanità e ha pubblicato proposte su come il governo dovrebbe intervenire nel suo sviluppo. I “doomers” hanno appena ottenuto l’intervento del governo — non a causa di un’arma biologica o di un’IA fuori controllo, ma in risposta a un modello di IA che, in sostanza, è semplicemente molto bravo a programmare. E il risultato, finora, sembra più una reazione superficiale che un piano di sicurezza.
C’è molto da analizzare su ciò che è accaduto in quei pochi giorni che hanno portato a un’azione così drastica da parte del governo, ed è degno di nota il fatto che sia stato il CEO di Amazon, Andy Jassy, a comunicare ai funzionari governativi che Fable sarebbe stato pericoloso (Amazon ha investito in Anthropic e sta sviluppando i propri modelli di IA concorrenti). È anche possibile che si tratti di un divieto di breve durata da parte del governo, destinato a non superare il vaglio legale (non è chiaro, ad esempio, se l’offerta di accesso a Fable da parte di Anthropic possa davvero essere considerata come una sua “esportazione”).
Ma si stanno già verificando effetti a catena.
Per prima cosa, questo sta spingendo moltissime persone a non voler fare affidamento sulle aziende americane di IA. Il politico francese Bruno Retailleau l’ha descritto come un «campanello d’allarme» che dovrebbe motivare l’Europa a sviluppare maggiormente l’IA. Ma qualsiasi visione volta a trasformare Parigi nella Silicon Valley — propagandata da molti altri leader europei in seguito alla chiusura dei modelli di Anthropic — è complicata da un fattore importante: la Cina.
I modelli open source provenienti dalla Cina sono molto potenti e incredibilmente economici, e possono essere scaricati per essere eseguiti sui server di chiunque senza regole o misure di sicurezza. (Questo li rende attraenti per le aziende che non vogliono che l’accesso venga interrotto sulla base di una decisione della Casa Bianca — ma altrettanto attraenti per i criminali informatici, proprio quelli che Anthropic sperava di tenere a bada integrando misure di sicurezza nei propri modelli.)
È possibile che le aziende, comprese quelle negli Stati Uniti e in Europa, decidano che lavorare con i modelli cinesi sia semplicemente più facile, come suggerisce l’impennata delle azioni della startup cinese Zhipu. Proiettando questa tendenza nel futuro, è possibile che la prossima decisione drastica dell’ e del governo sia quella di affermare che le aziende statunitensi che utilizzano modelli provenienti dalla Cina rappresentino una minaccia per la sicurezza nazionale? Non lo escluderei.
In secondo luogo, è possibile che bloccare l’accesso ai modelli di Anthropic renda il Paese più vulnerabile agli attacchi alla sicurezza informatica, anziché meno. I principali esperti di sicurezza informatica lo hanno affermato in una lettera aperta al governo, scrivendo che l’accesso ai modelli di Anthropic aiutava i ricercatori a preparare le difese e che i modelli dell’azienda non sono più pericolosi di altri modelli di punta ampiamente disponibili. Questo è il rischio di applicare il concetto di non proliferazione al software: cercare di controllare e limitare i modelli di IA pericolosi alla stregua dell’uranio utilizzato per le armi nucleari.
Il terzo aspetto da tenere d’occhio è come reagiranno i legislatori statunitensi. Ricordiamo che, in seguito all’ultima controversia tra Anthropic e il governo su come il Pentagono potesse o non potesse utilizzare i suoi modelli, è stata presentata una serie di nuovi disegni di legge volti a definire i limiti dell’IA militare.
Al momento, i principali attori che determinano le modalità di utilizzo dell’IA sono le aziende e la Casa Bianca. Si è parlato molto di una maggiore regolamentazione federale dell’IA, e i sondaggi suggeriscono che la maggior parte degli americani la desideri. I legislatori stanno ancora valutando se stabilire regole sull’uso dei chatbot da parte dei minori e sono ben lontani da una risposta chiara sulla misura in cui il governo dovrebbe vagliare la sicurezza dei modelli di IA. Ma con ogni azione drastica da parte della Casa Bianca, la pressione per l’adozione di regolamenti aumenta.
Per dire una cosa ovvia, è difficile fare previsioni quando l’atteggiamento dell’amministrazione nei confronti dell’IA cambia come il vento. Quando il presidente Trump è entrato in carica, ha gettato alle ortiche il regolamento restrittivo su come rendere sicura l’IA e ha promesso di non intralciare le aziende tecnologiche. La Casa Bianca ha ora definito la startup di IA più preziosa un rischio per la sicurezza nazionale una volta in primavera e di nuovo in estate. Cosa porterà l’autunno?
