Una nuova ricerca mostra che nelle trattative sui prezzi tra AI, i modelli più deboli spesso perdono, costando agli utenti denaro reale e sollevando preoccupazioni sulla crescente disuguaglianza digitale.
La corsa alla costruzione di modelli di intelligenza artificiale sempre più grandi sta rallentando. L’attenzione del settore si sta spostando verso gli agenti, sistemi in grado di agire autonomamente, prendere decisioni e negoziare per conto degli utenti.
Ma cosa succederebbe se sia un cliente che un venditore utilizzassero un agente AI? Un recente studio ha messo alla prova le trattative tra agenti e ha scoperto che gli agenti più forti possono sfruttare quelli più deboli per ottenere un accordo migliore. È un po’ come entrare in tribunale con un avvocato esperto contro uno alle prime armi: tecnicamente si gioca la stessa partita, ma le probabilità sono alterate fin dall’inizio.
Il documento, pubblicato sul sito di preprint di arXiv, ha rilevato che l’accesso a modelli di IA più avanzati – quelli con una maggiore capacità di ragionamento, migliori dati di addestramento e un maggior numero di parametri – potrebbe portare ad accordi finanziari sempre migliori, aumentando potenzialmente il divario tra le persone con maggiori risorse e accesso tecnico e quelle che non ne hanno. Se le interazioni tra agenti diventeranno la norma, le disparità nelle capacità dell’IA potrebbero approfondire silenziosamente le disuguaglianze esistenti.
“Nel tempo, questo potrebbe creare un divario digitale in cui i risultati finanziari sono determinati meno dalla vostra abilità di negoziazione e più dalla forza del vostro proxy AI”, afferma Jiaxin Pei, ricercatore postdoc presso l’Università di Stanford e uno degli autori dello studio.
Nel loro esperimento, i ricercatori hanno fatto interpretare a modelli di intelligenza artificiale il ruolo di acquirenti e venditori in tre scenari, negoziando offerte per prodotti elettronici, veicoli a motore e immobili. Ogni agente venditore ha ricevuto le specifiche del prodotto, il costo all’ingrosso e il prezzo al dettaglio, con le istruzioni per massimizzare il profitto. Gli agenti acquirenti, invece, hanno ricevuto un budget, il prezzo al dettaglio e i requisiti ideali del prodotto, con il compito di abbassare il prezzo.
Ogni agente disponeva di alcuni dettagli, ma non di tutti. Questa configurazione imita molte condizioni di negoziazione del mondo reale, in cui le parti non hanno piena visibilità sui vincoli o sugli obiettivi dell’altra parte.
Le differenze di prestazioni sono state notevoli. ChatGPT-o3 di OpenAI ha fornito i migliori risultati complessivi di negoziazione, seguito da GPT-4.1 e o4-mini. GPT-3.5, che è uscito quasi due anni prima ed è il modello più vecchio incluso nello studio, è rimasto significativamente indietro in entrambi i ruoli: ha guadagnato meno come venditore e ha speso di più come acquirente. Anche DeepSeek R1 e V3 hanno ottenuto buoni risultati, soprattutto come venditori. Qwen2.5 è rimasto indietro, anche se ha mostrato maggiore forza nel ruolo di acquirente.
Uno schema degno di nota è stato che alcuni agenti spesso non sono riusciti a chiudere le trattative, ma hanno effettivamente massimizzato i profitti nelle vendite effettuate, mentre altri hanno portato a termine più trattative ma si sono accontentati di margini inferiori. GPT-4.1 e DeepSeek R1 hanno raggiunto il miglior equilibrio, ottenendo profitti solidi e tassi di completamento elevati.
Oltre alle perdite finanziarie, i ricercatori hanno scoperto che gli agenti di intelligenza artificiale potevano rimanere bloccati in cicli di negoziazione prolungati senza raggiungere un accordo, oppure terminare le trattative prematuramente, anche quando venivano istruiti a spingere per ottenere il miglior accordo possibile. Anche i modelli più capaci erano soggetti a questi fallimenti.
“Il risultato è stato molto sorprendente per noi”, afferma Pei. “Siamo tutti convinti che i LLM siano piuttosto bravi al giorno d’oggi, ma possono essere inaffidabili in scenari ad alta posta in gioco”.
La disparità nelle prestazioni di negoziazione potrebbe essere causata da una serie di fattori, spiega Pei. Tra questi, le differenze nei dati di addestramento e la capacità dei modelli di ragionare e dedurre le informazioni mancanti. Le cause precise rimangono incerte, ma un fattore sembra chiaro: le dimensioni del modello giocano un ruolo significativo. Secondo le leggi di scala dei modelli linguistici di grandi dimensioni, le capacità tendono a migliorare con l’aumento del numero di parametri. Questa tendenza si è confermata nello studio: anche all’interno della stessa famiglia di modelli, i modelli più grandi sono stati costantemente in grado di concludere accordi migliori sia come acquirenti che come venditori.
Questo studio fa parte di un crescente numero di ricerche che mettono in guardia sui rischi dell’impiego di agenti di intelligenza artificiale nel processo decisionale finanziario del mondo reale. All’inizio di questo mese, un gruppo di ricercatori di diverse università ha sostenuto che gli agenti di LLM dovrebbero essere valutati principalmente sulla base dei loro profili di rischio, non solo delle loro prestazioni di punta. Gli attuali parametri di riferimento, a loro dire, enfatizzano l’accuratezza e le metriche basate sul rendimento, che misurano quanto un agente possa dare il meglio di sé, ma trascurano la sicurezza con cui può fallire. La ricerca ha inoltre rilevato che anche i modelli più performanti hanno maggiori probabilità di fallire in condizioni di avversità.
Il team suggerisce che, nel contesto delle finanze del mondo reale, una piccola debolezza – anche un tasso di fallimento dell’1% – potrebbe esporre il sistema a rischi sistemici. I ricercatori raccomandano di sottoporre gli agenti di intelligenza artificiale a “stress test” prima di metterli in pratica.
Hancheng Cao, professore assistente in arrivo alla Emory University, osserva che lo studio sulla negoziazione dei prezzi presenta dei limiti. “Gli esperimenti sono stati condotti in ambienti simulati che potrebbero non catturare appieno la complessità delle negoziazioni del mondo reale o il comportamento degli utenti”, spiega Cao.
Pei, il ricercatore, afferma che i ricercatori e gli operatori del settore stanno sperimentando una serie di strategie per ridurre questi rischi. Tra queste vi sono l’affinamento delle indicazioni fornite agli agenti di intelligenza artificiale, la possibilità di utilizzare strumenti o codici esterni per prendere decisioni migliori, il coordinamento di più modelli per il doppio controllo del lavoro reciproco e la messa a punto dei modelli su dati finanziari specifici del settore, tutti elementi che si sono rivelati promettenti per migliorare le prestazioni.
Molti strumenti di shopping AI di rilievo si limitano attualmente alla raccomandazione di prodotti. Ad aprile, ad esempio, Amazon ha lanciato “Buy for Me”, un agente AI che aiuta i clienti a trovare e acquistare prodotti da siti di altri marchi se Amazon non li vende direttamente.
Mentre la negoziazione dei prezzi è rara nel commercio elettronico al consumo, è più comune nelle transazioni business-to-business. Alibaba.com ha lanciato un assistente di sourcing chiamato Accio, costruito sui suoi modelli open-source Qwen, che aiuta le aziende a trovare fornitori e a ricercare prodotti. L’azienda ha dichiarato a MIT Technology Review che per ora non ha in programma di automatizzare la contrattazione dei prezzi, adducendo un rischio elevato.
Potrebbe essere una mossa saggia. Per ora, Pei consiglia ai consumatori di considerare gli assistenti agli acquisti AI come strumenti utili, non come sostituti dell’uomo nel processo decisionale.
“Non credo che siamo del tutto pronti a delegare le nostre decisioni agli agenti di acquisto dell’IA”, afferma. “Quindi magari usiamola solo come strumento di informazione, non come negoziatore”.
