Gli algoritmi di apprendimento automatico addestrati alla “normalità” stanno entrando in crisi di fronte alla diffusione del contagio e delle reazioni imprevedibili da parte delle persone.
di Will Douglas Heaven
Nella settimana dal 12 al 18 aprile, i primi dieci termini di ricerca su Amazon.com erano: carta igienica, maschera per il viso, disinfettante per le mani, asciugamani di carta, spray al lisolo, salviette al clorox, maschera, lisolo, maschere per la protezione dai germi e maschera n95. Le persone stavano facendo acquisti alla rinfusa. Le “Maschere per il viso, confezione da 50” è stato l’articolo più cercato online.
Quando si è diffuso il contagio, le persone hanno iniziato a comprare cose che non avevamo mai acquistato prima. Il cambiamento è stato improvviso: le prime dieci voci di vendita di Amazon – custodie per telefoni, caricabatterie, Lego – sono scomparse dalle classifiche in pochi giorni. Nozzle, una società di consulenza con sede a Londra specializzata in algoritmi pubblicitari per venditori Amazon, ha colto il rapido cambiamento in un semplice grafico. (Si veda figura 1)
Alla fine di febbraio ci è voluta meno di una settimana per riempire i primi 10 termini di ricerca Amazon in più paesi con prodotti correlati al covid-19. Si può monitorare la diffusione della pandemia seguendo la genesi degli acquisti: il picco è stato raggiunto in Italia, seguita da Spagna, Francia, Canada e Stati Uniti. Il Regno Unito e la Germania sono rimasti leggermente indietro.
“È una transizione incredibile nell’arco di cinque giorni”, afferma Rael Cline, CEO di Nozzle. Gli effetti a catena sono stati osservati attraverso le catene di approvvigionamento al dettaglio. Questa situazione ha influenzato anche l’intelligenza artificiale, causando problemi agli algoritmi che si nascondono dietro le quinte nella gestione di inventari, rilevamento delle frodi, marketing e altro ancora. I modelli di apprendimento automatico addestrati sul normale comportamento umano stanno ora scoprendo che la normalità è cambiata e, di conseguenza, alcuni entrano in profonda crisi.
La gravità della situazione non è uguale per tutti. Secondo Pactera Edge, una società globale di consulenza IA, “l’automazione è stata presa in contropiede”. Per altri, i sistemi automatizzati reggono ed è sufficiente intervenire con una correzione manuale quando necessario.
Ciò che è chiaro è che la pandemia ha rivelato quanto siano intrecciate le nostre vite con l’IA e che il coinvolgimento umano nei sistemi automatizzati rimane fondamentale.
I modelli di apprendimento automatico sono progettati per rispondere ai cambiamenti. Ma la maggior parte sono anche fragili; funzionano male quando i dati in entrata differiscono troppo dai dati su cui si è impostato l’addestramento.
È un errore supporre che si possa installare un sistema di intelligenza artificiale e lasciarlo a sè, dice Rajeev Sharma, vicepresidente per gli affari globali di Pactera Edge: “L’intelligenza artificiale è un motore vivente e ha bisogno di cure”. Sharma ha parlato con diverse aziende alle prese con forme di intelligenza artificiale “ribelli”.
Un’azienda che fornisce salse e condimenti ai rivenditori in India aveva bisogno di aiuto per correggere il suo sistema automatizzato di gestione dell’inventario perchè gli ordini all’ingrosso hanno mandato in tilt i suoi algoritmi predittivi. “Non è mai stato addestrato a sostenere un picco simile, quindi il sistema è saltato”, dice Sharma.
Un’altra azienda utilizza un’intelligenza artificiale per fornire raccomandazioni di investimento quotidiane basate sui risultati della ricerca. Ma con il barometro delle notizie che tende alla burrasca, i consigli di acquisti sono distorti, spiega Sharma. Anche una grande società di streaming che ha avuto un afflusso improvviso di abbonati affamati di contenuti haavuto problemi seri con i suoi algoritmi di raccomandazione, egli conclude.
Molti di queste difficoltà sono legate al fatto che le aziende acquistano sistemi di apprendimento automatico, ma mancano del know-how interno necessario per mantenerli. Riqualificare un modello può richieder, infatti, un intervento umano esperto.
L’attuale crisi ha anche dimostrato che le cose possono essere peggiori rispetto agli scenari peggiori previsti dai set di addestramento. Sharma pensa che all’IA dovrebbero essere proposti non solo i normali eventi, ma anche situazioni disastrose come la Grande Depressione degli anni 1930, il crollo del mercato azionario del Black Monday nel 1987 e la crisi finanziaria del 2007-2008.
“Una pandemia come questa è un fattore scatenante perfetto per costruire modelli di apprendimento automatico più avanzati”, egli afferma. Anche così, non si può essere preparati a tutto. In generale, se un sistema di apprendimento automatico non vede ciò che si aspetta di vedere, ci saranno problemi, sostiene David Excell, fondatore di Featurespace, una società di analisi del comportamento che utilizza l’IA per rilevare le frodi con carta di credito.
L’IA di Featurespace ha reagito relativamente bene. Le persone continuano ad acquistare prodotti su Amazon e ad abbonarsi a Netflix come prima, ma non acquistano articoli a prezzo elevato o cambiano radicalmente abitudini, che sono comportamenti che possono suscitare sospetti. Gli ingegneri dell’azienda hanno dovuto solo intervenire per adeguarsi a un aumento delle persone che acquistavano attrezzature da giardino e utensili elettrici, afferma Excell.
Il linguaggio sta cambiando
Phrasee, con sede a Londra, è un’altra azienda di intelligenza artificiale che utilizza l’elaborazione in linguaggio naturale e l’apprendimento automatico per il marketing via e-mail o annunci su Facebook per conto dei suoi clienti. La scelta delle parole giuste fa parte integrante del suo lavoro. La sua IA funziona selezionando con una rete neurale le frasi migliori tra quelle possibili.
Ma per evitare problemi, Phrasee ha sempre operatori umani che controllano i prodotti della sua IA. Con la pandemia, Phrasee ha capito che era necessaria una maggiore sensibilità del solito e ha iniziato a filtrare con più attenzione il linguaggio. L’azienda ha vietato espressioni come “abbigliamento da festa” o termini che potevano alimentare l’ansia, come “OMG”, “preparatevi” e “rifornitevi”. “Le persone non vogliono che il marketing aumenti le loro ansie”, spiega Parry Malm, CEO dell’azienda.
Nel commercio al dettaglio, Amazon sta apportando piccole modifiche ai suoi algoritmi per aiutare a distribuire il carico di lavoro. La maggior parte dei venditori di Amazon si affida all’azienda per evadere gli ordini. I venditori conservano i loro articoli in un magazzino di Amazon, che si occupa di tutta la logistica, della consegna a domicilio e della gestione delle rese.
In genere, l’azienda promuove i venditori i cui ordini vengono eseguiti in automatico. Per esempio, se si cerca un articolo specifico, come una Nintendo Switch, il risultato che appare in alto, accanto al pulsante “Aggiungi al carrello”, è più probabile che provenga da un fornitore che utilizza la logistica di Amazon rispetto a uno che non lo fa.
Ma nelle ultime settimane Amazon ha capovolto questa logica, dice Cline. Per facilitare la domanda ai suoi magazzini, i suoi algoritmi sembrano ora più propensi a promuovere venditori che gestiscono le proprie consegne.
I mercati sono volatili
Questo tipo di regolazione sarebbe difficile da fare senza l’intervento di operatori. “La situazione è instabile”, sostiene Cline. “SUna settimana vogliono tutti la carta igienica e quella successiva tutti vogliono acquistare puzzle o attrezzature da palestra”. Le modifiche apportate da Amazon ai suoi algoritmi hanno quindi effetti a catena sugli algoritmi utilizzati dai venditori per decidere in che modo spendere per la pubblicità online.
Ogni volta che viene caricata una pagina Web con annunci, si svolge un’asta superveloce in cui gli offerenti decidono automaticamente tra loro chi può riempire le caselle pubblicitarie. L’importo che questi algoritmi decidono di spendere per un annuncio dipende da una miriade di variabili, ma alla fine la decisione si basa su una stima di dei comportamento dei clienti, basta non solo sui dati relativi agli acquisti passati, ma anche sulle attività online dell’acquirente.
Oggi, uno dei migliori predittori del fatto che qualcuno comprerà un prodotto è il tempo di consegna, continua Cline. Nozzle sta consigliando ai suoi clienti di regolare i loro algoritmi per tenerne conto. Per esempio, se si ritiene di non poter essere più veloce di un concorrente, potrebbe non valere la pena provare a superarlo in un’asta di annunci. D’altra parte, se si sa che il concorrente ha esaurito le scorte, si può fare un’offerta bassa, scommettendo che non ce ne saranno altre.
Tutto ciò è possibile solo con un team dedicato, spiega Cline.
Immagine di: Getty
(rp)