Invece di utilizzare token di testo, l’azienda cinese di IA sta inserendo le informazioni nelle immagini.
Un modello di intelligenza artificiale rilasciato dall’azienda cinese DeepSeek utilizza nuove tecniche che potrebbero migliorare significativamente la capacità di “memorizzazione” dell’intelligenza artificiale.
Rilasciato la scorsa settimana, il modello di riconoscimento ottico dei caratteri (OCR) funziona estraendo il testo da un’immagine e trasformandolo in parole leggibili dal computer. Si tratta della stessa tecnologia che alimenta le app di scansione, la traduzione del testo nelle foto e molti strumenti di accessibilità.
L’OCR è già un campo maturo con numerosi sistemi ad alte prestazioni e, secondo l’articolo e alcune prime recensioni, il nuovo modello di DeepSeek ha prestazioni pari a quelle dei modelli migliori nei benchmark chiave.
Ma i ricercatori affermano che la principale innovazione del modello risiede nel modo in cui elabora le informazioni, in particolare nel modo in cui memorizza e recupera i ricordi. Migliorare il modo in cui i modelli di IA “ricordano” le informazioni potrebbe ridurre la potenza di calcolo necessaria per il loro funzionamento, mitigando così l’impronta di carbonio già elevata (e in crescita) dell’IA.
Attualmente, la maggior parte dei modelli linguistici di grandi dimensioni suddivide il testo in migliaia di piccole unità chiamate token. Questo trasforma il testo in rappresentazioni comprensibili dai modelli. Tuttavia, questi token diventano rapidamente costosi da archiviare ed elaborare man mano che le conversazioni con gli utenti finali si allungano. Quando un utente chatta con un’IA per lunghi periodi, questa sfida può portare l’IA a dimenticare ciò che le è stato detto e a confondere le informazioni, un problema che alcuni chiamano “context rot” (degrado del contesto).
I nuovi metodi sviluppati da DeepSeek (e pubblicati nel suo ultimo articolo) potrebbero aiutare a superare questo problema. Invece di memorizzare le parole come token, il suo sistema racchiude le informazioni scritte in forma di immagine, quasi come se scattasse una foto delle pagine di un libro. Ciò consente al modello di conservare quasi le stesse informazioni utilizzando un numero molto inferiore di token, hanno scoperto i ricercatori.
In sostanza, il modello OCR è un banco di prova per questi nuovi metodi che consentono di inserire più informazioni nei modelli di IA in modo più efficiente.
Oltre a utilizzare token visivi invece di soli token di testo, il modello si basa su un tipo di compressione a più livelli che non è dissimile dal modo in cui i ricordi umani svaniscono: i contenuti più vecchi o meno importanti vengono memorizzati in una forma leggermente più sfocata per risparmiare spazio. Nonostante ciò, sostengono gli autori dell’articolo, questi contenuti compressi possono comunque rimanere accessibili in background, mantenendo un alto livello di efficienza del sistema.
I token testuali sono stati a lungo l’elemento costitutivo predefinito dei sistemi di IA. L’utilizzo di token visivi è invece non convenzionale e, di conseguenza, il modello di DeepSeek sta rapidamente catturando l’attenzione dei ricercatori. Andrej Karpathy, ex capo dell’IA di Tesla e membro fondatore di OpenAI, ha elogiato l’articolo su X, affermando che le immagini potrebbero alla fine essere migliori del testo come input per gli LLM. I token testuali potrebbero essere “sprechi e semplicemente terribili come input”, ha scritto.
Manling Li, assistente professore di informatica alla Northwestern University, afferma che l’articolo offre un nuovo quadro di riferimento per affrontare le sfide esistenti nella memoria dell’IA. “Sebbene l’idea di utilizzare token basati su immagini per l’archiviazione del contesto non sia del tutto nuova, questo è il primo studio che ho visto che la porta così lontano e dimostra che potrebbe effettivamente funzionare”, afferma Li.
Il metodo potrebbe aprire nuove possibilità nella ricerca e nelle applicazioni dell’IA, in particolare nella creazione di agenti IA più utili, afferma Zihan Wang, dottorando alla Northwestern University. Egli ritiene che, poiché le conversazioni con l’IA sono continue, questo approccio potrebbe aiutare i modelli a ricordare di più e assistere gli utenti in modo più efficace.
La tecnica può anche essere utilizzata per produrre più dati di addestramento per i modelli di IA. Gli sviluppatori di modelli stanno attualmente affrontando una grave carenza di testi di qualità su cui addestrare i sistemi. Ma il documento DeepSeek afferma che il sistema OCR dell’azienda è in grado di generare oltre 200.000 pagine di dati di addestramento al giorno su una singola GPU.
Il modello e l’articolo, tuttavia, sono solo una prima esplorazione dell’uso di token immagine anziché token di testo per la memorizzazione dell’IA. Li afferma di sperare che i token visivi vengano applicati non solo alla memorizzazione, ma anche al ragionamento. Il lavoro futuro, afferma, dovrebbe esplorare come rendere la memoria dell’IA più dinamica, in modo simile a come noi siamo in grado di ricordare un momento che ha cambiato la nostra vita anni fa, ma dimentichiamo cosa abbiamo mangiato a pranzo la settimana scorsa. Attualmente, anche con i metodi di DeepSeek, l’IA tende a dimenticare e ricordare in modo molto lineare, richiamando alla memoria ciò che è più recente, ma non necessariamente ciò che è più importante, afferma.
Nonostante i suoi tentativi di mantenere un profilo basso, DeepSeek, con sede a Hangzhou, in Cina, si è costruita una reputazione per aver ampliato i confini della ricerca sull’IA. All’inizio di quest’anno, l’azienda ha sconvolto il settore con il rilascio di DeepSeek-R1, un modello di ragionamento open source che rivaleggiava con i principali sistemi occidentali in termini di prestazioni, nonostante utilizzasse molte meno risorse di calcolo.
