Un progetto di IA neuro-simbolica sviluppato in Desme Digital unisce modelli linguistici e logica dichiarativa per creare chatbot trasparenti, etici e conformi al GDPR.
Qualche settimana fa, una coppia di turisti si è ritrovata bloccata in cima al Monte Misun, in Giappone, dopo aver seguito un itinerario suggerito da un assistente virtuale basato su intelligenza artificiale. Il chatbot aveva pianificato la discesa in funivia, ma quando i due sono andati a prendere l’ultima corsa hanno trovato l’impianto già chiuso.
Lo riporta un articolo del Corriere della Sera, riprendendo la BBC, insieme al caso di un viaggiatore che si è messo alla ricerca della fantomatica “Torre Eiffel di Pechino”, o a quello di una coppia in vacanza in Perù che voleva raggiungere il suggestivo “Canyon Sacro di Humantay” e stava rischiando di morire assiderata perché il suddetto Canyon era solo un’allucinazione dell’intelligenza artificiale.
Episodi come questi mostrano come l’IA, per quanto brillante, resti ancora fragile. I modelli linguistici di grandi dimensioni (LLM) sanno scrivere testi coerenti, ma non sanno spiegare come arrivano alle loro risposte. E quando sbagliano, lo fanno senza consapevolezza. In un’epoca in cui deleghiamo alle macchine decisioni che toccano la vita reale, la vera sfida non è più farle parlare, ma farle spiegare.
Envato
DEDI: un assistente dichiarativo e trasparente
In questa direzione si muove DEDI (DEclarative DIgital Assistant), chatbot basato su IA neuro-simbolica, ideato in Desme Digital da Ettore Perri (CTO e Co-Founder) ed attualmente in sperimentazione sul portale Calabria Digital, dove risponde in pochi secondi a domande su eventi e luoghi d’interesse presenti nella regione.
DEDI concilia due grandi paradigmi dell’intelligenza artificiale: quello connessionista, basato su reti neurali e deep learning, e quello simbolico, fondato su regole logiche e ragionamento automatico. Le reti neurali profonde apprendono da grandi quantità di dati non strutturati – come testi, immagini, audio e video – simulando il funzionamento del cervello umano attraverso molteplici strati di neuroni artificiali. Il ragionamento automatico, invece, emula la capacità umana di dedurre, inferire e prendere decisioni basandosi su un insieme di fatti e regole predefinite.
Etica e fiducia nell’IA
Sin dallo stato embrionale, DEDI vuole farsi portatore di una seria riflessione sulla responsabilità algoritmica, provando a rendere trasparenti i processi e puntando a ottenere fiducia nei confronti dell’IA. Questo anche in ottemperanza agli “Orientamenti etici per un’IA affidabile” proposti dalla Commissione Europea nel 2018 e che invitano allo sviluppo di modelli di IA meno opachi e non a “scatola nera”.
Envato
Il progetto adotta inoltre un solido framework giuridico: consenso informato con verifica dell’età, minimizzazione dei dati trattati e rispetto delle Standard Contractual Clauses europee per i trasferimenti internazionali. DEDI è anche un esempio concreto di privacy by design applicata all’intelligenza artificiale.
Dal calcolo alla coscienza
La pipeline ibrida LLM (Large Language Model, come generatore di programmi logici e interprete semantico), ASP (Answer Set Programming, per la logica dichiarativa), RAG (Retrieval-Augmented Generation, come meccanismo di fallback) su cui si basa DEDI, incarna un nuovo equilibrio tra linguaggio e logica: la parte neurale non è usata come repository di conoscenza ma come traduttore semantico, la parte simbolica inferisce nuove informazioni in base alle richieste dell’utente e la retrieval interviene (segnalandolo) se la pipeline neuro-simbolica fallisce. È una forma di ragionamento trasparente, in cui la macchina può rendere conto del proprio pensiero.
Non si tratta di eliminare l’errore, ma di comprenderlo. E questa capacità di spiegare — di “mostrare il metodo” — è ciò che rende un’IA più vicina al pensiero umano che alla pura automazione, nonché portatrice di un processo etico e sostenibile. Le prossime fasi prevedono l’estensione del sistema a domini sensibili come la sanità, la giustizia e la pubblica amministrazione.
La direzione è costruire un’IA che non sia solo potente, ma spiegabile, etica e aderente alle normative. In un mondo in cui un chatbot può portarci sulla vetta sbagliata (o immaginaria) di una montagna, la spiegabilità non è più un optional. DEDI mostra che la vera innovazione non sta solo nel far parlare le macchine, ma nel fargli saper dire perché.
Maria Francesca Gentile è giornalista pubblicista iscritta all’ODG della Calabria. Ha sviluppato esperienza e competenza nell’ambito dell’ufficio stampa e della comunicazione web e social in particolare nell’ambito sociale e culturale. Professionista nel campo della comunicazione e progettazione culturale, ha esperienza nella creazione e gestione di laboratori educativi per giovani. Appassionata di storytelling e sensibilizzazione sociale, il suo lavoro consiste anche nel creare opportunità per sviluppare progetti innovativi che promuovano la partecipazione attiva e i valori civici.
