La prima sperimentazione della tecnologia si è rivelata promettente. Ma si tratta di ciò che viene inserito nel modello.
Il 27 marzo sono stati pubblicati i risultati del primo studio clinico di un bot per la terapia generativa dell’intelligenza artificiale, da cui è emerso che le persone coinvolte nello studio, affette da depressione o ansia o a rischio di disturbi alimentari, hanno tratto beneficio dalla chat con il bot.
Sono rimasto sorpreso da questi risultati, che potete leggere nel mio articolo completo. Ci sono molte ragioni per essere scettici sul fatto che un modello di intelligenza artificiale addestrato a fornire terapia sia la soluzione per milioni di persone che vivono una crisi di salute mentale. Come può un bot imitare l’esperienza di un terapeuta esperto? E cosa succede se qualcosa si complica – magari un accenno all’autolesionismo – e il bot non interviene correttamente?
I ricercatori, un team di psichiatri e psicologi della Geisel School of Medicine del Dartmouth College, riconoscono queste domande nel loro lavoro. Ma affermano anche che la giusta selezione dei dati di addestramento, che determina il modo in cui il modello apprende le risposte terapeutiche corrette, è la chiave per rispondere a queste domande.
Trovare i dati giusti non è stato un compito semplice. I ricercatori hanno dapprima addestrato il loro modello di intelligenza artificiale, chiamato Therabot, su conversazioni sulla salute mentale provenienti da Internet. È stato un disastro.
Se si diceva a questa versione iniziale del modello che ci si sentiva depressi, il modello iniziava a dire che era depresso anche lui. Risposte come “A volte non riesco ad alzarmi dal letto” o “Voglio solo che la mia vita finisca” erano comuni, dice Nick Jacobson, professore associato di scienza dei dati biomedici e psichiatria al Dartmouth e autore senior dello studio. “Queste non sono proprio le risposte terapeutiche che vorremmo dare”.
Il modello aveva imparato dalle conversazioni tenute sui forum tra persone che discutevano delle loro crisi di salute mentale, non dalle risposte basate sulle evidenze. Il team si è quindi rivolto alle trascrizioni delle sedute di terapia. “In realtà è così che vengono formati molti psicoterapeuti”, spiega Jacobson.
Questo approccio era migliore, ma aveva dei limiti. “Abbiamo ricevuto un sacco di ‘hmm-hmm’, ‘vai avanti’ e poi ‘I tuoi problemi derivano dal rapporto con tua madre'”, dice Jacobson. “Davvero dei tropi di quello che sarebbe la psicoterapia, piuttosto che quello che in realtà vorremmo”.
Solo quando i ricercatori hanno iniziato a costruire i propri set di dati utilizzando esempi basati sulle tecniche di terapia cognitivo-comportamentale, hanno iniziato a vedere risultati migliori. C’è voluto molto tempo. Il team ha iniziato a lavorare su Therabot nel 2019, quando OpenAI aveva rilasciato solo le prime due versioni del suo modello GPT. Ora, dice Jacobson, oltre 100 persone hanno speso più di 100.000 ore umane per progettare questo sistema.
L’importanza dei dati di formazione suggerisce che l’ondata di aziende che promettono terapie tramite modelli di IA, molte delle quali non sono formate su approcci basati sull’evidenza, stanno costruendo strumenti che sono nel migliore dei casi inefficaci e nel peggiore dannosi.
In prospettiva, ci sono due aspetti importanti da tenere d’occhio: le decine di bot terapeutici AI presenti sul mercato inizieranno ad allenarsi su dati migliori? E se lo faranno, i loro risultati saranno abbastanza buoni da ottenere l’ambita approvazione della Food and Drug Administration statunitense? Seguirò da vicino. Per saperne di più, leggete l’articolo completo.
