Alcuni pazienti hanno scoperto che le loro confessioni private vengono silenziosamente inserite nell’intelligenza artificiale.
Nel futuro immaginato dalla Silicon Valley, i modelli di intelligenza artificiale sono così empatici che li useremo come terapisti. Forniranno assistenza sanitaria mentale a milioni di persone, senza essere ostacolati dai fastidiosi requisiti richiesti ai consulenti umani, come la necessità di lauree, assicurazioni contro la malasanità e sonno. Qui sulla Terra, invece, sta accadendo qualcosa di molto diverso.
La settimana scorsa abbiamo pubblicato un articolo su alcune persone che hanno scoperto che i loro terapeuti utilizzavano segretamente ChatGPT durante le sedute. In alcuni casi non era così sottile: un terapeuta ha accidentalmente condiviso il suo schermo durante un appuntamento virtuale, permettendo al paziente di vedere i propri pensieri privati digitati in ChatGPT in tempo reale. Il modello ha poi suggerito delle risposte che il terapeuta ha ripetuto a pappagallo.
È la mia storia preferita sull’intelligenza artificiale degli ultimi tempi, probabilmente perché coglie molto bene il caos che può verificarsi quando le persone utilizzano l’intelligenza artificiale nel modo in cui le aziende tecnologiche hanno praticamente detto loro di fare.
Come sottolinea l’autrice della storia, Laurie Clarke, non è del tutto irrealistico che l’IA possa essere utile dal punto di vista terapeutico. All’inizio di quest’anno ho scritto del primo studio clinico su un bot di IA creato appositamente per la terapia. I risultati sono stati promettenti! Ma l’uso segreto da parte dei terapeuti di modelli di IA che non sono stati sottoposti a controlli per la salute mentale è qualcosa di molto diverso. Ho parlato con Clarke per saperne di più su ciò che ha scoperto.
Devo dire che mi ha davvero affascinato il fatto che le persone abbiano denunciato i loro terapeuti dopo aver scoperto che stavano usando l’IA di nascosto. Come ha interpretato le reazioni di questi terapeuti? Stavano cercando di nasconderlo?
In tutti i casi citati nell’articolo, il terapeuta non aveva informato preventivamente i propri pazienti dell’uso dell’intelligenza artificiale. Quindi, indipendentemente dal fatto che stessero cercando esplicitamente di nasconderlo, è così che è apparso quando è stato scoperto. Penso che per questo motivo, una delle mie principali conclusioni dopo aver scritto l’articolo sia stata che i terapeuti dovrebbero assolutamente rivelare quando intendono utilizzare l’IA e in che modo (se hanno intenzione di utilizzarla). Se non lo fanno, quando la cosa viene scoperta sorgono tutte queste domande davvero scomode per i pazienti e si rischia di danneggiare irrevocabilmente la fiducia che si è costruita.
Negli esempi che hai riscontrato, i terapeuti ricorrono all’IA semplicemente per risparmiare tempo? Oppure pensano che i modelli di IA possano davvero offrire loro una nuova prospettiva su ciò che affligge una persona?
Alcuni vedono l’IA come un potenziale risparmio di tempo. Ho sentito da alcuni terapeuti che gli appunti sono la rovina della loro vita. Quindi penso che ci sia un certo interesse per gli strumenti basati sull’IA che possono supportarli in questo. La maggior parte delle persone con cui ho parlato era molto scettica sull’uso dell’IA per consigli su come trattare un paziente. Hanno detto che sarebbe meglio consultare supervisori o colleghi, o casi di studio nella letteratura. Erano anche comprensibilmente molto diffidenti nell’inserire dati sensibili in questi strumenti.
Ci sono alcune prove che l’IA può fornire terapie più standardizzate e “manualizzate” come la CBT [terapia cognitivo-comportamentale] in modo ragionevolmente efficace. Quindi è possibile che possa essere più utile per questo. Ma si tratta di IA progettata specificamente per questo scopo, non di strumenti generici come ChatGPT.
Cosa succede se qualcosa va storto? Quale attenzione sta ricevendo questo aspetto da parte dei gruppi etici e dei legislatori?
Al momento, organismi professionali come l’American Counseling Association sconsigliano l’uso di strumenti di IA per diagnosticare i pazienti. In futuro potrebbero anche esserci normative più severe che lo impediscano. Il Nevada e l’Illinois, ad esempio, hanno recentemente approvato leggi che vietano l’uso dell’IA nel processo decisionale terapeutico. Altri stati potrebbero seguire l’esempio.
Sam Altman di OpenAI ha dichiarato il mese scorso che “molte persone utilizzano efficacemente ChatGPT come una sorta di terapeuta” e che, secondo lui, questa è una cosa positiva. Pensa che le aziende tecnologiche stiano promettendo troppo sulle capacità dell’IA di aiutarci?
Penso che le aziende tecnologiche stiano incoraggiando sottilmente questo uso dell’IA perché chiaramente è un modo attraverso il quale alcune persone stanno sviluppando un attaccamento ai loro prodotti. Penso che il problema principale sia che ciò che le persone ottengono da questi strumenti non è affatto una vera e propria “terapia”. Una buona terapia va ben oltre il semplice rassicurare e convalidare tutto ciò che una persona dice. Non ho mai desiderato partecipare a una seduta di terapia (reale, di persona) in vita mia. Spesso sono molto scomode e persino angoscianti. Ma questo è parte del punto. Il terapeuta dovrebbe metterti alla prova, tirarti fuori e cercare di capirti. ChatGPT non fa nessuna di queste cose.
Leggi l’articolo completo di Laurie Clarke.
