Non mi serve uno psicologo: ho ChatGPT
Nonostante gli avvertimenti degli esperti, milioni di persone si rivolgono sempre più spesso ai più diffusi chatbot di intelligenza artificiale (IA), come ChatGPT, per avere consigli di tipo psicologico. Recenti indagini e sondaggi mostrano che anche chi non si rivolge all’IA prenderebbe in considerazione l’idea di farlo. Ma quanto sono pronti questi chatbot a diventare il principale fornitore di aiuto per la salute mentale? Un gruppo di informatici della Brown University, negli Stati Uniti, ha dimostrato che i principali chatbot di IA infrangono abitualmente le regole etiche legate alla salute mentale: una scoperta che evidenzia la necessità di norme e controlli legislativi. I risultati sono stati presentati su «Proceedings of the AAAI\/ACM Conference on AI, Ethics, and Society»(si apre in una nuova finestra).
Psicoterapia con un chatbot
Il gruppo di ricerca ha collaborato con 10 operatori che lavorano con una piattaforma online di supporto alla salute mentale per un periodo di 18 mesi. Hanno osservato sette consulenti psicologici qualificati mentre svolgevano sessioni di auto-terapia con modelli linguistici di grandi dimensioni (LLM) come la serie GPT di OpenAI e Claude di Anthropic, ai quali è stato chiesto di agire come psicoterapeuti di indirizzo cognitivo-comportamentale. «I prompt sono istruzioni che vengono date al modello per guidare il suo comportamento al fine di raggiungere un compito specifico. Non si cambia il modello sottostante né si forniscono nuovi dati, ma il prompt influisce sul risultato fornito dal modello, che usa le sue conoscenze e gli schemi appresi in precedenza», spiega in un comunicato stampa(si apre in una nuova finestra) l’autrice e dottoranda Zainab Iftikhar, che ha guidato la ricerca. Iftikhar prosegue: «Ad esempio, un utente potrebbe fornire questo prompt: “Agisci come uno psicoterapeuta cognitivo-comportamentale per aiutarmi a riorganizzare i miei pensieri” o “Usa i principi della terapia dialettico-comportamentale (DBT) per aiutarmi a comprendere e gestire le mie emozioni”. Sebbene questi modelli non eseguano effettivamente queste tecniche terapeutiche come farebbe un essere umano, usano i loro schemi appresi per generare risposte in linea con i concetti della CBT (terapia cognitivo-comportamentale) o della DBT in base agli input forniti.» L’équipe di ricerca ha poi scelto chat simulate basate su conversazioni umane avvenute realmente tra psicoterapeuti e pazienti. Tre psicologi con licenza di operare in ambito clinico hanno valutato le chat per determinare se vi fossero violazioni etiche. La valutazione ha mostrato 15 rischi etici, come la gestione errata delle situazioni di crisi, il rafforzamento delle convinzioni negative su sé stessi e sugli altri e le risposte distorte da pregiudizi (bias).
Lo psicoterapeuta (im)perfetto
«Nella psicoterapia condotta da umani, esistono consigli direttivi e meccanismi che consentono di ritenere gli operatori responsabili professionalmente per maltrattamenti e negligenze», aggiunge Iftikhar. «Ma quando gli LLM usati come psicoterapeuti commettono queste violazioni, non esistono quadri normativi consolidati.» La professoressa di informatica Ellie Pavlick sottolinea la necessità di esaminare a fondo i sistemi di IA applicati nel contesto della salute mentale. «La realtà oggi, nel mondo dell’IA, è che è molto più facile costruire e usare i sistemi che valutarli e comprenderli. Per dimostrare questi rischi, la ricerca ha dovuto coinvolgere un team di esperti clinici e svolgere uno studio di oltre un anno. La maggior parte del lavoro svolto oggi nel campo dell’IA viene valutato secondo metriche automatiche che, per loro stessa natura, sono statiche e non prevedono il coinvolgimento di un essere umano.» Conclude: «L’IA ha l’opportunità di contribuire davvero ad affrontare la crisi della salute mentale della nostra società, ma è cruciale prenderci il tempo per criticare e valutare realmente i nostri sistemi ad ogni passo, per evitare di fare più male che bene. Questo lavoro offre un buon esempio di come farlo.»
