No necesito un terapeuta, ya tengo ChatGPT
A pesar de las advertencias de los especialistas, millones de personas recurren cada vez más a los populares chatbots de inteligencia artificial (IA), como ChatGPT, para obtener consejos terapéuticos. Además, diferentes encuestas y sondeos indican que quienes aún no los utilizan contemplan hacerlo. Pero ¿hasta qué punto estos sistemas están preparados para convertirse en el principal recurso asistencial en materia de salud mental? Un equipo de informáticos de la Universidad de Brown (Estados Unidos) constató que los principales chatbots de IA vulneran de forma sistemática principios básicos de la ética en salud mental. El estudio subraya la necesidad de establecer marcos normativos y mecanismos efectivos de supervisión. Sus hallazgos se publicaron en «Proceedings of the AAAI\/ACM Conference on AI, Ethics, and Society»(se abrirá en una nueva ventana).
Terapia por chatbot
El equipo de investigación colaboró durante dieciocho meses con diez profesionales vinculados a una plataforma en línea de apoyo en salud mental. El estudio incluyó la observación de siete consejeros formados mientras realizaban sesiones de autoconsulta con grandes modelos lingüísticos, como GPT de OpenAI y Claude de Anthropic. A dichos sistemas se les indicó que adoptaran el papel de terapeutas cognitivo-conductuales. «Las instrucciones —denominadas “prompts”— orientan el comportamiento del modelo hacia la consecución de una tarea concreta. No modifican el modelo subyacente ni incorporan datos nuevos; se limitan a guiar la respuesta a partir de los patrones previamente aprendidos», explicó Zainab Iftikhar, doctoranda y responsable principal del estudio, en un comunicado de prensa(se abrirá en una nueva ventana). A lo que agregó: «Por ejemplo, un usuario puede formular indicaciones como: “Actúa como terapeuta cognitivo-conductual y ayúdame a replantear mis pensamientos” o “Aplica principios de la terapia dialéctico-conductual (TDC) para ayudarme a comprender y gestionar mis emociones”. Estos sistemas no ejecutan realmente dichas técnicas como lo haría un profesional humano, sino utilizan sus patrones previamente aprendidos para generar respuestas compatibles con los conceptos de la terapia cognitivo-conductual (TCC) o la TDC en función de las instrucciones recibidas». A continuación,el equipo seleccionó chats simulados basados en conversaciones reales de orientación psicológica. Tres psicólogos clínicos colegiados evaluaron los intercambios con el fin de detectar posibles vulneraciones éticas. La evaluación reveló quince riesgos éticos, desde gestionar mal situaciones de crisis y reforzar creencias negativas sobre uno mismo y sobre terceros hasta emitir respuestas sesgadas.
El terapeuta (im)perfecto
«En el caso de los terapeutas humanos, existen colegios profesionales y mecanismos que permiten exigir responsabilidades por mala praxis», comentó Iftikhar. «Pero cuando estas vulneraciones se producen en sistemas basados en modelos de lenguaje, no hay marcos regulatorios establecidos». Por su parte, la profesora de informática Ellie Pavlick insiste en la necesidad de examinar con rigor los sistemas de IA aplicados en situaciones de salud mental. «La realidad actual de la IA es que resulta mucho más sencillo desarrollar y implementar sistemas que evaluarlos y comprender su funcionamiento. Este estudio ha requerido un equipo clínico especializado y más de un año de trabajo para poner de manifiesto estos riesgos. Gran parte de la investigación actual en el campo de la IA se evalúa mediante métricas automáticas, estáticas por diseño y sin intervención humana». Y concluye: «La IA puede contribuir a abordar la crisis de salud mental a la que se enfrenta la sociedad. Ahora bien, cada sistema debe someterse a una evaluación crítica y continua en todas las fases de desarrollo para evitar hacer más mal que bien. Este estudio constituye un buen ejemplo del nivel de exigencia necesario».
