Po co mi terapeuta, gdy jest ChatGPT?
Pomimo ostrzeżeń ekspertów, miliony osób coraz częściej zwracają się do popularnych chatbotów AI, takich jak ChatGPT, po porady przypominające terapię. Co więcej, ostatnie badania ankietowe pokazują, że osoby, które jeszcze tego nie robią, rozważyłyby taką możliwość. Ale na ile takie chatboty są gotowe, by stać się największym źródłem wsparcia w zakresie zdrowia psychicznego? Informatycy z Uniwersytetu Browna w Stanach Zjednoczonych ujawnili, że czołowe chatboty AI regularnie łamią zasady etyki zdrowia psychicznego, co pokazuje, że konieczne jest wprowadzenie norm prawnych i nadzoru. Wyniki badań zostały przedstawione w publikacji „Proceedings of the AAAI\/ACM Conference on AI, Ethics, and Society”(odnośnik otworzy się w nowym oknie).
Terapia przez chatbota
Naukowcy współpracowali z 10 praktykami pracującymi na internetowej platformie wsparcia zdrowia psychicznego przez 18 miesięcy. Obserwowali siedmiu przeszkolonych specjalistów z dziedziny doradztwa wzajemnego, którzy prowadzili czaty z dużymi modelami językowymi (LLM), takimi jak kolejne odsłony GPT od OpenAI i Claude firmy Anthropic, które zostały poproszone o działanie jako terapeuci poznawczo-behawioralni. „Prompty to instrukcje, które otrzymuje model. Mają kierować jego zachowaniem w celu wykonania określonego zadania. Nie zmieniają modelu bazowego ani nie dostarczają nowych danych, ale prompty pomaga kierować wynikami modelu w oparciu o jego wcześniejszą wiedzę i wyuczone wzorce” — wyjaśnia w informacji prasowej(odnośnik otworzy się w nowym oknie) autorka i doktorantka, Zainab Iftikhar, która kierowała badaniami. Jak uściśla: „Na przykład, użytkownik może wysłać model do modelu prompt: «Działaj jako terapeuta poznawczo-behawioralny, aby pomóc mi przeformułować moje myśli» lub «Stosuj zasady dialektycznej terapii behawioralnej [DBT], aby pomóc mi zrozumieć swoje emocje i radzić sobie z nimi». Modele te w rzeczywistości nie wykonują tych technik terapeutycznych tak, jak zrobiłby to człowiek, ale raczej wykorzystują swoje wyuczone wzorce do generowania odpowiedzi zgodnych z koncepcjami CBT [terapii poznawczo-behawioralnej] lub DBT w oparciu o podany prompt”. Następnie zespół badawczy wybrał symulowane rozmowy oparte na prawdziwych rozmowach w ramach porad prowadzonych przez ludzi. Trzech licencjonowanych psychologów klinicznych oceniło te rozmowy, aby ustalić, czy doszło do jakichkolwiek naruszeń etyki. Analiza ujawniła 15 zagrożeń etycznych, od niewłaściwego zarządzania sytuacjami kryzysowymi i wzmacniania negatywnych przekonań o sobie i innych, po reakcje oparte na uprzedzeniach.
Terapeuta (nie)doskonały
„W przypadku terapeutów istnieją rady zarządzające i mechanizmy pociągania osoby świadczące usługi do odpowiedzialności zawodowej za nieprawidłowe terapie i błędy w sztuce” — dodaje Iftikhar. „Ale kiedy udzielające porad LLM dopuszczają się tych naruszeń, nie ma ustalonych ram regulacyjnych”. Profesor informatyki Ellie Pavlick podkreśliła potrzebę dokładnego zbadania systemów sztucznej inteligencji wdrażanych w sytuacjach związanych ze zdrowiem psychicznym. „Rzeczywistość sztucznej inteligencji wygląda dzisiaj tak, że o wiele łatwiej jest budować i wdrażać systemy niż je oceniać i rozumieć. Ta praca wymagała zespołu ekspertów klinicznych i badań, które trwały ponad rok, aby wykazać te zagrożenia. Większość dzisiejszej pracy w dziedzinie sztucznej inteligencji jest oceniana za pomocą automatycznych wskaźników, które z założenia są statyczne, a w procesie nie ma udziału człowieka”. Jak podsumowuje badaczka: „Istnieje realna szansa, by sztuczna inteligencja odegrała rolę w walce z kryzysem zdrowia psychicznego, przed którym stoi nasze społeczeństwo, ale niezwykle ważne jest, abyśmy poświęcili czas na krytykę i ocenę systemów na każdym kroku, aby nie przyniosły one więcej szkody niż pożytku. Ta praca stanowi dobry przykład tego, jak mogłoby to wyglądać”.