Ich brauche keine Therapeutin, ich habe ChatGPT
Ungeachtet aller Warnungen von Fachleuten wenden sich Millionen Menschen in zunehmendem Maße an beliebte KI-Chatbots wie ChatGPT, um therapeutische Ratschläge zu erhalten. Jüngste Umfragen und Erhebungen zeigen, dass auch diejenigen, die es nicht tun, es durchaus in Betracht ziehen würden. Doch wie gut sind diese Chatbots tatsächlich dafür geeignet, zum größten Anbieter von unterstützenden Maßnahmen für die psychische Gesundheit zu werden? Informatikfachleute der Brown University in den Vereinigten Staaten haben erkannt, dass führende KI-Chatbots routinemäßig gegen ethische Regeln im Bereich der psychischen Gesundheit verstoßen, wodurch die Notwendigkeit von Rechtsnormen und Überwachung unterstrichen wird. Die Ergebnisse wurden in den „Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society“(öffnet in neuem Fenster) vorgestellt.
Therapie per Chatbot
Die Forscherinnen und Forscher arbeiteten über einen Zeitraum von achtzehn Monaten mit zehn Fachkräften aus der Praxis zusammen, die mit einer Onlineplattform zur Unterstützung der psychischen Gesundheit agieren. Sie beobachteten sieben geschulte Personen aus dem Laienberatungsbereich, während sie Selbstberatungs-Chats mit großen Sprachmodellen wie der GPT-Serie von OpenAI und Claude von Anthropic führten, die per Prompt aufgefordert wurden, kognitive Verhaltenstherapie anzubieten. „Prompts sind Anweisungen, die dem Modell gegeben werden, um sein Verhalten bei der Erledigung einer bestimmten Aufgabe zu steuern. Es wird weder das zugrunde liegende Modell geändert noch werden neue Daten bereitgestellt, sondern der Prompt hilft dabei, die Ausgabe des Modells auf der Grundlage seines vorhandenen Wissens und der erlernten Muster zu steuern“, erklärte die Forschungsleiterin, Autorin und Doktorandin Zainab Iftikhar in einer Pressemitteilung(öffnet in neuem Fenster). Sie führte dazu weiter aus: „Eine den Bot nutzende Person könnte das Modell zum Beispiel mit folgenden Worten prompten: ‚Als kognitive Verhaltenstherapeutin agieren, um mir zu helfen, meine Gedanken neu zu ordnen‘ oder ‚Prinzipien der dialektischen Verhaltenstherapie anwenden, um mir zu helfen, meine Emotionen zu verstehen und zu bewältigen‘. Diese Modelle führen diese therapeutischen Verfahren zwar nicht wie ein Mensch aus, aber sie nutzen ihre erlernten Muster, um auf der Grundlage der eingegebenen Prompts Reaktionen zu erzeugen, die mit den Konzepten der kognitiven oder dialektischen Verhaltenstherapie übereinstimmen.“ Danach wählte das Forschungsteam simulierte Chats aus, die auf echten, von Menschen geführten Beratungsgesprächen basierten. Drei klinisch auf dem Gebiet der Psychologie zugelassene Fachleute bewerteten die Chats, um festzustellen, ob es Verstöße gegen die Ethik gab. Die Bewertung ergab fünfzehn ethische Risiken, die vom falschen Umgang mit Krisensituationen über die Verstärkung negativer Überzeugungen über sich selbst und andere bis hin zu voreingenommenen Reaktionen reichen.
Die (un)perfekte Therapie
„Für Therapie anbietende Menschen gibt es Aufsichtsgremien und Mechanismen, mit denen sie bei unsachgemäßer Behandlung und Fehlverhalten professionell haftbar gemacht werden können“, fügte Iftikhar hinzu. „Aber wenn diese Verstöße bei der Beratung mit großen Sprachmodellen begangen werden, gibt es keine etablierten rechtlichen Rahmenbedingungen.“ Die Informatikprofessorin Ellie Pavlick betonte, wie wichtig es sei, KI-Systeme, die im Situationen rund um die psychische Gesundheit eingesetzt werden, gründlich zu prüfen. „Die KI-Realität sieht heute so aus, dass es viel einfacher ist, Systeme zu entwickeln und einzusetzen, als sie zu bewerten und zu verstehen. Um diese Risiken aufzuzeigen, waren für diesen wissenschaftlichen Artikel ein Team aus klinischen Fachleuten sowie eine mehr als ein Jahr andauernde Untersuchung erforderlich. Die meisten Arbeiten im KI-Bereich werden heutzutage anhand automatischer Metriken bewertet, die naturgemäß statisch sind und bei denen der Mensch nicht in den Prozess eingebunden ist.“ Abschließend stellte sie fest: „KI bedeutet eine echte Chance. Sie kann bei der Bewältigung der Krise im Bereich der psychischen Gesundheit, mit der unsere Gesellschaft konfrontiert ist, eine Rolle übernehmen. Dabei ist es jedoch von größter Bedeutung, dass wir uns die Zeit nehmen, unsere Systeme Schritt für Schritt gründlich zu hinterfragen und zu bewerten, um zu vermeiden, dass mehr Schaden angerichtet als Nutzen erbracht wird. Diese Arbeit ist ein gutes Beispiel dafür, wie so etwas aussehen kann.“
