In der KI-Sprechstunde

Chatbots und Apps

Zur Frage, ob ein Chatbot auch hierzulande Patienten und Therapeuten zusammenbringen könnte, hat das deutsche Science Media Center einige Expertenstatements eingeholt. So sagt die Professorin für Klinische Psychologie und Psychotherapie der Universität Greifswald Eva-Lotta Brakemeier: „Insgesamt ist die Einführung von KI-gestützten Chatbots in der deutschen Gesundheitsversorgung ein vielversprechender, aber auch komplexer Prozess.“ In Deutschland bestünden spezifische Herausforderungen wie die Einhaltung strenger Datenschutzrichtlinien, die Entwicklung von Abrechnungskonzepten mit den Krankenkassen und die Anpassung an kulturelle und sprachliche Gegebenheiten.

Ganz ähnlich sieht das Harald Baumeister, Professor für Klinische Psychologie und Psychotherapie an der Universität Ulm: „Im deutschen Versorgungssystem ist die Implementierung eines derartigen Chatbots durchaus ebenfalls denkbar.“ Natürlich bedürfe es substanzieller Adaption, da sich Versorgungssysteme und Zugangswege zur Versorgung von Land zu Land unterschieden. Doch: „Digitale Tools können die Versorgung verbessern, allerdings kommt es stets darauf an, wie genau diese genutzt und implementiert werden.“

Das Potenzial scheint jedenfalls groß. Thomas Insel, Neurowissenschaftler und ehemaliger Leiter des National Institute of Mental Health (NIMH), sagte dem Scientific American: „Nirgendwo in der Medizin werden [Chatbots] so effektiv sein wie bei der psychischen Gesundheit.“ Denn im Bereich der psychischen Gesundheit „gibt es keine Verfahren, sondern nur Gespräche und Kommunikation“. In einer Stellungnahme schrieb der Deutsche Ethikrat im vergangenen Jahr gar: „Einer der wenigen medizinischen Handlungsbereiche, in denen KI-basierte Systeme für einzelne bereits ärztliches bzw. anderes Gesundheitspersonal – jedenfalls de facto – weitgehend oder vollständig ersetzen, ist die Psychotherapie.“ Die Deutsche Gesellschaft für Psychologie reagierte mit einem Schreiben darauf. Sie regt an, „eine begriffliche Schärfung des Terminus Psychotherapie und eine Abgrenzung vom weitestgehend unregulierten Markt der Apps für Selbsthilfe und Selbstoptimierung vorzunehmen“ und „kritisch zu reflektieren, ob derzeit verfügbare Apps und digitale Gesundheitsanwendungen (DIGAs) überhaupt Merkmale von KI erfüllen“.

In der Diagnostik

Die bekanntesten der zahlreichen Psychotherapie-Chatbots und -Apps werden von mehreren Millionen Menschen genutzt. Sogar Regierungen nutzen sie. Ebenso wie den eingangs erwähnten Chatbot setzt der britische NHS etwa die App „Wysa“ ein. Seit April 2022 können alle, die sich auf einer NHS-Warteliste für einen Therapieplatz befinden, die App kostenlos zur Überbrückung nutzen. Die Regierung Singapurs stellte Wysa seinen Bürgern bereits 2020 im Zuge der Coronapandemie zur Verfügung. Ist es also nur eine Frage der Zeit, bis Chatbots die Therapeuten ersetzen?

„Mittelfristig auf keinen Fall“, sagt Matthias Berking, Professor für Klinische Psychologie und Psychotherapie an der Friedrich-Alexander-Universität Erlangen-Nürnberg. Er forscht selbst zum Einsatz moderner Technologien im Bereich Psychotherapie. Langfristig hingegen sehe die Sache vielleicht schon anders aus, denn die Möglichkeiten dieser Systeme seien nahezu unbegrenzt. „Es würde mich nicht überraschen, wenn wir in 20 Jahren ganz andere Ergebnisse haben als heute. Aber ich glaube, dass wir aktuell nicht mal bei einem Prozent dessen liegen, was irgendwie möglich ist.“

Zum Beispiel folgen derzeit alle Chatbots noch relativ simplen Wenn-Dann-Pfaden. Wenn der Patient dieses oder jenes schreibt, antwortet der Chatbot mit einer im Vorfeld von den Entwicklern festgelegten Aussage. Die Systeme sind also nicht selbstlernend in der Hinsicht, dass sie aus einem kontinuierlich anwachsenden Datensatz erkennen würden, welche Kommunikation nun zu Erfolgen geführt hat – also zu einer korrekten Diagnose oder zur Verbesserung der Symptomatik eines Patienten. Das Zwischenfazit zu den derzeitigen Psychotherapie-Chatbots lautet also: künstlich durchaus, intelligent allerdings nicht.

„Ein Chatbot kann heute ohne Probleme ein standardisiertes Interview durchführen“, sagt Berking. „Mit einem Patienten, der bei sich selbst die Sachverhalte korrekt wahrnimmt und bereit ist, sie wahrheitsgemäß wiederzugeben, kann der Chatbot damit eine Diagnose stellen, die sich wahrscheinlich nicht wesentlich von der eines geschulten Diagnostikers unterscheiden wird.“

Doch nicht bei allen Patienten gelingt das. „Ein sehr narzisstischer Patient wird über sich selbst nicht sagen, dass er zum Angeben neigt, weil er weiß, dass das sozial unerwünscht ist“, sagt Berking. „Auch eine Alkoholabhängigkeit ist sehr stigmatisierend, und oft sagen Betroffene nicht die ganze Wahrheit. In diesem Fall fragt der Chatbot, ob derjenige etwas getrunken hat und die Antwort ist ‚nee‘, was vom Chatbot nicht weiter hinterfragt wird. Der Diagnostiker hingegen riecht auch die Fahne und ordnet die Antwort entsprechend ein.“

Die Diagnose, die Psychotherapeut oder Psychiater nach einem Erstgespräch von Angesicht zu Angesicht stellen, bezieht somit noch zahlreiche weitere Informationen mit ein als nur die Antworten auf die Fragen eines standardisierten klinischen Interviews. Was macht die Person für einen Eindruck? Wie ist sie gekleidet? Welche nonverbalen Signale sendet sie? Wie redet sie, was verrät die Stimme? „In die Diagnose fließt das gesamte Expertenurteil des Diagnostikers ein und alle Eindrücke, die er gewonnen hat“, sagt Berking. „Das kann etwas komplett anderes sein als das, was der Patient gesagt hat.“

Das heißt aber nicht, dass Chatbots oder sonstige auf Künstlicher Intelligenz basierende Apps oder Tools das niemals können werden. Es gibt erste Systeme, die die Stimme analysieren und daraus auf die Stimmung und etwa eine Depression schließen können. Und es gibt Tools zur Gesichtsanalyse, die ebenfalls Emotionen erkennen oder ob eine Person lügt. Doch von einem integrierten intelligenten System, das all solche Informationen misst, analysiert, zusammenführt, auf ihrer Basis eine Diagnose stellt und sich über die Zeit auch noch selbst verbessert, ist die digitale Psychotherapie derzeit noch weit entfernt.

Chatbots können also bei der Verteilung im Gesundheitssystem helfen, und sie können erste Informationen zusammentragen. So können sie die anschließende Arbeit der Fachleute verringern und erleichtern. Die tatsächliche Diagnose zu stellen, bleibt allerdings noch dem Menschen vorbehalten, und so wird es wohl auch noch einige Zeit bleiben.

In der Therapie

Aber wie steht es mit der Therapie? Könnten Chatbots Betroffenen beistehen, sich mit ihnen austauschen und ihnen mit symptomlindernden Ratschlägen helfen, nachdem die Diagnose gestellt ist? Schließlich gibt es die entsprechenden Apps schon, und die Hersteller werben damit, „klinisch validiert“ oder „evidenzbasiert“ zu sein.

Doch beim näheren Betrachten scheint die Technik nur halb so viel zu halten, wie die Anbieter versprechen – insbesondere, wenn man wissenschaftliche Studien dazu betrachtet. Sofern man welche findet, denn gute Studien zum Thema sind rar. Die Anbieter der bekannteren Chatbots haben zwar in der Regel eine Handvoll Studien durchgeführt, in denen sich die Programme als hilfreich erwiesen. Doch die untersuchten Fallzahlen sind meist klein, und viele der Studien erfüllen nicht die Gütekriterien guter Psychotherapieforschung.

Besseren Aufschluss bieten Meta-Analysen, in denen unabhängige Fachleute die gesamte verfügbare Studienlage auswerten. Eine solche Analyse aus dem Jahr 2020 fand nicht mehr als zwölf Studien, die den Qualitätsanspruch erfüllten. Die Forschenden kamen zu dem Ergebnis, dass es eine schwache Evidenz dafür gebe, dass Chatbots bei Depressionen, Ängsten, Stress und Höhenangst helfen. Zwei weitere Meta-Analysen aus den Jahren 2023 und 2024, in die die Ergebnisse von 32 bzw. 18 Studien einflossen, ergaben ebenfalls, dass Chatbots die Beschwerden von Depressionen, Ängsten, Stress oder auch psychosomatischen Beschwerden lindern können. Allerdings halten die Verbesserungen nur kurz an. Bei den Studienteilnehmern waren sie drei Monate nach dem Einsatz wieder verflogen.

Es braucht also noch einiges an weiterer Forschung. Und selbst dann bleibt offen bis fraglich, ob ein Chatbot jemals die Arbeit eines Therapeuten übernehmen können wird. Denn im Bereich der Psychotherapie gibt es, darauf weist Matthias Berking hin, eine weitere Herausforderung: Jede KI ist nur so gut wie die Daten, mit denen sie trainiert wird. „Um einen wirklichen KI-Chatbot richtig trainieren zu können, bräuchte ich unzählige Aufzeichnungen von Psychotherapie-Gesprächen“, sagt Berking. Und nicht nur das. „Jede Therapiestunde, jedes Therapeuten-Patienten-Gespräch besteht aus Hunderten, eher sogar Tausenden kleinen Entscheidungen darüber, in welche Richtung das Gespräch als nächstes gelenkt wird. Ich müsste der KI für jede dieser Entscheidungen ein Feedback geben, ob sie richtig oder falsch war. Und für jede dieser Entscheidungen müsste ich bestenfalls noch 20, besser 2.000 Fälle haben, an denen das System anhand der Folgen lernen kann, was eine gute Entscheidung war.“ Und dabei gibt es noch ein weiteres Problem: Wenn man Psychotherapie-Sitzungen aufzeichnet, dann sind diese Daten schon vorselektiert. Denn der Therapeut trifft keine zufälligen Entscheidungen, sondern hat in der Regel die ganz falschen Entscheidungen schon ausgeschlossen. Somit kann das System nicht lernen, was falsche Entscheidungen sind.

Auf absehbare Zeit werden Chatbots in der Psychotherapie also erst einmal nur eine Assistenzrolle einnehmen und sowohl die menschlichen Fachleute in ihrer Arbeit unterstützen als auch die Gesundheitssysteme entlasten.

Menschen orientieren sich bei Entscheidungen an den Erfahrungen anderer. Dieses als „Social Proof“ bekannte psychologische Phänomen…