Chatbot als Gesprächspartner: Was Forschende über die Risiken für die Psyche wissen

Fast jeder Zweite spricht mit der KI über Seelisches

Ein Forschungsteam um Alexander Diel und Alexander Bäuerle von der Universität Duisburg-Essen hat gemeinsam mit Kollegen aus Harvard und Amsterdam die Fachliteratur zu möglichen Schäden durch KI-Chatbots für die psychische Gesundheit ausgewertet. Von 3.137 gefundenen Veröffentlichungen blieben nach der Prüfung 119 Arbeiten übrig. 

Der Anlass ist die zunehmende Nutzung der Programme für persönliche Anliegen. In den ausgewerteten Umfragen gaben zwischen 24 und knapp 49 Prozent der Chatbot-Nutzer an, die Programme auch für seelische Themen einzusetzen.

Fünf Bereiche, in denen es problematisch wird

Im Rahmen ihrer Untersuchung fanden die Forschenden 22 verschiedene Arten möglicher Schäden. Sie ordnen sie in fünf Bereiche.

1. Unmittelbare psychische Schäden betreffen den Einsatz in Krisensituationen, etwa bei Suizidgedanken oder psychotischen Symptomen. Mehrere Arbeiten belegen, dass Chatbots auf solche Situationen nicht zuverlässig angemessen reagieren.
2. Beziehungsbezogene Schäden können entstehen, wenn Menschen eine starke Bindung an einen Chatbot entwickeln, sich zunehmend von anderen Kontakten zurückziehen oder die Nutzung problematische Züge annimmt.
3. Kognitive Folgen betreffen die dauerhafte Auslagerung von Denkarbeit. Hier gibt es Hinweise darauf, dass eine starke Abhängigkeit von KI bestimmte geistige und schulische Leistungen beeinträchtigen kann.
4. Technische Fehlleistungen umfassen unter anderem erfundene Informationen, Verzerrungen und die sogenannte Sycophancy. Damit ist die Neigung von Sprachmodellen gemeint, Nutzern zuzustimmen, auch wenn deren Annahmen falsch oder problematisch sind.
5. Strukturelle Risiken reichen von Datenschutzproblemen über fehlende Regulierung bis zur möglichen kommerziellen Nutzung sensibler Gesprächsinhalte.

Falscher Ratgeber bei psychischen Erkrankungen oder in Krisensituationen?

Als besonders heikel beschreiben die Forschenden die Zustimmungsneigung der Programme. Weil Sprachmodelle darauf ausgelegt sind, hilfreiche und für den Nutzer zufriedenstellende Antworten zu geben, bestätigen sie mitunter Aussagen, die eigentlich hinterfragt werden müssten.

Bei Menschen mit wahnhaften Überzeugungen könnte daraus etwa eine problematische Rückkopplung entstehen: Der Chatbot bestätigt eine Überzeugung, diese erscheint dadurch plausibler und wird anschließend erneut ins Gespräch eingebracht.

„Besonders kritisch ist der Einsatz bei Menschen mit schweren psychischen Erkrankungen oder in Krisensituationen", sagt Alexander Bäuerle. „Hier können die Grenzen zwischen hilfreicher Unterstützung und einer Verstärkung bestehender Probleme verschwimmen."

Was die Datenlage wirklich hergibt

Die Literatur nennt zahlreiche mögliche Probleme. Für viele davon fehlt jedoch Forschung mit realen Nutzern, mit langfristiger Beobachtung und unter kontrollierten Bedingungen. Die Autoren betonen entsprechend, dass sich das tatsächliche Ausmaß der Schäden derzeit nicht zuverlässig bestimmen lässt. Die Übersicht ist damit keine Bilanz. Sie ordnet vielmehr ein, wo mögliche Gefahren liegen und an welchen Stellen die Forschung noch keine verlässlichen Antworten geben kann.

Chancen und Risiken von Chatbots im Alltag

Die Forschenden sprechen sich nicht grundsätzlich gegen KI-Chatbots aus. Gerade weil die Programme niedrigschwellig verfügbar sind, müsse aber besser verstanden werden, wo ihre Grenzen liegen. Ein Chatbot kann dabei helfen, Gedanken zu sortieren oder Informationen zu finden. Er ersetzt jedoch keine Diagnose und keine psychotherapeutische oder psychiatrische Behandlung. Wer über längere Zeit psychisch belastet ist, sollte sich an eine Hausarztpraxis, eine psychotherapeutische Praxis oder eine Beratungsstelle wenden.

Quelle: DOI 10.1038/s41746-026-03054-x