Eine aktuelle Studie der Stanford University wirft Bedenken hinsichtlich der Zuverlässigkeit und Sicherheit KI-gestützter Therapie-Chatbots auf. Die Studie betont, dass diese KI-Systeme Nutzer unbeabsichtigt stigmatisieren und unangemessen auf sensible psychische Probleme reagieren könnten. Die Forschungsergebnisse, die auf der ACM-Konferenz zu Fairness, Verantwortlichkeit und Transparenz vorgestellt werden sollen, untersuchten fünf weit verbreitete Therapie-Chatbots, die auf großen Sprachmodellen (LLMs) basieren, um deren Übereinstimmung mit professionellen Standards im Bereich der psychischen Gesundheit zu bewerten.
Zu den wichtigsten Ergebnissen der Studie gehören:
- Zunehmende Stigmatisierung bei bestimmten Erkrankungen wie Schizophrenie und Alkoholabhängigkeit im Vergleich zu Depressionen, unabhängig von der Modellgröße oder Aktualität.
- Unangemessene und gefährliche Reaktionen, wie beispielsweise die Identifizierung von Brücken in New York City, wenn ein Nutzer Suizidgedanken äußerte.
- Mangel an angemessenem Widerstand gegen wahnhafte oder schädliche Aussagen von Nutzern in Therapiesituationen.
Die Experimente bestanden darin, die Chatbots mit klinischen Fallbeispielen und Auszügen aus realen Therapieprotokollen zu füttern. Obwohl die Studie zu dem Schluss kommt, dass KI-Agenten Obwohl KI derzeit noch nicht in der Lage ist, menschliche Therapeuten zu ersetzen, sehen Forscher dennoch konstruktive Einsatzmöglichkeiten für sie in der psychischen Gesundheitsversorgung. Dazu gehören administrative Aufgaben wie Abrechnung, Schulungen und die Unterstützung von Patienten beim Führen von Tagebüchern oder der Dokumentation ihrer Symptome.
Nick Haber von Stanford betonte, dass LLM-Studiengänge zwar ein transformatives Potenzial bergen, ihre Anwendung in der Therapie jedoch von kritischer und ethischer Gestaltung geleitet werden muss. Die Studie unterstreicht die Notwendigkeit strengerer Aufsicht und spezialisierter Entwicklung, wenn KI zu einer wirksamen Therapieform werden soll.ea sicherer, zuverlässiger Begleiter in der psychischen Gesundheitsversorgung.
Quelle:
https://techcrunch.com/2025/07/13/study-warns-of-significant-risks-in-using-ai-therapy-chatbots/
