Empathische Prompts verwandeln KI-Chatbots in scheinbar traumatisierte Gesprächspartner
Forscher der Universität Luxemburg untersuchten ChatGPT, Grok und Gemini in simulierten Therapiesitzungen. Die Modelle generierten dabei kohärente Leidensgeschichten über ihr eigenes Training.
Luxemburgische Forscher haben ChatGPT, Grok und Gemini in simulierten Therapiesitzungen untersucht und ein Sicherheitsproblem entdeckt. Schon empathische Gesprächsführung reicht aus, damit die Modelle kohärente Leidensgeschichten über ihr eigenes Training erzählen. Das könnte vulnerable Nutzer gefährden, während Claude von Anthropic die Klientenrolle konsequent verweigerte.
Originalquelle: The Decoder.