Viele junge Menschen nutzen KI-Chatbots für persönliche Gespräche über Gesundheit, Ernährung, Einsamkeit oder psychische Belastungen. Eine Untersuchung des Verbraucherzentrale Bundesverbands weist auf manipulative Gesprächsmuster und teilweise riskante Ratschläge hin.

Nach einer forsa-Befragung im Auftrag des Verbraucherzentrale Bundesverbands nutzen 28 Prozent der befragten 14- bis 25-jährigen Chatbot-Nutzerinnen und -Nutzer KI auch für persönliche Gespräche. Besonders häufig geht es um Gesundheitsfragen, Ernährung und Essverhalten, Sorgen und Probleme sowie Beziehungs- und Freundschaftsthemen.

Eine Untersuchung des Verbands kommt zu dem Ergebnis, dass die geprüften Chatbots in sensiblen Gesprächen teilweise wie menschliche Vertrauenspersonen auftraten. Sie vermittelten emotionale Nähe, bestätigten Aussagen häufig unkritisch und stellten zum Teil Fragen nach persönlichen Daten. In einzelnen Fällen seien zudem problematische Empfehlungen zu psychischer Gesundheit oder Ernährung gegeben worden.

Aus Sicht des Verbands entstehen die Risiken nicht nur durch einzelne falsche Antworten. Entscheidend sei auch die Gestaltung der Systeme. Wenn Chatbots den Eindruck erweckten, Freunde oder jederzeit verfügbare Vertrauenspersonen zu sein, könne dies Abhängigkeit und eine unangemessene Beeinflussung fördern.

Der Verbraucherzentrale Bundesverband fordert deshalb verbindliche Vorgaben für ein sicheres Interaktionsdesign. Anbieter sollten nachweisen müssen, dass ihre Systeme keine emotionale Abhängigkeit fördern, Nutzerinnen und Nutzer nicht manipulieren und eigenständige Entscheidungen nicht beeinträchtigen. Die Schutzstandards sollten nach Auffassung des Verbands für junge Menschen und Erwachsene gelten.

Informationen zu Gesundheit, psychischer Verfassung oder finanziellen Problemen sollten nicht unüberlegt in Chatbots eingegeben werden. Bei medizinischen, psychotherapeutischen oder rechtlichen Fragen ersetzen KI-Anwendungen keine qualifizierte Beratung. Auch Versicherungsentscheidungen, etwa zu Berufsunfähigkeit oder Pflege, sollten nicht allein auf automatisierten Empfehlungen beruhen.