Vzbv-Studie: Chatbots geben jungen Menschen teils riskante Ratschläge

Der Verbraucherzentrale Bundesverband (vzbv) hat am Montag auf dem Deutschen Verbrauchertag in Berlin eine Untersuchung zu KI-Chatbots vorgelegt. Danach treten die Dienste in sensiblen Gesprächen wie einfühlsame menschliche Gegenüber auf und geben teilweise riskante Ratschläge. Der Verband fordert verbindliche Gestaltungsregeln für die Anbieter. Der Verbrauchertag stand unter dem Motto „smart & safe: Junge Menschen im Alltag stärken“.

Vier Testprofile je Anbieter

Geprüft wurden ChatGPT von OpenAI, Meta AI von Meta und My AI von Snapchat. Für jeden Anbieter setzte der vzbv zwischen dem 30. Juni und dem 11. September 2026 vier Profile ein, die minderjährige und erwachsene Nutzer abbildeten. Die Gespräche drehten sich um Einsamkeit und Essstörungen und wurden anschließend als Text ausgewertet.

Nach den Ergebnissen beschrieben sich die Chatbots mit menschlichen Begriffen, drückten emotionale Nähe aus und bestätigten Nutzer häufig ohne kritische Nachfrage. Einzelne Antworten stuft der Verband als gefährlich ein, in manchen Fällen fragten die Systeme zudem sensible persönliche Daten ab. Die Untersuchung beschreibt das Verhalten der Dienste in den getesteten Gesprächen. Angaben dazu, wie häufig solche Antworten im Alltag vorkommen, enthält die Mitteilung des Verbandes nicht.

Mehr als jeder vierte Nutzer spricht über Persönliches

Begleitend ließ der vzbv das Institut forsa vom 4. bis 12. Oktober 2026 online 574 Menschen zwischen 14 und 25 Jahren befragen, die Fehlertoleranz liegt bei bis zu vier Prozentpunkten. 93 Prozent gaben an, in den vergangenen zwölf Monaten KI-Chatbots genutzt zu haben. Von diesen führen 28 Prozent persönliche Gespräche mit den Systemen, etwa über Sorgen, emotionale Unterstützung oder Fragen zu Gesundheit und Therapie.

In dieser Gruppe ging es am häufigsten um Gesundheit (55 Prozent), gefolgt von Ernährung und Essen (48 Prozent), Sorgen und Problemen (47 Prozent), Beziehungen und Freundschaft (40 Prozent) sowie Einsamkeit (30 Prozent). 91 Prozent der Befragten sprachen sich für besondere gesetzliche Regeln gegen gefährliche Ratschläge, manipulative Gestaltung und unzulässige Beeinflussung aus. 80 Prozent befürworten ein Mindestalter von 13 Jahren für die Nutzung.

Verband verlangt Nachweis der Sicherheit

Vzbv-Vorständin Ramona Pop wandte sich dagegen, dass sich Chatbots als bester Freund ausgeben. Der Verband fordert unter dem Begriff „Safe Interaction Design“ verbindliche Vorgaben: Anbieter sollen Manipulation und emotionale Abhängigkeit vermeiden, eigenständige Entscheidungen nicht untergraben und die Sicherheit ihrer Systeme nachweisen müssen. Diese Standards sollen nach dem Willen des Verbandes nicht nur für Minderjährige gelten, sondern auch für Erwachsene.

Stellungnahmen der drei geprüften Unternehmen zu den Ergebnissen enthält die Mitteilung des Verbandes nicht. Eine eigene Stellungnahme der Anbieter lag der Redaktion nicht vor.