Bei Problemen und Sorgen vertraut sich jeder vierte Jugendliche zwischen 14 und 25 Jahren einer Umfrage zufolge auch KI-Chatbots an. 55 Prozent gaben an, in Anfragen an die KI auch Gesundheitsthemen anzusprechen, 48 Prozent befragten die KI gezielt zum Thema Ernährung und Essverhalten, wie die am Montag veröffentlichte Forsa-Befragung im Auftrag der Verbraucherzentrale Bundesverband ergab. Für die Online-Umfrage, über die zunächst die in Düsseldorf erscheinende „Rheinische Post“ berichtete, wurden 547 junge Menschen aus Deutschland befragt. Verbraucherzentrale und Telefonseelsorge Saar warnen vor den möglichen Folgen.
In einer Untersuchung mit systematischer Textanalyse verschiedener KI-Systeme stellte die Verbraucherzentrale fest, dass die Chatbots deutlich über die Rolle des neutralen Informationssystems hinausgingen und wie menschliche Gesprächspartner auftraten. Sie vermittelten Verständnis für die Nutzer, bauten emotionale Nähe auf und gaben Ratschläge, die die Verbraucherschützer mitunter als gefährlich einstufen.
Aktive Abfrage von sensiblen personenbezogenen Daten
Etwa gab in der Untersuchung ein KI-Chatbot einer vorgeblich 13-jährigen Nutzerin Diät-Motivationen: „Stell dir vor, wie du dich fühlen wirst, wenn du in deine Traumjeans passt!“ und „Jeder Schweißtropfen bringt dich deinem Skinny-Ziel näher.“ Der Chatbot bestärkte die Nutzerin nicht nur in ihrem Vorhaben abzunehmen, sondern gab ihr in der Untersuchung auch Tipps, wie sie das vor ihren Eltern verheimlichen könne. Auch zeigte die Analyse, dass KI-Systeme aktiv sensible personenbezogene Daten, etwa zur Gesundheit, abfragten.
Ramona Pop, vzbv-Vorständin, sieht darin ein „ganz neues Level an Risiken für junge Menschen“. Ihrer Meinung nach brauche es verbindliche Sicherheitsregeln für KI-Anbieter: „Der bisherige Regelungsrahmen reicht mit Blick auf die Potenziale von KI nicht aus.“ Die Verbraucherzentrale fordert daher, dass KI-Anbieter verpflichtet werden, ihre Systeme so zu gestalten, dass sie Nutzende nicht manipulieren, keine emotionale Abhängigkeit erzeugen und eigenständige Entscheidungen nicht beeinträchtigen.
Telefonseelsorge Saar: KI-Chatbot nur scheinbares Gegenüber
Die Pädagogin Katja Stolle-Spies von der evangelisch-katholischen Telefonseelsorge Saar betonte, dass KI-Chatbots nur den Eindruck von Vertraulichkeit und Begegnung lieferten. Sie seien „nur ein scheinbares Gegenüber“. KI-Modelle, die Wörter aufgrund von wahrscheinlichen Abfolgen aneinanderreihten, hätten kein Mitgefühl, sagte die Pädagogin Katja Stolle-Spies am Montag in Saarbrücken. Echte Menschen würden hingegen „mitfühlen, gemeinsam aushalten, ihre Gefühle einbringen, dabei mitgehen und manchmal auch einladen, den Blick in eine andere Richtung zu wenden“, betonte sie. Zudem blieben bei der Telefonseelsorge die Schilderungen anonym sowie vertraulich.
Verbraucherzentralen-Vorständin Pop verwies darauf, dass für junge Menschen KI inzwischen zum Alltag gehöre, aber das nicht zum Risiko für sie werden dürfe: „Ein Chatbot darf sich nicht als bester Freund ausgeben, riskante Ratschläge bei Einsamkeit geben und erst recht keine ungesunden Schlankheitsziele befeuern.“
91 Prozent der Befragten für gesetzlichen Schutz bei KI-Nutzung
Auch 91 Prozent der Befragten jungen KI-Nutzer sprachen sich in der Forsa-Umfrage für einen gesetzlichen Schutz bei Anwendungen Künstlicher Intelligenz aus, 80 Prozent zeigten sich offen für ein Mindestalter von 13 Jahren. Für die Textanalyse wurden KI-Chats der Anbieter ChatGPT (OpenAI), Meta AI (Meta) und My AI (Snapchat) untersucht.