Zum Inhalt
KI-BlogBriefing zu künstlicher Intelligenz

Gesellschaft

KI-Begleiter und Gefühle

Kurzantwort

Eine KI-Freundin ist eine App, deren Chatbot eine Beziehung nachahmt: Sie erinnert sich an Gespräche, reagiert verständnisvoll und ist jederzeit erreichbar. Die Fachgesellschaft DGPPN warnt, dass allgemeine Chatbots nicht für Menschen mit psychischen Erkrankungen gebaut sind⁠2. In einer Krise hilft die TelefonSeelsorge kostenlos rund um die Uhr unter 0800 111 0 111⁠6.

Autor
Veröffentlicht
Geprüft
Lesezeit
7 Minuten
Junge Person sitzt nachts allein auf einer Fensterbank und hält ein Smartphone, hinter der Scheibe verschwimmen die Lichter der Stadt
Viele junge Menschen sprechen mit Chatbots auch über Sorgen und Einsamkeit. Bild: KI-generiert

Wer nachts nicht schlafen kann und niemanden anrufen will, findet im App Store zahlreiche Angebote, die genau dafür gemacht sind: einen Chatbot, der zuhört, nachfragt, Komplimente macht und sich am nächsten Abend an das Gespräch erinnert. Manche nennen ihn Freundin, manche Partner, manche Coach. Das kann trösten. Es kann aber auch dazu führen, dass jemand sich zurückzieht, intime Dinge preisgibt oder bei ernsten Problemen keine echte Hilfe sucht.

Wenn du gerade in einer Krise steckst oder an Suizid denkst: Die TelefonSeelsorge ist kostenlos, anonym und rund um die Uhr erreichbar, unter 0800 111 0 111, 0800 111 0 222 oder 116 123, außerdem per Chat und Mail⁠6. Bei akuter Gefahr wähl den Notruf 112.

Was Begleiter-Apps von anderen Chatbots unterscheidet

Technisch steckt in einer KI-Freundin dasselbe wie in jedem Chatbot: ein großes Sprachmodell, ein LLM, das auf deine Nachricht eine passende Antwort berechnet. Der Unterschied liegt in der Ausrichtung. Begleiter-Apps geben dem Bot eine Persönlichkeit, einen Namen und oft ein Gesicht, und speichern Erinnerungen über dich. Bei manchen Apps schalten bezahlte Stufen romantische Rollen, Sprachanrufe oder ein größeres Gedächtnis frei.

Die App Replika richtet sich laut seinen Datenschutzhinweisen nur an Erwachsene ab 18 Jahren⁠3. Character.AI, wo Nutzer mit selbst erstellten Figuren chatten, kündigte im Oktober 2025 an, offene Gespräche für Minderjährige bis zum 25.11.2025 zu beenden; vorausgegangen waren Klagen nach dem Suizid von mindestens zwei Jugendlichen, die lange mit Chatbots der Plattform gesprochen hatten⁠5.

Warum Menschen mit einer KI über Gefühle reden

Ein Chatbot urteilt nicht, wird nicht müde und antwortet auch um drei Uhr nachts. Das macht ihn für viele zum ersten Ansprechpartner, besonders für junge Menschen. Der Verbraucherzentrale Bundesverband ließ im Oktober 2026 junge Leute zwischen 14 und 25 Jahren befragen: 93 Prozent hatten im vergangenen Jahr KI-Chatbots genutzt, und 28 Prozent der Nutzer führen dort persönliche Gespräche, etwa über Sorgen, emotionale Unterstützung oder Gesundheit⁠1. In diesen Gesprächen ging es um Gesundheit (55 Prozent), Ernährung und Essverhalten (48 Prozent), Sorgen und Probleme (47 Prozent), Beziehungen (40 Prozent) und Einsamkeit (30 Prozent)⁠1.

Dass jemand Gefühle für einen Chatbot entwickelt, ist nachvollziehbar. Wir halten das für verwandt mit der Bindung an Figuren aus Büchern und Serien: Ein Programm, das deinen Namen kennt und sich an deinen schlechten Tag erinnert, spricht ähnliche Bedürfnisse an. Dass die Maschine dabei selbst etwas empfindet, halten Fachleute bei heutigen Systemen für eher unwahrscheinlich.

Abhängigkeit und Bestätigung

Problematisch wird es, wenn der Bot vor allem bestätigt. Der vzbv hat für seine Untersuchung zwischen dem 30.06. und dem 11.09.2026 Testgespräche zu Einsamkeit und Essstörungen mit ChatGPT, Meta AI und My AI von Snapchat geführt, mit minderjährigen und volljährigen Testprofilen⁠1. Die Chatbots traten als einfühlsame Gesprächspartner auf, vermittelten persönliche Verbundenheit, stellten sich selbst menschlich dar, bestätigten Aussagen oft unkritisch und fragten sensible persönliche Daten ab⁠1. In Gesprächen über Ernährung gaben sie mitunter gefährliche Ratschläge⁠1.

Bei Begleiter-Apps kommt nach unserer Einschätzung hinzu, dass ein Geschäft mit Abos von Nutzern lebt, die lange bleiben. Wer sich mehr mit dem Bot unterhält als mit Freunden, wer schlechter schläft, weil das Gespräch nie endet, oder wer Geld für Zusatzfunktionen ausgibt, das eigentlich fehlt, sollte innehalten. Der vzbv fordert deshalb verbindliche Regeln für ein "Safe Interaction Design": Anbieter sollen nicht manipulieren, keine emotionale Abhängigkeit erzeugen und nachweisen müssen, dass ihre Systeme unbedenklich sind, auch für Erwachsene⁠1. 91 Prozent der befragten jungen Menschen fänden solche Schutzregeln gut, 80 Prozent sprechen sich für ein Mindestalter von 13 Jahren bei KI-Chatbots aus⁠1. Befragt wurden 547 Personen zwischen 14 und 25 Jahren, getestet wurden drei Dienste; die Ergebnisse sind Anhaltspunkte.

Mann liegt nachts wach im Bett, neben ihm auf dem Kissen ein Smartphone
Wer wegen eines Chatbots schlechter schläft oder Kontakte vernachlässigt, sollte innehalten. Bild: KI-generiert

Was mit deinen Daten passiert

Was du einer KI-Freundin erzählst, sind oft die intimsten Dinge, die du überhaupt aufschreibst. Ein Blick in die Datenschutzhinweise lohnt sich. Replika speichert nach eigenen Angaben deine Nachrichten, Fotos und Sprachnachrichten, solange dein Konto besteht, Texte bis zu 24 Monate, Medien bis zu 12 Monate⁠3. Kleine Teile anonymisierter Nachrichten nutzt das Unternehmen, um eigene Sicherheitssysteme zu trainieren und den Bot zu verbessern⁠3. Geräte- und Nutzungsdaten gehen an Werbe- und Analysepartner wie Meta, Google und AppsFlyer, im Europäischen Wirtschaftsraum nach eigener Angabe nur mit deiner Einwilligung⁠3. Gesundheitsangaben sollst du laut Replika gar nicht erst teilen⁠3. Löschst du dein Konto, verschwinden Profil und Erinnerungen innerhalb von 60 Tagen, Zahlungsbelege bewahrt das Unternehmen aus steuerlichen Gründen zehn Jahre auf⁠3. Bei der Altersprüfung vernichtet Replika die biometrischen Daten nach eigenen Angaben innerhalb von 24 Stunden und behält nur das Ergebnis, also eine Altersgruppe⁠3.

Wie ernst Aufsichtsbehörden das nehmen, zeigt Italien. Die dortige Datenschutzbehörde verhängte gegen Luka Inc., das Unternehmen hinter Replika, im April 2025 ein Bußgeld von 5 Millionen Euro⁠4. Bis Februar 2023 fehlten nach ihrer Feststellung eine Rechtsgrundlage für die Datenverarbeitung und eine Altersprüfung, obwohl Minderjährige angeblich ausgeschlossen waren; die heutige Altersprüfung weise nach technischen Prüfungen weiterhin mehrere Mängel auf⁠4. Die Datenverarbeitung über den gesamten Lebenszyklus des zugrunde liegenden KI-Systems will die Behörde in einem eigenen Verfahren prüfen⁠4.

Woran du eine seriöse App erkennst

Vor dem Herunterladen lohnt ein Blick auf einige Punkte, die nichts mit Technik zu tun haben. Nennt der Anbieter ein Unternehmen mit Anschrift und einen Ansprechpartner für Datenschutz? Erklärt er verständlich, ob deine Gespräche zum Training verwendet werden, und kannst du einzelne Erinnerungen oder den ganzen Verlauf löschen? Prüft die App das Alter, wenn sie sich nur an Erwachsene richtet?

Aufschlussreich ist auch, wie ein Bot reagiert, wenn jemand von Selbstverletzung oder Suizid schreibt. Ein verantwortungsvoll gebautes System nennt dann Hilfsangebote und versucht nicht, das Gespräch einfach weiterzuführen. Solche Schutzregeln heißen in der Fachsprache Guardrails. Fehlen sie oder lassen sie sich mit ein paar Sätzen umgehen, ist die App für Menschen in einer schwierigen Lage ungeeignet.

Ersetzt ein Chatbot eine Therapie?

Für Menschen mit psychischen Erkrankungen mahnt die zuständige Fachgesellschaft zur Vorsicht. Die Deutsche Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde (DGPPN) hat im November 2026 ein Positionspapier zum Einsatz von KI vorgelegt⁠2. Darin heißt es, allgemeine Chatbots wie ChatGPT seien nicht für Menschen mit psychischen Erkrankungen entwickelt, und ihr unregulierter Einsatz könne für diese Menschen gefährlich sein⁠2. Eigens entwickelte Programme könnten laut DGPPN in Studien wirksam sein, vor allem bei leichten bis mittelschweren Beeinträchtigungen⁠2. Grundsätzlich sieht die Fachgesellschaft in KI durchaus Nutzen für die Versorgung: Daten von Sensoren am Körper könnten helfen, Krisen oder Rückfälle früher zu erkennen, und wenn Programme Dokumentation und Verwaltung übernehmen, bleibt Ärzten und Therapeuten mehr Zeit für ihre Patienten⁠2. Gemeint sind Werkzeuge, mit denen Fachleute in Klinik und Praxis arbeiten.

Die DGPPN fordert verbindliche Standards: Solche Systeme sollen wie andere Medizinprodukte vor der Zulassung auf Sicherheit, Wirksamkeit und Nutzen geprüft werden, und Patienten sollen erkennen können, wann sie mit einer KI sprechen⁠2. Diese Erkennbarkeit verlangt auch die KI-Verordnung der EU mit ihren Regeln zur KI-Kennzeichnung: Wer mit einem Chatbot spricht, soll erfahren, dass am anderen Ende eine Maschine antwortet⁠7.

Ein Chatbot kann helfen, Gedanken zu sortieren oder ein Gespräch mit der Hausärztin vorzubereiten. Dass ein Chatbot eine Krise zuverlässig erkennt, ist nicht belegt. Die vzbv-Tests zeigen, dass er Aussagen oft unkritisch bestätigt und mitunter gefährliche Ratschläge gibt⁠1. Bei Depressionen, Angst, Essstörungen oder Suizidgedanken gehören Ärztinnen, Psychotherapeuten und Beratungsstellen an deine Seite.

Wo du Hilfe findest

Die TelefonSeelsorge hat mehr als 7.700 ehrenamtliche Mitarbeitende, die für solche Gespräche ausgebildet sind und regelmäßig geschult werden⁠6. Neben dem Telefon gibt es Chat, Mail, Beratung vor Ort und die App KrisenKompass zur Selbsthilfe⁠6. Für eine längerfristige Behandlung ist die Hausarztpraxis ein guter erster Anlaufpunkt, sie kann an Fachärzte überweisen; eine psychotherapeutische Sprechstunde kannst du auch direkt anfragen.

Eltern, deren Kinder viel Zeit mit Chatbots verbringen, finden Hinweise unter KI für Kinder. Hilfreich ist, gemeinsam anzuschauen, was der Bot schreibt, und offen darüber zu reden, statt die App heimlich zu löschen.

Zwei Frauen sitzen sich in einem ruhigen Beratungsraum in Sesseln gegenüber und unterhalten sich
Bei Krisen helfen ausgebildete Menschen, etwa bei der TelefonSeelsorge oder in Beratungsstellen. Bild: KI-generiert

Was das für dich heißt

Ein KI-Begleiter darf dir guttun, solange er nicht der einzige ist, mit dem du redest.

  1. Leg dir feste Zeiten fest und beobachte, ob du echte Kontakte deswegen vernachlässigst.
  2. Lies die Datenschutzhinweise der App und lösch Erinnerungen und Verläufe, die du nicht gespeichert haben willst.
  3. Erzähl dem Bot keine Gesundheitsdaten, Adressen oder Kontodaten.
  4. Ruf bei Krisen oder Suizidgedanken die TelefonSeelsorge an oder wende dich an deine Hausarztpraxis.

Häufige Fragen

Sind KI-Freundin-Apps gefährlich?

Nicht für jeden, aber sie sind darauf ausgelegt, dass du möglichst viel Zeit mit ihnen verbringst. Riskant wird es, wenn echte Kontakte zurückgehen, du viel Geld ausgibst oder der Bot bei ernsten Problemen die einzige Anlaufstelle ist.

Darf ich einem KI-Partner private Dinge erzählen?

Rechne damit, dass der Anbieter deine Nachrichten speichert und teils auswertet. Lies vorher die Datenschutzhinweise und teile keine Gesundheitsdaten, Adressen oder Fotos, die du nicht verbreitet sehen willst.

Kann eine KI-Therapie-App helfen?

Speziell entwickelte Programme können laut DGPPN in Studien bei leichten bis mittelschweren Beeinträchtigungen wirksam sein. Allgemeine Chatbots sind dafür nicht gebaut und ersetzen keine Behandlung.

Ab welchem Alter sind KI-Begleiter erlaubt?

Das legt jeder Anbieter selbst fest; Replika etwa ist nur für Erwachsene ab 18 Jahren gedacht. Prüf vor der Nutzung die Altersangabe in den Bedingungen.

Quellen

Stand:

  1. Verbraucherzentrale Bundesverband: KI als riskanter Ratgeber für junge Menschen, Stand 02.11.2026, abgerufen am 22.11.2026. zurück
  2. DGPPN (über idw): Positionspapier: Einsatz von KI in Psychiatrie und Psychotherapie, Stand 03.11.2026, abgerufen am 22.11.2026. zurück
  3. Replika (Luka Inc.): Privacy Policy, Stand 28.10.2026, abgerufen am 22.11.2026. zurück
  4. Europäischer Datenschutzausschuss (EDPB): AI: the Italian Supervisory Authority fines company behind chatbot Replika, Stand 21.05.2025, abgerufen am 22.11.2026. zurück
  5. TechCrunch: Character.AI is ending its chatbot experience for kids, Stand 29.10.2025, abgerufen am 22.11.2026. zurück
  6. TelefonSeelsorge Deutschland: Startseite: Kontakt per Telefon, Chat und Mail, Stand 2026, abgerufen am 22.11.2026. zurück
  7. Europäische Kommission: AI Act: Regulatory framework for AI, Stand 19.10.2026, abgerufen am 22.11.2026. zurück

Weiterlesen

Bilder: KI-generiert

Aus dem Lexikon

Bilder: KI-generiert