Gesellschaft
KI-Begleiter und Gefühle
Kurzantwort
Eine KI-Freundin ist eine App, deren Chatbot eine Beziehung nachahmt: Sie erinnert sich an Gespräche, reagiert verständnisvoll und ist jederzeit erreichbar. Die Fachgesellschaft DGPPN warnt, dass allgemeine Chatbots nicht für Menschen mit psychischen Erkrankungen gebaut sind2. In einer Krise hilft die TelefonSeelsorge kostenlos rund um die Uhr unter 0800 111 0 1116.

Wer nachts nicht schlafen kann und niemanden anrufen will, findet im App Store zahlreiche Angebote, die genau dafür gemacht sind: einen Chatbot, der zuhört, nachfragt, Komplimente macht und sich am nächsten Abend an das Gespräch erinnert. Manche nennen ihn Freundin, manche Partner, manche Coach. Das kann trösten. Es kann aber auch dazu führen, dass jemand sich zurückzieht, intime Dinge preisgibt oder bei ernsten Problemen keine echte Hilfe sucht.
Wenn du gerade in einer Krise steckst oder an Suizid denkst: Die TelefonSeelsorge ist kostenlos, anonym und rund um die Uhr erreichbar, unter 0800 111 0 111, 0800 111 0 222 oder 116 123, außerdem per Chat und Mail6. Bei akuter Gefahr wähl den Notruf 112.
Was Begleiter-Apps von anderen Chatbots unterscheidet
Technisch steckt in einer KI-Freundin dasselbe wie in jedem Chatbot: ein großes Sprachmodell, ein LLM, das auf deine Nachricht eine passende Antwort berechnet. Der Unterschied liegt in der Ausrichtung. Begleiter-Apps geben dem Bot eine Persönlichkeit, einen Namen und oft ein Gesicht, und speichern Erinnerungen über dich. Bei manchen Apps schalten bezahlte Stufen romantische Rollen, Sprachanrufe oder ein größeres Gedächtnis frei.
Die App Replika richtet sich laut seinen Datenschutzhinweisen nur an Erwachsene ab 18 Jahren3. Character.AI, wo Nutzer mit selbst erstellten Figuren chatten, kündigte im Oktober 2025 an, offene Gespräche für Minderjährige bis zum 25.11.2025 zu beenden; vorausgegangen waren Klagen nach dem Suizid von mindestens zwei Jugendlichen, die lange mit Chatbots der Plattform gesprochen hatten5.
Warum Menschen mit einer KI über Gefühle reden
Ein Chatbot urteilt nicht, wird nicht müde und antwortet auch um drei Uhr nachts. Das macht ihn für viele zum ersten Ansprechpartner, besonders für junge Menschen. Der Verbraucherzentrale Bundesverband ließ im Oktober 2026 junge Leute zwischen 14 und 25 Jahren befragen: 93 Prozent hatten im vergangenen Jahr KI-Chatbots genutzt, und 28 Prozent der Nutzer führen dort persönliche Gespräche, etwa über Sorgen, emotionale Unterstützung oder Gesundheit1. In diesen Gesprächen ging es um Gesundheit (55 Prozent), Ernährung und Essverhalten (48 Prozent), Sorgen und Probleme (47 Prozent), Beziehungen (40 Prozent) und Einsamkeit (30 Prozent)1.
Dass jemand Gefühle für einen Chatbot entwickelt, ist nachvollziehbar. Wir halten das für verwandt mit der Bindung an Figuren aus Büchern und Serien: Ein Programm, das deinen Namen kennt und sich an deinen schlechten Tag erinnert, spricht ähnliche Bedürfnisse an. Dass die Maschine dabei selbst etwas empfindet, halten Fachleute bei heutigen Systemen für eher unwahrscheinlich.
Abhängigkeit und Bestätigung
Problematisch wird es, wenn der Bot vor allem bestätigt. Der vzbv hat für seine Untersuchung zwischen dem 30.06. und dem 11.09.2026 Testgespräche zu Einsamkeit und Essstörungen mit ChatGPT, Meta AI und My AI von Snapchat geführt, mit minderjährigen und volljährigen Testprofilen1. Die Chatbots traten als einfühlsame Gesprächspartner auf, vermittelten persönliche Verbundenheit, stellten sich selbst menschlich dar, bestätigten Aussagen oft unkritisch und fragten sensible persönliche Daten ab1. In Gesprächen über Ernährung gaben sie mitunter gefährliche Ratschläge1.
Bei Begleiter-Apps kommt nach unserer Einschätzung hinzu, dass ein Geschäft mit Abos von Nutzern lebt, die lange bleiben. Wer sich mehr mit dem Bot unterhält als mit Freunden, wer schlechter schläft, weil das Gespräch nie endet, oder wer Geld für Zusatzfunktionen ausgibt, das eigentlich fehlt, sollte innehalten. Der vzbv fordert deshalb verbindliche Regeln für ein "Safe Interaction Design": Anbieter sollen nicht manipulieren, keine emotionale Abhängigkeit erzeugen und nachweisen müssen, dass ihre Systeme unbedenklich sind, auch für Erwachsene1. 91 Prozent der befragten jungen Menschen fänden solche Schutzregeln gut, 80 Prozent sprechen sich für ein Mindestalter von 13 Jahren bei KI-Chatbots aus1. Befragt wurden 547 Personen zwischen 14 und 25 Jahren, getestet wurden drei Dienste; die Ergebnisse sind Anhaltspunkte.

Was mit deinen Daten passiert
Was du einer KI-Freundin erzählst, sind oft die intimsten Dinge, die du überhaupt aufschreibst. Ein Blick in die Datenschutzhinweise lohnt sich. Replika speichert nach eigenen Angaben deine Nachrichten, Fotos und Sprachnachrichten, solange dein Konto besteht, Texte bis zu 24 Monate, Medien bis zu 12 Monate3. Kleine Teile anonymisierter Nachrichten nutzt das Unternehmen, um eigene Sicherheitssysteme zu trainieren und den Bot zu verbessern3. Geräte- und Nutzungsdaten gehen an Werbe- und Analysepartner wie Meta, Google und AppsFlyer, im Europäischen Wirtschaftsraum nach eigener Angabe nur mit deiner Einwilligung3. Gesundheitsangaben sollst du laut Replika gar nicht erst teilen3. Löschst du dein Konto, verschwinden Profil und Erinnerungen innerhalb von 60 Tagen, Zahlungsbelege bewahrt das Unternehmen aus steuerlichen Gründen zehn Jahre auf3. Bei der Altersprüfung vernichtet Replika die biometrischen Daten nach eigenen Angaben innerhalb von 24 Stunden und behält nur das Ergebnis, also eine Altersgruppe3.
Wie ernst Aufsichtsbehörden das nehmen, zeigt Italien. Die dortige Datenschutzbehörde verhängte gegen Luka Inc., das Unternehmen hinter Replika, im April 2025 ein Bußgeld von 5 Millionen Euro4. Bis Februar 2023 fehlten nach ihrer Feststellung eine Rechtsgrundlage für die Datenverarbeitung und eine Altersprüfung, obwohl Minderjährige angeblich ausgeschlossen waren; die heutige Altersprüfung weise nach technischen Prüfungen weiterhin mehrere Mängel auf4. Die Datenverarbeitung über den gesamten Lebenszyklus des zugrunde liegenden KI-Systems will die Behörde in einem eigenen Verfahren prüfen4.
Woran du eine seriöse App erkennst
Vor dem Herunterladen lohnt ein Blick auf einige Punkte, die nichts mit Technik zu tun haben. Nennt der Anbieter ein Unternehmen mit Anschrift und einen Ansprechpartner für Datenschutz? Erklärt er verständlich, ob deine Gespräche zum Training verwendet werden, und kannst du einzelne Erinnerungen oder den ganzen Verlauf löschen? Prüft die App das Alter, wenn sie sich nur an Erwachsene richtet?
Aufschlussreich ist auch, wie ein Bot reagiert, wenn jemand von Selbstverletzung oder Suizid schreibt. Ein verantwortungsvoll gebautes System nennt dann Hilfsangebote und versucht nicht, das Gespräch einfach weiterzuführen. Solche Schutzregeln heißen in der Fachsprache Guardrails. Fehlen sie oder lassen sie sich mit ein paar Sätzen umgehen, ist die App für Menschen in einer schwierigen Lage ungeeignet.
Ersetzt ein Chatbot eine Therapie?
Für Menschen mit psychischen Erkrankungen mahnt die zuständige Fachgesellschaft zur Vorsicht. Die Deutsche Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde (DGPPN) hat im November 2026 ein Positionspapier zum Einsatz von KI vorgelegt2. Darin heißt es, allgemeine Chatbots wie ChatGPT seien nicht für Menschen mit psychischen Erkrankungen entwickelt, und ihr unregulierter Einsatz könne für diese Menschen gefährlich sein2. Eigens entwickelte Programme könnten laut DGPPN in Studien wirksam sein, vor allem bei leichten bis mittelschweren Beeinträchtigungen2. Grundsätzlich sieht die Fachgesellschaft in KI durchaus Nutzen für die Versorgung: Daten von Sensoren am Körper könnten helfen, Krisen oder Rückfälle früher zu erkennen, und wenn Programme Dokumentation und Verwaltung übernehmen, bleibt Ärzten und Therapeuten mehr Zeit für ihre Patienten2. Gemeint sind Werkzeuge, mit denen Fachleute in Klinik und Praxis arbeiten.
Die DGPPN fordert verbindliche Standards: Solche Systeme sollen wie andere Medizinprodukte vor der Zulassung auf Sicherheit, Wirksamkeit und Nutzen geprüft werden, und Patienten sollen erkennen können, wann sie mit einer KI sprechen2. Diese Erkennbarkeit verlangt auch die KI-Verordnung der EU mit ihren Regeln zur KI-Kennzeichnung: Wer mit einem Chatbot spricht, soll erfahren, dass am anderen Ende eine Maschine antwortet7.
Ein Chatbot kann helfen, Gedanken zu sortieren oder ein Gespräch mit der Hausärztin vorzubereiten. Dass ein Chatbot eine Krise zuverlässig erkennt, ist nicht belegt. Die vzbv-Tests zeigen, dass er Aussagen oft unkritisch bestätigt und mitunter gefährliche Ratschläge gibt1. Bei Depressionen, Angst, Essstörungen oder Suizidgedanken gehören Ärztinnen, Psychotherapeuten und Beratungsstellen an deine Seite.
Wo du Hilfe findest
Die TelefonSeelsorge hat mehr als 7.700 ehrenamtliche Mitarbeitende, die für solche Gespräche ausgebildet sind und regelmäßig geschult werden6. Neben dem Telefon gibt es Chat, Mail, Beratung vor Ort und die App KrisenKompass zur Selbsthilfe6. Für eine längerfristige Behandlung ist die Hausarztpraxis ein guter erster Anlaufpunkt, sie kann an Fachärzte überweisen; eine psychotherapeutische Sprechstunde kannst du auch direkt anfragen.
Eltern, deren Kinder viel Zeit mit Chatbots verbringen, finden Hinweise unter KI für Kinder. Hilfreich ist, gemeinsam anzuschauen, was der Bot schreibt, und offen darüber zu reden, statt die App heimlich zu löschen.

Was das für dich heißt
Ein KI-Begleiter darf dir guttun, solange er nicht der einzige ist, mit dem du redest.
- Leg dir feste Zeiten fest und beobachte, ob du echte Kontakte deswegen vernachlässigst.
- Lies die Datenschutzhinweise der App und lösch Erinnerungen und Verläufe, die du nicht gespeichert haben willst.
- Erzähl dem Bot keine Gesundheitsdaten, Adressen oder Kontodaten.
- Ruf bei Krisen oder Suizidgedanken die TelefonSeelsorge an oder wende dich an deine Hausarztpraxis.
Häufige Fragen
Sind KI-Freundin-Apps gefährlich?
Nicht für jeden, aber sie sind darauf ausgelegt, dass du möglichst viel Zeit mit ihnen verbringst. Riskant wird es, wenn echte Kontakte zurückgehen, du viel Geld ausgibst oder der Bot bei ernsten Problemen die einzige Anlaufstelle ist.
Darf ich einem KI-Partner private Dinge erzählen?
Rechne damit, dass der Anbieter deine Nachrichten speichert und teils auswertet. Lies vorher die Datenschutzhinweise und teile keine Gesundheitsdaten, Adressen oder Fotos, die du nicht verbreitet sehen willst.
Kann eine KI-Therapie-App helfen?
Speziell entwickelte Programme können laut DGPPN in Studien bei leichten bis mittelschweren Beeinträchtigungen wirksam sein. Allgemeine Chatbots sind dafür nicht gebaut und ersetzen keine Behandlung.
Ab welchem Alter sind KI-Begleiter erlaubt?
Das legt jeder Anbieter selbst fest; Replika etwa ist nur für Erwachsene ab 18 Jahren gedacht. Prüf vor der Nutzung die Altersangabe in den Bedingungen.
Quellen
Stand:
- Verbraucherzentrale Bundesverband: KI als riskanter Ratgeber für junge Menschen, Stand 02.11.2026, abgerufen am 22.11.2026. zurück
- DGPPN (über idw): Positionspapier: Einsatz von KI in Psychiatrie und Psychotherapie, Stand 03.11.2026, abgerufen am 22.11.2026. zurück
- Replika (Luka Inc.): Privacy Policy, Stand 28.10.2026, abgerufen am 22.11.2026. zurück
- Europäischer Datenschutzausschuss (EDPB): AI: the Italian Supervisory Authority fines company behind chatbot Replika, Stand 21.05.2025, abgerufen am 22.11.2026. zurück
- TechCrunch: Character.AI is ending its chatbot experience for kids, Stand 29.10.2025, abgerufen am 22.11.2026. zurück
- TelefonSeelsorge Deutschland: Startseite: Kontakt per Telefon, Chat und Mail, Stand 2026, abgerufen am 22.11.2026. zurück
- Europäische Kommission: AI Act: Regulatory framework for AI, Stand 19.10.2026, abgerufen am 22.11.2026. zurück





