Sind NSFW-KI-Chats privat? Was die Apps speichern, und das Muah.ai-Datenleck

Sind NSFW-KI-Chats privat? Nicht so, wie die meisten annehmen. Deine Chats liegen auf den Servern des Unternehmens, sind für das Unternehmen lesbar und werden bei mehreren Apps zum Training von Modellen genutzt oder von Mitarbeitenden geprüft, wenn ein Filter anschlägt. 2024 verlor eine „unzensierte“ App, Muah.ai, ihre Datenbank, und Prompts, die mit 1,9 Millionen E-Mail-Adressen verknüpft waren, gerieten in die Hände eines Hackers. Es folgten Erpressungsversuche.

Dieser Ratgeber erklärt, was bei Muah.ai passiert ist, was die von uns verglichenen Apps angeblich speichern und warum, und die wenigen Gewohnheiten, die den Schaden begrenzen, wenn eine davon als Nächstes gehackt wird.

Was ist beim Muah.ai-Datenleck passiert?

Im September 2024 erbeutete ein Hacker die Datenbank von Muah.ai: 1,9 Millionen E-Mail-Adressen, verknüpft mit den Prompts, die Nutzer geschrieben hatten.

404 Media hat die Geschichte am 8. Oktober 2024 aufgedeckt¹. Der Hacker beschrieb die Seite als „eine Handvoll zusammengeklebter Open-Source-Projekte“ und sagte, der Zugriff auf die Datenbank sei leicht gewesen. Die Daten verknüpften die Prompts der Nutzer, in denen sie ihre sexuellen Fantasien detailliert beschreiben, mit ihren E-Mail-Adressen, von denen viele wie private Konten mit echten Namen aussahen. 404 Media fand außerdem viele Prompts, die Szenarien mit sexuellem Kindesmissbrauch verlangten, was illegal ist.

Have I Been Pwned, der Benachrichtigungsdienst für Datenlecks des Sicherheitsforschers Troy Hunt, führt das Datenleck² mit Datum 17. September 2024 auf, betroffen sind 1.910.261 Konten und drei Arten von Daten: KI-Prompts, E-Mail-Adressen und sexuelle Fetische. Der Dienst hat das Datenleck als sensibel eingestuft, sodass nur jemand, der nachweist, dass ihm eine Adresse gehört, prüfen kann, ob sie enthalten ist. Hunt schrieb in seinem wöchentlichen Update³, dass das darin enthaltene Material mit Kindesmissbrauch "massenhaft" vorhanden sei.

Laut Malwarebytes, das 404 Media zusammenfasst⁴, machte der Administrator von Muah Konkurrenten aus der "uncensored AI industry" verantwortlich und erklärte, Moderatoren würden alle Bots mit Kinderbezug löschen. Innerhalb weniger Tage ergänzte Malwarebytes, die Daten würden für "active extortion attempts" genutzt, und die Kanzlei Linklaters⁵ schrieb über dieselben Drohungen. Zwei Jahre später läuft Muah weiter, die Datenschutzerklärung⁶ trägt immer noch das Datum Mai 2022, und in den Nutzungsbedingungen wird keine juristische Firma genannt. Mehr dazu findest du in unserem Muah AI-Test.

Ist das auch bei anderen KI-Chat-Apps passiert?

Ja. 2025 haben zwei Companion-Apps 43 Millionen Nachrichten auf einem Server hinterlassen, den jeder öffnen konnte.

Im Oktober 2025 berichtete Malwarebytes⁷ über eine Untersuchung von Cybernews zu Chattee Chat und GiMe Chat, zwei Apps eines Entwicklers aus Hongkong. Ein Server ohne Passwort hatte 43 Millionen Nachrichten sowie mehr als 600.000 Bilder und Videos von über 400.000 Nutzern offengelegt, dazu KaufbelegeLink, IP-Adressen und Geräte-IDs. Niemand musste etwas hacken.

Beide Fälle folgen demselben Muster: kleine Unternehmen, dünne technische Basis, und die sensibelsten Texte, die ein Mensch schreiben kann, liegen neben Daten, die ihn identifizieren. Schon im Februar 2024 prüfte die Mozilla Foundation 11 romantische KI-Chatbots⁸ und vergab für jeden einzelnen den Warnhinweis "Privacy Not Included".

Altersprüfungen bringen eine neue Art von Daten mit sich, die verloren gehen können. Im Oktober 2025 teilte Discord mit, dass bei etwa 70.000 Nutzern Fotos von amtlichen Ausweisen über einen externen Kundendienstanbieter offengelegt worden sein könnten, der altersbezogene Einsprüche bearbeitete, wie The Record berichtete²⁵. Da immer mehr NSFW-Apps ein Selfie oder einen Ausweis verlangen, zeigt unser Leitfaden zur Altersverifizierung, wie du diesen Schritt möglichst risikoarm hältst.

Was speichern NSFW-KI-Chat-Apps über dich?

Deine Chats, Charaktere, Kontodaten, Gerätedaten und Zahlungsdaten, meist so lange, wie dein Konto besteht, und manchmal noch Jahre danach.

Aus den Richtlinien, die wir im November 2026 gelesen haben:

• Die Datenschutzerklärung⁹ von Kupid AI bewahrt personenbezogene Daten sechs Jahre lang auf, nachdem du kein Nutzer mehr bist.
• DreamGF nennt keine Aufbewahrungsfrist, und in den Nutzungsbedingungen¹⁰ sichert sich das Unternehmen eine "perpetual" und "irrevocable" Lizenz an dem, was du erstellst.
• Die Richtlinie¹¹ von Saucepan bewahrt Chats auf, bis du sie oder dein Konto löschst.
• Janitor AI erfasst laut Datenschutzerklärung¹² Chats, Charaktere, IP- und Gerätedaten und behält einige Daten, etwa deine E-Mail-Adresse, auch nach der Löschung deines Kontos.
• Laut der Richtlinie¹³ von PolyBuzz verkauft das Unternehmen keine Daten, nennt aber Meta, Google und AppLovin für Analyse und Werbung und sagt nicht, wie lange Chats gespeichert werden.

Trainieren diese Apps KI mit deinen Chats?

Einige sagen ja, eine sagt nur mit deinem Opt-in, und mehrere sagen gar nichts dazu.

• Nur per Opt-in: Saucepan sagt, das Training mit deinen Daten sei standardmäßig aus und werde anonymisiert, wenn du es einschaltest. Das ist die klarste Regelung in unserem Vergleich.
• Ja: In der Datenschutzerklärung¹⁴ von Candy.ai steht, dass das Unternehmen seine KI- und Moderationsmodelle mit Nutzerinteraktionen trainieren darf, mit menschlicher Prüfung anonymisierter Chats, und dass Nachrichten an externe LLM-Anbieter gehen.
• Mit Erlaubnis: PolyBuzz bittet darum, hochgeladene Fotos und den genauen Standort zum Training seiner KI zu verwenden.
• Nicht angegeben: Janitor AI, DreamGF, Kupid und Muah sagen nicht, ob Chats Modelle trainieren.

Wenn du bei Janitor oder Saucepan deinen eigenen API-Schlüssel nutzt, gehen deine Chats zusätzlich an diesen Modellanbieter, nach dessen eigener Richtlinie. Prüfe, ob er Prompts speichert und damit trainiert, bevor du etwas Persönliches sendest.

Wer kann deine Chats lesen?

Das Unternehmen kann das. Bei den meisten Erotik-Apps können gemeldete Chats von einer Person überprüft werden.

Der Grund ist die Moderation. In der Richtlinie zu blockierten Inhalten¹⁵ von Candy.ai steht, dass gemeldete Inhalte und andere Inhalte des Kontos manuell geprüft werden können. Kupid und DreamGF beschreiben beide menschliche Prüfer. DreamGF sagt, Mitarbeiter lesen Chats nur, wenn du ein Problem meldest; laut den FAQ von PolyBuzz können Mitarbeiter sie nicht sehen. Keine dieser Apps bietet Ende-zu-Ende-Verschlüsselung, denn die KI auf ihrem Server muss lesen, was du schreibst. In unserem Ratgeber dazu, was "uncensored" bedeutet, erfährst du, warum die Filter und die Prüfer dahinter nicht verschwinden werden.

Können deine Chats an die Polizei oder ein Gericht weitergegeben werden?

Ja. Datenschutzerklärungen behalten sich das Recht vor, Daten an Behörden und aufgrund von Gerichtsbeschlüssen weiterzugeben, und US-Unternehmen müssen Material über sexuellen Kindesmissbrauch melden.

Die Datenschutzerklärung¹⁴ von Candy.ai ist typisch. Sie nennt EverAI Limited, ein in Malta registriertes Unternehmen, als Betreiber, führt "legal and regulatory authorities, as required by applicable laws and regulations" unter denen auf, an die Daten weitergegeben werden, und nennt "reporting to law enforcement in appropriate cases" und "compliance with court orders" als Gründe für die Verarbeitung deiner Daten. Außerdem heißt es dort, dass LLM-Anbieter von Drittparteien "may receive the content of your messages".

Eine Kategorie ist für das Unternehmen nicht optional. Nach 18 U.S.C. 2258A¹⁹ muss ein Anbieter, der von offensichtlichem Material über sexuellen Kindesmissbrauch erfährt, dies der CyberTipline des NCMEC melden, und die Meldung gilt als Aufforderung, diese Inhalte ein Jahr lang aufzubewahren. Das Löschen deines Kontos macht eine Meldung oder eine rechtliche Aufbewahrungspflicht nicht rückgängig. Für gewöhnliches Rollenspiel unter Erwachsenen gilt das alles nicht, aber es ist ein weiterer Grund, einen Chatverlauf als Protokoll zu behandeln und nicht als Tagebuch.

Wie löschst du deine Daten?

Bei den meisten Apps kannst du dein Konto in den Einstellungen löschen; bei ein paar wenigen musst du ihnen noch immer eine E-Mail schreiben.

• Janitor AI: Du löschst dein Konto selbst mit einem E-Mail-Code, danach folgt eine Karenzzeit, laut Hilfecenter¹⁶. Einige Daten, etwa deine E-Mail-Adresse, werden aufbewahrt.
• Candy.ai: Lösche das Konto in den Einstellungen, laut Help Center¹⁷; laut Datenschutzhinweis werden Kontodaten bis zu drei Jahre nach deiner letzten Aktivität aufbewahrt.
• Saucepan und PolyBuzz: Chats oder das Konto kannst du in der App löschen; PolyBuzz gibt an, dass Backups erst später gelöscht werden.
• DreamGF: Nutzer in der EU und in Großbritannien können die Löschung verlangen; laut DreamGF wird sie innerhalb von 30 Tagen bearbeitet.
• Muah AI: nur per E-Mail, nach einer Datenschutzerklärung, die vor dem Datenleck verfasst wurde.

Das Löschen erreicht keine Kopien, die bereits abgegriffen wurden. Wenn deine Adresse Teil eines Datenlecks war, entfernt das Löschen des Kontos sie jetzt nicht mehr aus den geleakten Daten. Deshalb sind die folgenden Gewohnheiten wichtiger als jede nachträgliche Aufräumaktion.

Welche Rechte hast du an deinen Daten?

In der EU und in Kalifornien kannst du verlangen, dass deine Daten gelöscht werden, und sexuelle Daten genießen zusätzlichen Schutz. Anderswo bist du größtenteils auf die Richtlinien der App selbst angewiesen.

Nach der DSGVO der EU gehören Daten über das "Sexualleben oder die sexuelle Orientierung" einer Person zu einer besonderen Datenkategorie, deren Verarbeitung Artikel 9²⁰ Unternehmen untersagt, sofern keine Ausnahme greift – meist deine ausdrückliche Einwilligung. Das Recht auf Löschung²¹ in Artikel 17 erlaubt es dir, ein Unternehmen aufzufordern, deine Daten zu löschen; das Unternehmen muss dies "unverzüglich" tun, etwa wenn du deine Einwilligung widerrufst. In Kalifornien listet die CCPA-Seite des Generalstaatsanwalts des Bundesstaats²² die Rechte auf Auskunft, Löschung und Berichtigung deiner Daten sowie auf Einschränkung der Nutzung sensibler Daten auf, zu denen auch Informationen über dein "Sexualleben oder deine sexuelle Orientierung" zählen. Unternehmen müssen innerhalb von 45 Kalendertagen antworten; diese Frist kann einmalig um weitere 45 Tage verlängert werden.

Um diese Rechte wahrzunehmen, schick deine Anfrage von der E-Mail-Adresse deines Kontos an die Kontaktadresse in der Datenschutzerklärung der App, nenne darin das Gesetz, auf das du dich berufst, verlange die Löschung von Chats, Charakteren, Bildern und etwaigen ID-Unterlagen und bewahre eine Kopie mit Datum auf. Nennt die App weder ein Unternehmen noch eine Adresse, wie es bei Muah der Fall ist, gibt es niemanden, an den du die Anfrage schicken könntest.

Aufsichtsbehörden gehen gegen Chatbot-Anbieter tatsächlich vor. Die italienische Datenschutzbehörde hat gegen Luka Inc., das US-Unternehmen hinter der Companion-App Replika, eine Geldbuße von 5 Millionen € verhängt, wie der Europäische Datenschutzausschuss²³ berichtet. Die Entscheidung vom 10. April 2025 stellte fest, dass Luka bis Februar 2023 keine Rechtsgrundlage für die Datenverarbeitung hatte, eine unzureichende Datenschutzerklärung führte und weder bei der Anmeldung noch während der Nutzung das Alter überprüfte. Mehr speziell zu Companion-Apps findest du in MeetWaifus Leitfaden zum Datenschutz bei KI-Freundin-Apps (unser eigener), der Replika und andere Apps im Girlfriend-Stil abdeckt.

Reicht der Inkognito-Modus oder ein VPN?

Nein. Inkognito verhindert nur, dass dein eigener Browser einen Verlauf speichert, und ein VPN verbirgt nur deine IP-Adresse. Die App kennt trotzdem dein Konto, deine E-Mail-Adresse und deine Karte.

Auf der Chrome-Hilfeseite²⁴ von Google steht, dass Inkognito nach der Sitzung keinen "Eintrag der besuchten Websites" speichert, dich aber "nicht unsichtbar macht": Websites können weiterhin Informationen über dich sammeln, und deine Schule, dein Arbeitgeber oder dein Internetanbieter können möglicherweise deine Aktivitäten sehen. Inkognito ist also auf einem gemeinsam genutzten Computer nützlich, gegen die App selbst aber wirkungslos, denn sie speichert jeden Chat auf ihrem Server, verknüpft mit deinem Login.

Ein VPN verbirgt deine IP-Adresse vor der App und dein Surfverhalten vor deinem Internetanbieter. Es ändert nichts an der E-Mail-Adresse, mit der du dich angemeldet hast, an der Karte, mit der du bezahlt hast, oder an dem, was du tippst, und genau das ist bei Muah.ai abgeflossen. Die einzige Möglichkeit, bei der Chats nie auf einem Firmenserver landen, ist, das Modell auf deinem eigenen Computer laufen zu lassen, was in unserem Leitfaden zu Janitor-AI-Alternativen beschrieben ist. Für einen breiteren Überblick zu E-Mail, Passwörtern und Zahlungen auf Erwachsenenseiten lohnt sich als Nächstes SexyGirls' Leitfaden zum Datenschutz auf Erwachsenenseiten (unser eigener).

So nutzt du NSFW-KI-Chat privater

• Nutze eine E-Mail-Adresse nur dafür. Das Muah.ai-Leak war so schlimm, weil die Prompts neben den echten Adressen der Leute standen.
• Lass echte Namen, Orte, Arbeitgeber und Fotos weg, deine eigenen wie die anderer. Die meisten Apps verbieten ohnehin echte Personen in sexuellen Inhalten.
• Wähle ein Unternehmen mit Namen und Adresse. Bei einer App, in deren Nutzungsbedingungen keine juristische Person genannt wird, gibt es niemanden, den eine Aufsichtsbehörde erreichen kann.
• Prüfe den Abrechnungsnamen. Candy.ai rechnet als EverAI ab und DreamGF als "Dream AI"; wisse, was auf einem gemeinsamen Kontoauszug erscheint, bevor du zahlst. Unser Kostenratgeber behandelt Abrechnung und Rückerstattungen.
• Lösche, was du nicht brauchst. Lösche alte Chats und dann das Konto, wenn du aufhörst. Aufbewahrungsfristen wie die sechs Jahre bei Kupid beginnen erst, wenn du gehst.
• Sei vorsichtig bei Ausweisprüfungen. Lade einen Ausweis nur bei einem namentlich genannten Anbieter für Altersverifikation hoch, nie per E-Mail; siehe Altersverifikation bei NSFW-KI-Chats.

Die sicherste Annahme ist einfach: Alles, was du in eine KI-Chat-App tippst, könnte eines Tages von jemand anderem gelesen werden. Schreib entsprechend.