xAI will Anonymität mutmaßlicher Deepfake-Opfer aufheben: Was der Grok-Fall bedeutet
Elon Musks KI-Unternehmen xAI hat ein Gericht aufgefordert, vier unter Pseudonym klagende Personen zur Preisgabe ihrer echten Namen zu zwingen – andernfalls drohe ihnen, die Klage fallen lassen zu müssen. Die vier werfen xAI vor, dass mithilfe des Chatbots Grok nicht einvernehmliche sexualisierte Deepfake-Bilder von ihnen erstellt wurden, darunter mindestens eine minderjährige Person. Der Fall wirft eine schwierige Frage zum Schutz von Betroffenen vor Gericht auf – und steht inmitten einer ganzen Welle von Verfahren. Was geschieht, was rechtlich auf dem Spiel steht und welche Schutzmöglichkeiten es gibt.
Das Wichtigste in Kürze
- Antrag: xAI verlangt, dass vier anonym klagende mutmaßliche Opfer ihre Identität offenlegen.
- Vorwurf: Mit Grok sollen nicht einvernehmliche sexualisierte Deepfakes erstellt worden sein – ein Vorwurf, der gerichtlich noch nicht abschließend geklärt ist.
- Dilemma: Die Betroffenen fürchten bei Enttarnung Doxing, Belästigung und weitere Deepfakes.
- Kontext: Der Fall reiht sich in mehrere Klagen ein, auch wegen mutmaßlicher Darstellungen Minderjähriger.
- Wichtig: KI-generierte sexualisierte Darstellungen Minderjähriger sind Missbrauchsmaterial und strafbar.
Was der Fall ist
Vier Personen – in den Unterlagen nur als South Carolina Doe, South Carolina Roe, New Jersey Doe und Ohio Doe geführt – haben vor einem US-Bundesgericht in Nordkalifornien eine Sammelklage eingereicht. Ihr zentraler Vorwurf: Das Bildwerkzeug von Grok sei genutzt worden, um nicht einvernehmliche sexualisierte Deepfakes von ihnen zu erzeugen, wobei mindestens eine betroffene Person minderjährig sei. Am 15. Mai beantragte xAI, die Klagenden müssten unter ihren echten Namen auftreten: Das Zivilprozessrecht verlange grundsätzlich Klarnamen, und es gebe keinen ausreichenden Beleg für eine konkrete künftige Gefährdung, zumal die fraglichen Bilder unter Verschluss seien. Die Klagenden boten an, ihre Identität gegenüber xAI offenzulegen, sie aber im öffentlichen Register pseudonym zu halten. In eidesstattlichen Erklärungen vom 29. Mai schilderten sie schwere seelische Belastung und die Furcht, bei einer Enttarnung Ziel von Doxing, Belästigung und weiteren, womöglich noch drastischeren Deepfakes zu werden. Ihre Anwältin wertete den Schritt als Versuch, die Klagenden einzuschüchtern; eine Rechtswissenschaftlerin nannte einen Zwang zur Namensnennung unzumutbar. xAI verweist auf den Grundsatz offener Gerichtsverfahren. Wir geben beide Positionen attribuiert wieder; die Vorwürfe sind nicht abschließend gerichtlich entschieden.
NCII und CSAM
„NCII" (non-consensual intimate imagery) bezeichnet sexualisierte Aufnahmen, die ohne Einwilligung erstellt oder verbreitet werden – auch wenn sie per KI gefälscht sind. Sexualisierte Darstellungen von Minderjährigen sind unabhängig von der Erstellungsweise Missbrauchsmaterial (CSAM) und strafbar. Dieser Beitrag beschreibt keinerlei Inhalte oder Erstellungswege.
Das Dilemma der Anonymität
Im Kern steht ein echter Zielkonflikt. Auf der einen Seite das Prinzip offener Justiz und das Interesse einer beklagten Partei, zu wissen, wer sie verklagt. Auf der anderen Seite der Schutz mutmaßlicher Opfer sexualisierter Gewalt – in solchen Verfahren sind Pseudonyme gängige Praxis. Kritiker warnen, ein Zwang zur Namensnennung könne Betroffene davon abhalten, überhaupt zu klagen, und so faktisch Schutzlücken schaffen. Zugleich entscheidet das Gericht über eine Frage mit Signalwirkung: wie KI-Unternehmen haften, wenn ihre Werkzeuge für Belästigung missbraucht werden. Die Rechtsprechung zu anonymen Klägern in Zivilverfahren ist uneinheitlich, weshalb der Ausgang offen ist.
Der größere Kontext
Der Fall steht nicht allein. Nach der Einführung einer Ein-Klick-Bildbearbeitung auf der Plattform X im Winter berichteten mehrere Untersuchungen über massenhaften Missbrauch. Die Organisation Center for Countering Digital Hate (CCDH) schätzte, dass mit Grok in nur elf Tagen rund drei Millionen sexualisierte Bilder erzeugt worden seien; ein Teil davon habe mutmaßlich Minderjährige betroffen, ein großer Teil gezielt Frauen. Diese Zahlen sind als attribuierte Schätzungen der Organisation zu verstehen. xAI beschränkte die Funktion zwar auf zahlende Nutzer, doch Recherchen fanden Schutzmechanismen, die sich umgehen ließen. Parallel laufen weitere Verfahren – darunter eine Sammelklage im Namen minderjähriger Betroffener, eine kommunale Klage einer US-Stadt und ein Verfahren in Großbritannien. Eine erste Anhörung zum Verfahrensablauf ist für Mitte Juni angesetzt.
Rechtslage in Deutschland und der EU
In Deutschland greifen mehrere Schutznormen: Die unbefugte Herstellung oder Verbreitung sexualisierter Bilder kann den Tatbestand der Verletzung des höchstpersönlichen Lebensbereichs (§ 201a StGB) erfüllen; Darstellungen Minderjähriger fallen unter die strengen Vorschriften zu Missbrauchsmaterial (§ 184b StGB), die auch computergenerierte Inhalte erfassen. Hinzu kommen das Recht am eigenen Bild (§§ 22, 23 KunstUrhG) und die DSGVO. Auf EU-Ebene verlangt der AI Act Transparenz bei Deepfakes, und eine EU-Richtlinie zur Bekämpfung von Gewalt gegen Frauen adressiert nicht einvernehmliche Deepfakes ausdrücklich. Das ersetzt keine Rechtsberatung, zeigt aber: Betroffene sind hierzulande nicht schutzlos.
Was Betroffene tun können
- Beweise sichern: Screenshots, Links und Zeitstempel dokumentieren – aber Inhalte niemals selbst weiterverbreiten.
- Anzeige erstatten: Den Vorfall bei der Polizei melden; bei Darstellungen Minderjähriger umgehend die Behörden einschalten.
- Löschung veranlassen: Plattformen zur Entfernung auffordern; spezialisierte Dienste können die Verbreitung eindämmen.
- Unterstützung holen: Beratungsstellen bieten rechtliche und seelische Hilfe – du musst das nicht allein durchstehen.
- Keine Schuldgefühle: Die Verantwortung liegt bei den Tätern, nicht bei den Betroffenen.
Hilfe und Anlaufstellen
Wenn du selbst betroffen bist, bist du nicht allein. In Deutschland erreichst du das Hilfetelefon „Gewalt gegen Frauen" unter 116 016 (kostenlos, rundumdieUhr) und den Weissen Ring unter 116 006. Bei akuter Gefahr wähle den Notruf 110.
Zur Eindämmung der Verbreitung intimer Bilder gibt es für Erwachsene StopNCII.org; für Minderjährige existiert Take It Down. Hinweise und Meldewege rund um Online-Sicherheit bündelt zudem klicksafe.de.
Was der Fall lehrt
Über den Einzelfall hinaus geht es um „Safety by Design": KI-Bildwerkzeuge brauchen wirksame, nicht leicht umgehbare Schutzmechanismen – und Anbieter tragen Verantwortung dafür, wie ihre Werkzeuge eingesetzt werden können. Ebenso wichtig ist der Schutz der Betroffenen im Verfahren selbst, damit die Angst vor Enttarnung nicht zum zusätzlichen Hebel wird. Der Ausgang des Verfahrens dürfte beeinflussen, wie künftig Verantwortung und Opferschutz im Zeitalter generativer KI austariert werden.
Häufige Fragen (FAQ)
Worum geht es in dem xAI-Verfahren?
Warum wollen die Betroffenen anonym bleiben?
Sind KI-Deepfake-Nacktbilder in Deutschland strafbar?
Was sollte ich tun, wenn ich betroffen bin?
Welche Verantwortung tragen KI-Anbieter?
Im Sicherheits-Bereich behandeln wir Deepfakes, Bildgewalt und digitale Selbstverteidigung. Wir erklären, wie du dich schützt und wo du Hilfe findest. Aufklärung ist der erste Schutz.
Im Zukunfts-Bereich beleuchten wir, wie generative KI Chancen und Risiken verschiebt. Wir ordnen Entwicklungen nüchtern ein. So erkennst du Gefahren früh.
Im Tools-Bereich ordnen wir Werkzeuge für Privatsphäre, Bildprüfung und Schutz ein. Wir zeigen, worauf es bei der Nutzung ankommt. Praktisch und umsetzbar.
Im Blog greifen wir aktuelle Entwicklungen aus KI, Sicherheit und Recht auf und ordnen sie ein. Statt reiner Schlagzeilen findest du hier Kontext und Relevanz. Regelmäßige Beiträge halten dich auf dem Laufenden.
Quellen u. a.: Berichterstattung von WIRED auf Basis von Gerichtsdokumenten sowie eine Analyse des Center for Countering Digital Hate. Genannte Zahlen sind attribuierte Schätzungen; Vorwürfe sind nicht abschließend gerichtlich entschieden, es gilt die Unschuldsvermutung. Angaben ohne Gewähr; Informationsstand: Juni 2026.
Dieser Beitrag dient der Aufklärung, dem Opferschutz und der Prävention und stellt keine Rechtsberatung dar. Er beschreibt bewusst keine Inhalte oder Erstellungswege und verurteilt jede Form sexualisierter Bildgewalt – insbesondere gegen Minderjährige.