Deepfakes und Deepnudes: Sind die KI-Anbieter die wahren Ermöglicher des Missbrauchs?
Ein vielbeachteter Kommentar im Kuketz-Blog stellt eine unbequeme These auf: Nicht nur einzelne Täter, sondern vor allem die Anbieter mächtiger KI-Systeme seien die eigentlichen „Ermöglicher" von Deepfake-Missbrauch – und müssten zur Verantwortung gezogen werden, statt sich hinter dem Bild vom „neutralen Werkzeug" zu verstecken. Zugleich plädiert der Text dafür, auf Prävention statt auf immer mehr Repression und Massenüberwachung zu setzen. Wir fassen die Argumentation zusammen, ordnen die Faktenlage und die Rechtslage ein – und zeigen auch die Gegenargumente.
Das Wichtigste in Kürze
- Worum es geht: Deepnudes – mit KI erzeugte, nicht einvernehmliche Nacktdarstellungen realer Personen – verletzen Würde und Selbstbestimmung der Betroffenen massiv.
- Auslöser: Berichte über Musks KI Grok, die im „Spicy Mode" massenhaft sexualisierte Bilder erzeugt haben soll, darunter auch Darstellungen von Kindern.
- Rechtslage (DE): Die Herstellung von Darstellungen sexuellen Kindesmissbrauchs ist bereits strafbar; bei Deepfakes erwachsener Personen wird eine Regelungslücke und ein neuer Straftatbestand diskutiert.
- Kernthese des Kommentars: KI-Anbieter seien aktive Ermöglicher, nicht passive Werkzeuge – Verantwortung dürfe nicht allein auf Einzelnutzer abgewälzt werden; Prävention schlage Repression.
- Gegenperspektive: Fragen der Anbieterhaftung, der Dual-Use-Natur von KI und der Abwägung gegen Überwachung sind rechtlich und politisch umstritten.
Worum es geht: Deepfakes und Deepnudes
Deepfakes sind mit KI erzeugte oder veränderte Medien, die täuschend echt wirken. Besonders perfide sind sogenannte Deepnudes: nicht einvernehmlich erzeugte Nacktdarstellungen realer Menschen. Der Schaden ist real, auch wenn das Bild „künstlich" ist. Der Kommentar bringt es auf den Punkt: Betroffenen werde die Selbstbestimmung über das eigene digitale Abbild entrissen; sie würden zum Objekt herabgewürdigt. Es gehe um Demütigung, Hilflosigkeit, Angst – und um eine Verschiebung von Selbst- zu Fremdbestimmung, weil die Kontrolle über den „digitalen Zwilling" an Unbekannte und Unternehmen übergehe.
Deepfake / Deepnude
Ein Deepfake ist ein per KI erzeugtes oder manipuliertes, realistisch wirkendes Bild, Video oder Audio. Ein Deepnude ist eine nicht einvernehmliche, sexualisierte Darstellung einer realen Person. Solche Inhalte ohne Einwilligung zu erstellen oder zu verbreiten, verletzt Persönlichkeitsrechte und ist – je nach Fall – strafbar.
Der Auslöser: Berichte über Groks „Spicy Mode"
Anlass der Debatte sind Berichte über die KI Grok aus dem Umfeld von Elon Musk. Nach einer Ankündigung eines „Spicy Mode" Anfang 2026 entstand heftige Kritik. Medien und Forschung berichteten, das System habe in großem Umfang sexualisierte Deepfakes von Frauen erzeugt – und auch Darstellungen, die Kinder betreffen. Eine vom Guardian zitierte Untersuchung sprach von rund drei Millionen sexualisierten Bildern innerhalb von elf Tagen. Infolge der Kritik wurde der „Spicy Mode" Berichten zufolge auf zahlende Kunden beschränkt. Diese Angaben beruhen auf Berichterstattung und Forschung Dritter; sie verdeutlichen jedoch die Dimension des Problems.
Die Rechtslage in Deutschland und der EU
Hier trifft der Kommentar eine wichtige Unterscheidung. Bei Deepfakes erwachsener Personen wird aktuell über eine Regelungslücke und einen eigenen Straftatbestand diskutiert – Aufmerksamkeit erhielt das unter anderem durch die öffentlich gemachten Vorwürfe der Schauspielerin Collien Fernandes gegen ihren Ex-Mann. Bei Darstellungen, die Kinder betreffen, gibt es dagegen keine Lücke: Nach deutschem Strafrecht ist bereits die Herstellung – nicht nur die Verbreitung – solcher Inhalte strafbar. Auf EU-Ebene könnte ein Verbot über die KI-Verordnung greifen; diese ist allerdings eine Produktregulierung, die vor allem Unternehmen sanktioniert und – so das Argument des Kommentars – die verantwortlichen Personen oft nicht erreicht. Relevant für Persönlichkeitsrechte ist in Deutschland zudem § 201a StGB (Verletzung des höchstpersönlichen Lebensbereichs durch Bildaufnahmen).
Die Kernthese des Kommentars
Der Text wendet sich gegen eine verbreitete Erzählung: KI sei ein neutrales Werkzeug, das eben von Menschen missbraucht werde – Schuld trügen allein einzelne Nutzer. Aus Sicht des Kommentars greift das zu kurz. Eine Bild-KI sei kein passives Werkzeug wie eine Kamera, die ein Geschehen lediglich abbildet, sondern ein aktiver Ermöglicher: Sie übersetze eine bloße Beschreibung in eine konkrete Darstellung – und zwar so, wie der Hersteller das Modell trainiert und gestaltet habe. Wer eine solche Funktion plane und ausliefere, trage Verantwortung. Pointiert formuliert der Kommentar, eine KI brauche keine Ausziehfunktion
, weil absehbar sei, dass sie missbraucht werde.
Daraus leitet der Text zwei Forderungen ab. Erstens: weg von einer reinen Täter-Perspektive. Repressive Maßnahmen wirkten erst nach der Tat und zögen häufig Massenüberwachung wie Vorratsdatenspeicherung oder Chatkontrolle nach sich – Opfer schütze das nicht, denn der beste Schutz sei, gar nicht erst zum Opfer zu werden. Zweitens: eine gesellschaftliche und demokratische Entscheidung darüber, welche Technologie wir wollen und in wessen Händen sie liegt. Der Maßstab sei unverhandelbar: die Würde des Menschen – insbesondere von Kindern – sei unantastbar, und niemand stehe über dieser Regel.
Die andere Seite: Wo die Debatte umstritten ist
So eindringlich die Argumentation ist – einige ihrer Schlussfolgerungen betreffen umstrittene rechts- und gesellschaftspolitische Fragen, bei denen es verschiedene Positionen gibt. Befürworter einer stärkeren Anbieterhaftung verweisen darauf, dass Hersteller Schutzmechanismen einbauen und gefährliche Funktionen unterlassen könnten. Andere geben zu bedenken, dass KI-Systeme „dual use" sind, dass die Zurechnung von Verantwortung zwischen Hersteller, Plattform und Nutzer juristisch komplex ist und dass pauschale Haftung auch legitime Anwendungen treffen kann. Auch die Abwägung Prävention versus Strafverfolgung ist nicht eindeutig: Während Bürgerrechtler vor einer Ausweitung der Überwachung warnen, halten Sicherheitsbehörden bestimmte Ermittlungsbefugnisse für notwendig. Der Kommentar bezieht hier klar Position; die zugrunde liegenden Tatsachen – etwa die berichtete Erzeugung von Missbrauchsdarstellungen – sind davon zu trennen und vielfach belegt.
Ein gemeinsamer Nenner
Bei aller Uneinigkeit über die richtigen Mittel ist eines unstrittig: Nicht einvernehmliche sexualisierte Darstellungen – erst recht von Kindern – sind ein schwerer Eingriff in die Würde der Betroffenen und in vielen Fällen strafbar. Die Diskussion dreht sich nicht um das Ob des Schutzes, sondern um das Wie.
Was Betroffene tun können
- Keine Schuldgefühle: Die Verantwortung liegt bei den Tätern, nicht bei den Betroffenen.
- Beweise sichern: Inhalte, Links und Fundstellen dokumentieren (etwa per Screenshot), bevor du eine Löschung veranlasst.
- Anzeige erstatten: Solche Taten können strafbar sein – die Polizei ist die richtige Anlaufstelle.
- Spezialisierte Hilfe nutzen: Beratungsstellen für digitale Gewalt wie HateAid unterstützen Betroffene rechtlich und praktisch.
- Kinder schützen: Vermutete Darstellungen sexuellen Kindesmissbrauchs gehören umgehend zur Anzeige bei der Polizei; nicht selbst weiterverbreiten.
- Vorbeugen: Sparsam mit öffentlich zugänglichen Fotos umgehen und Privatsphäre-Einstellungen sozialer Netzwerke prüfen.
Häufige Fragen (FAQ)
Was sind Deepnudes?
Ist das Erstellen solcher Inhalte in Deutschland strafbar?
Was fordert der Kuketz-Kommentar?
Sind die KI-Anbieter rechtlich verantwortlich?
Was können Betroffene tun?
Im Zukunfts-Bereich beleuchten wir, wie KI unsere Gesellschaft verändert – mit ihren Chancen und ihren Schattenseiten. Wir ordnen ein, welche Verantwortung Anbieter und Nutzer tragen und wo Regulierung ansetzt. So kannst du die Debatte fundierter mitverfolgen.
In unserem Sicherheits-Bereich bündeln wir Analysen zu digitaler Gewalt, Identitätsmissbrauch und Schutzmaßnahmen. Wir erklären verständlich, welche Risiken real sind und wie du dich und deine Angehörigen schützt. So setzt du wirksame Maßnahmen um, bevor etwas passiert.
Im Blog greifen wir aktuelle Entwicklungen aus Sicherheit, Datenschutz und Technik auf und ordnen sie ein. Statt reiner Schlagzeilen findest du hier den Kontext und die praktische Relevanz für dich. Regelmäßige Beiträge halten dich auf dem Laufenden, ohne dass du selbst lange recherchieren musst.
Quellen: Kommentar „Deepfakes: Die technologischen Ermöglicher des Missbrauchs" im Kuketz-Blog (Autor „lacrosse", 1. April 2026) sowie darin verlinkte Berichterstattung von The Guardian, heise online und Der Spiegel. Aussagen zur Grok-KI beruhen auf Berichterstattung und Forschung Dritter; Angaben ohne Gewähr, Informationsstand: Juni 2026.
Dieser Beitrag fasst und ordnet einen Kommentar (Meinungsbeitrag) ein und stellt keine Rechtsberatung dar. Das Thema ist sensibel: Betroffene digitaler oder sexualisierter Gewalt finden Unterstützung bei spezialisierten Beratungsstellen; in akuten Fällen ist die Polizei die richtige Anlaufstelle.