Bild: KI-generiert

Geschrieben von Michael Radtke · Zuletzt aktualisiert: 18. Juni 2026

EU-Parlament stimmt zu: Verbot für sexualisierte Deepfake-KI

Das Europäische Parlament hat im Juni 2026 ein Verbot von KI-Systemen gebilligt, die nicht-einvernehmliche sexualisierte Deepfakes erzeugen – also Werkzeuge, die echte Menschen ohne deren Zustimmung in intime oder pornografische Darstellungen verwandeln. Der Schritt ist Teil eines größeren Pakets zur Anpassung des EU-KI-Gesetzes und richtet sich vor allem gegen sogenannte „Nudifier"-Apps. Was genau beschlossen wurde, was es für Betroffene bedeutet und wo die Umsetzung noch hakt – hier der sachliche Überblick.

Das Wichtigste in Kürze

Das EU-Parlament hat ein Verbot von KI zur Erzeugung nicht-einvernehmlicher sexualisierter Deepfakes gebilligt.
Erfasst sind auch Systeme, die Material über Minderjährige erzeugen könnten; auch das gezielte Erstellen solcher Inhalte soll untersagt sein.
Auslöser war ein internationaler Aufschrei über Nacktbild-Generatoren, unter anderem rund um den KI-Chatbot Grok.
Bußgelder können bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes betragen.
Es ist noch nicht das letzte Wort: Der Text muss final mit dem Rat abgestimmt werden, und die Durchsetzung ist offen.

Was das EU-Parlament beschlossen hat

Das Parlament stimmte für Regeln, die KI-Systeme verbieten, deren Zweck die Erstellung nicht-einvernehmlicher intimer Darstellungen ist. Konkret geht es um Software, die sexuell explizite oder intime Bilder erzeugt oder manipuliert, die einer identifizierbaren realen Person ähneln – ohne deren Einwilligung. Auch das absichtliche Erstellen solcher Inhalte durch Nutzer soll untersagt werden. Das Verbot ist Teil des sogenannten „AI Omnibus", einer Sammlung von Änderungen am EU-KI-Gesetz, auf die sich die Gremien zuvor verständigt hatten. Betroffene Systeme könnten bis Ende 2026 vom EU-Markt genommen werden.

Wichtig: Das Verbot zielt auf Werkzeuge, die gezielt für solche Inhalte gebaut oder vermarktet werden. Allgemeine KI-Anwendungen, die wirksame Schutzmaßnahmen gegen die Erzeugung solcher Inhalte haben, sind nach dem Vorschlag nicht betroffen – viele Anbieter setzen solche Sperren bereits ein.

Der Auslöser: Nacktbild-Generatoren und der Grok-Fall

Der politische Druck entstand nach einer Welle massenhaft erzeugter, herabwürdigender Darstellungen realer Personen – ein großer Teil davon entstand mit dem Bildgenerator des Chatbots Grok und wurde öffentlich verbreitet. Auch gefälschte intime Darstellungen prominenter Frauen sorgten für Empörung. Mehrere EU-Stellen leiteten Untersuchungen ein, unter anderem nach den Regeln für digitale Dienste und zum Datenschutz. Wie sehr die Anbieter solcher Werkzeuge in der Verantwortung stehen, ordnet Deepfakes und Deepnudes: Sind die KI-Anbieter die wahren Ermöglicher? ein, und was der konkrete Fall für Betroffene bedeutet, zeigt Der Grok-Fall.

Warum das wichtig ist

Hinter dem nüchternen Gesetzestext steht ein massives, reales Problem. Nicht-einvernehmliche Darstellungen sind keine Randerscheinung, sondern der Normalfall solcher Inhalte – mit überwältigender Mehrheit richten sie sich gegen Frauen.

98 %der KI-Pornovideos sind nicht-einvernehmlich

99 %richten sich gegen Frauen

35 Mio. €mögliches Bußgeld (oder 7 % Umsatz)

Für Betroffene bedeutet das tiefe Eingriffe in Würde, Selbstbestimmung und Privatsphäre, oft mit anhaltenden psychischen Folgen. Solche Bilder sind eine Form digitaler Gewalt – wie sich diese erkennen und abwehren lässt, behandelt Wenn Technik zur Waffe wird. Und dass der Missbrauch der eigenen Identität zu den zentralen Risiken der digitalen Welt zählt, zeigt Die Zukunft des Identitätsdiebstahls.

Was bei Verstößen droht

Verstöße gegen die Verbote des KI-Gesetzes können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Betrag höher ist. Parallel wurde die Pflicht zur Kennzeichnung (Wasserzeichen) KI-generierter Inhalte vorgezogen: Sie soll bereits ab dem 2. November 2026 gelten statt wie ursprünglich geplant erst 2027. Das soll helfen, KI-Material überhaupt als solches erkennbar zu machen.

Offene Fragen: die Durchsetzung

So deutlich das Signal ist – an der praktischen Umsetzung gibt es Kritik. Fachleute weisen darauf hin, dass viele nationale Behörden noch gar nicht die rechtlichen Mittel haben, das Verbot durchzusetzen.

Diese Punkte sind noch ungeklärt:

Wer setzt es durch? Erst wenige Mitgliedstaaten haben eine zuständige Marktaufsichtsbehörde benannt.
Nationale Gesetze fehlen. Ohne sie können die Behörden in vielen Ländern noch nicht eingreifen.
Kein „striktes Verbot". Manche Aufsichtsstellen sehen eher Auflagen als ein hartes Verbot.
Noch nicht final. Der Text muss vom Rat angenommen und im EU-Amtsblatt veröffentlicht werden.

Die Diskussion zeigt ein grundsätzliches Spannungsfeld: Wie reguliert man eine Technologie, die sich schneller verbreitet als Regeln greifen können? Einen Blick auf diese Debatte wirft Gefährliche KI kommt, egal was passiert.

Deepfakes betreffen am Ende alle

Sexualisierte Deepfakes sind die drastischste, aber nicht die einzige Form des Missbrauchs. Dieselbe Technik treibt Betrug, Erpressung und Desinformation – und macht es immer schwerer, Echtes von Gefälschtem zu unterscheiden. Wie KI-Deepfakes in Betrugsmaschen eingesetzt werden, zeigt 100 Videoanrufe pro Tag, und wie gefälschte Promi-Werbung funktioniert, erklärt Gefälschte Werbung mit Promis und Deepfakes erkennen. Dass die Echtheitsprüfung im Netz immer schwerer wird, behandeln Werden wir bald niemandem mehr glauben können? und Wenn der Bullshit-Detektor versagt. Wie Kriminelle KI generell nutzen, zeigen KI-Betrug und Wie Cyberkriminelle KI nutzen.

Auch der Schutz der eigenen Daten und Bilder spielt eine Rolle: Je weniger Material öffentlich verfügbar ist, desto schwerer wird Missbrauch – ein Gedanke, den Wer nichts zu verbergen hat und Digitale Identität vertiefen. Wie schnell biometrische Daten zum Problem werden, zeigt Meta und die Gesichtserkennung.

Wenn du selbst betroffen bist: Du bist nicht schuld, und du bist nicht allein. Sichere Beweise (Links, Screenshots, Datum), melde die Inhalte direkt bei der jeweiligen Plattform zur Entfernung und erstatte Anzeige bei der Polizei – nicht-einvernehmliche intime Darstellungen sind in vielen Ländern strafbar. Spezialisierte Beratungsstellen für Betroffene digitaler Gewalt können zusätzlich unterstützen und beim Löschen helfen.

Häufige Fragen zum EU-Verbot sexualisierter Deepfakes

Was genau hat das EU-Parlament beschlossen?

Es hat ein Verbot von KI-Systemen gebilligt, die nicht-einvernehmliche sexualisierte oder intime Darstellungen identifizierbarer realer Personen erzeugen. Auch das absichtliche Erstellen solcher Inhalte soll untersagt sein. Das Verbot ist Teil von Änderungen am EU-KI-Gesetz.

Was sind „Nudifier"-Apps?

Damit sind Werkzeuge gemeint, die aus Fotos realer Menschen ohne deren Zustimmung intime oder pornografische Darstellungen erzeugen. Sie richten sich überwiegend gegen Frauen und teils gegen Minderjährige und dienten oft kommerziellen Zwecken.

Sind dadurch alle KI-Bildgeneratoren verboten?

Nein. Das Verbot zielt auf Systeme, die gezielt für solche Inhalte gebaut oder vermarktet werden. Allgemeine KI-Anwendungen mit wirksamen Schutzmaßnahmen gegen die Erzeugung solcher Inhalte sind nach dem Vorschlag nicht betroffen.

Was war der Auslöser?

Ein internationaler Aufschrei über massenhaft erzeugte, herabwürdigende Darstellungen realer Personen, ein großer Teil davon mit dem Bildgenerator des Chatbots Grok. Hinzu kamen gefälschte intime Bilder prominenter Frauen und mehrere behördliche Untersuchungen.

Welche Strafen drohen?

Verstöße gegen die Verbote des KI-Gesetzes können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist.

Gilt das Verbot schon?

Noch nicht endgültig. Das Parlament hat zugestimmt, aber der Text muss mit dem Rat final abgestimmt und im EU-Amtsblatt veröffentlicht werden. Betroffene Systeme könnten bis Ende 2026 vom Markt genommen werden.

Warum gibt es Kritik an der Umsetzung?

Weil viele nationale Behörden noch nicht die rechtlichen Mittel haben, das Verbot durchzusetzen. Erst wenige Mitgliedstaaten haben eine zuständige Aufsicht benannt, und es fehlen noch nationale Gesetze. Manche sprechen daher eher von Auflagen als von einem strikten Verbot.

Was hat es mit der Wasserzeichen-Pflicht auf sich?

KI-generierte Inhalte sollen gekennzeichnet werden, damit sie als solche erkennbar sind. Diese Pflicht wurde vorgezogen und soll bereits ab dem 2. November 2026 gelten statt erst 2027.

Hilft das Verbot auch gegen Betrug mit Deepfakes?

Es zielt primär auf sexualisierte Inhalte. Die zugrunde liegende Technik treibt aber auch Betrug, Erpressung und Desinformation. Wachsamkeit und das Wissen, wie man Deepfakes erkennt, bleiben deshalb für alle wichtig.

Wie kann ich mich vor Deepfake-Missbrauch schützen?

Vollständig verhindern lässt es sich nicht, aber je weniger Bildmaterial öffentlich verfügbar ist, desto schwerer wird Missbrauch. Sparsamkeit bei öffentlichen Fotos, restriktive Privatsphäre-Einstellungen und Wachsamkeit gegenüber gefälschten Inhalten helfen.

Was kann ich tun, wenn ich Opfer geworden bin?

Beweise sichern, die Inhalte bei der Plattform zur Entfernung melden und Anzeige bei der Polizei erstatten. Nicht-einvernehmliche intime Darstellungen sind in vielen Ländern strafbar. Spezialisierte Beratungsstellen für Betroffene digitaler Gewalt können zusätzlich unterstützen.

Betrifft das nur die EU?

Das Gesetz gilt in der EU, hat aber Signalwirkung. Da viele Anbieter weltweit tätig sind, können EU-Regeln auch ihr Verhalten in anderen Märkten beeinflussen. Andere Länder beobachten die Entwicklung genau.