Analyse · KI & Medien
Deepfakes und Herkunftsnachweis: Wie wir beweisen, was echt ist
Stand: Juni 2026 · Lesezeit ca. 9 Min · Faktenbasierte Einordnung
Das Wichtigste in 30 Sekunden
- Der Strategiewechsel: Fälschungen im Nachhinein zu erkennen, ist ein endloses Wettrennen. Der neue Ansatz dreht die Frage um – nicht „ist das gefälscht?", sondern „lässt sich die Echtheit nachweisen?".
- Content Credentials (C2PA): ein offener Standard, der Medien bei der Erstellung kryptografisch signiert – mit Angaben zu Urheber, Zeitpunkt, Werkzeugen, KI-Einsatz und jeder Bearbeitung.
- Breite Allianz: über 6.000 Mitglieder, darunter Adobe, Microsoft, Google, Meta, OpenAI und Kamerahersteller wie Leica, Sony, Nikon und Canon.
- Die ehrliche Grenze: Ein fehlender Nachweis ist kein Beweis für eine Fälschung. Metadaten gehen beim Hochladen oder per Screenshot leicht verloren.
- Die Pflicht kommt: Der AI Act (Art. 50) verlangt ab 2. August 2026 die Kennzeichnung KI-generierter Inhalte.
Zwei Jahre nachdem fotorealistische KI das Netz geflutet hat, lautet die entscheidende Frage 2026 nicht mehr: Kann die Maschine es fälschen? Dieser Kampf ist verloren. Die neue Frage ist: Kann der Betrachter es überprüfen? Die Antwort der Industrie heißt Herkunftsnachweis – und sie funktioniert anders, als die meisten denken.
Der Strategiewechsel: von Erkennung zu Herkunft
Lange galt: Gegen Deepfakes hilft bessere Erkennung. Doch das ist ein Wettrüsten ohne Ende. Jedes Mal, wenn die Erkennung besser wird, werden die Generatoren ebenfalls besser – ein Kreislauf, den die Fälscher tendenziell gewinnen. Der Herkunftsnachweis (Provenance) umgeht dieses Rennen, indem er die Echtheit nicht nachträglich prüft, sondern am Punkt der Erstellung festschreibt. Die Dringlichkeit ist real: Die Zahl erfasster Deepfake-Vorfälle stieg von rund 500.000 (2023) auf über 8 Millionen (2025); Prognosen sehen synthetische Inhalte bis 2026 einen Großteil aller Online-Medien ausmachen.
Content Credentials: der digitale Echtheits-Stempel (C2PA)
Das Herzstück ist der offene Standard C2PA (Coalition for Content Provenance and Authenticity), 2021 von Adobe, Arm, BBC, Intel, Microsoft und Truepic gestartet. Sein Kern, das „Content Credential", ist ein kryptografisch signiertes Datenpaket, das direkt in die Mediendatei eingebettet wird. Es hält fest, wer einen Inhalt erstellt hat, wann, mit welchen Werkzeugen, ob KI beteiligt war und jede spätere Bearbeitung. Jeder kompatible Betrachter kann das offline prüfen – ganz ohne zentrale Datenbank. Die Allianz ist groß: Bis Anfang 2026 zählte sie über 6.000 Mitglieder, darunter Google, Meta, OpenAI, Sony, Nikon und Leica – und Kameras, die schon bei der Aufnahme signieren.
Wasserzeichen als zweite Schicht (SynthID & Co.)
Neben den Metadaten arbeitet eine zweite Technik: unsichtbare Wasserzeichen, die direkt in die Pixel KI-erzeugter Medien eingebettet werden. Googles SynthID ist das bekannteste Beispiel. Weil reine Metadaten nicht immer haltbar sind, kombiniert etwa OpenAI Content Credentials mit SynthID. Der Vorteil geschlossener Anbieter: Sie können garantieren, dass jede Ausgabe ein Wasserzeichen trägt. Zusammen ergeben offener Metadaten-Standard, robustes Wasserzeichen und eine Prüfoberfläche den bislang vollständigsten Herkunfts-Stack.
Warum es allein nicht reicht
So vielversprechend das ist – es gibt klare Grenzen, die man kennen muss:
1. Kein Beweis fürs Gegenteil: Fehlt ein Nachweis, heißt das nicht, dass ein Bild gefälscht ist. Viele echte Dateien wurden nie signiert.
2. Metadaten sind flüchtig: Hochladen, Herunterladen, Screenshots, Verkleinern oder Formatwechsel können das Content Credential entfernen.
3. Wasserzeichen sind wegschneidbar und bei offenen Modellen (etwa Stable-Diffusion-Ableger) nicht erzwingbar – wer selbst kompiliert, lässt sie weg.
4. Datenschutz: Ein signiertes Foto kann Identität, GPS-Daten und Geräteseriennummer verraten. Für Journalisten und Whistleblower ein Risiko – C2PA hat dafür schwärzbare Angaben und Zero-Knowledge-Nachweise ergänzt.
Unabhängige Forschung bringt es auf den Punkt: Der Herkunftsnachweis ist notwendig, aber für sich allein nicht ausreichend. Er ist ein hochwertiges Signal – kein endgültiges Urteil.
Die Pflicht kommt: AI Act, Artikel 50
Aus der freiwilligen Technik wird teils Gesetz. Artikel 50 des AI Act verpflichtet Anbieter und Betreiber ab dem 2. August 2026, bestimmte KI-generierte und manipulierte Inhalte maschinenlesbar zu kennzeichnen und Deepfakes offenzulegen. C2PA kann diese Transparenz unterstützen, ist aber nur ein möglicher Baustein – die rechtliche Pflicht reicht weiter als ein einzelner Standard.
Was das praktisch heißt
Für den Alltag folgt daraus ein nüchterner Umgang mit dem Thema:
Als Betrachter: Prüfe vor dem Vertrauen, ob ein Content Credential vorliegt – aber behandle ein fehlendes nicht als Schuldbeweis. Kombiniere mehrere Signale: Herkunftsnachweis, Wasserzeichen-Check, Rückwärts-Bildersuche, Quellengeschichte und gesunden Menschenverstand.
Als Ersteller: Signiere deine echten Inhalte. Je mehr authentisches Material einen Nachweis trägt, desto wertvoller wird das fehlende Signal bei Fälschungen.
Wie Maschinen Vertrauen und Quellen bewerten, vertieft unser Beitrag dazu, wie KI-Systeme Quellen bewerten.
Fazit: ein Faden des Vertrauens
Wir werden nicht jede Fälschung zuverlässig erkennen – dieser Kampf ist kaum zu gewinnen. Aber wir können zunehmend beweisen, was echt ist. Der Herkunftsnachweis fängt nicht jede Lüge ab, doch er knüpft einen Faden des Vertrauens wieder an, den die Deepfake-Ära beinahe durchtrennt hätte. Entscheidend ist die richtige Erwartung: Provenance ist ein starkes Signal – und am stärksten im Zusammenspiel mit anderen.
Häufige Fragen zu Deepfakes und Herkunftsnachweis
Was ist ein Content Credential (C2PA)?
Ein kryptografisch signiertes Datenpaket, das in eine Mediendatei eingebettet wird und festhält, wer sie erstellt hat, wann, mit welchen Werkzeugen, ob KI beteiligt war und welche Bearbeitungen erfolgten. Es lässt sich offline überprüfen.
Beweist ein fehlendes Content Credential eine Fälschung?
Nein. Viele echte Dateien wurden nie signiert, und Metadaten gehen beim Hochladen, bei Screenshots oder Formatwechseln leicht verloren. Ein fehlender Nachweis ist ein Hinweis, kein Beweis.
Was ist der Unterschied zwischen Wasserzeichen und C2PA?
Ein Wasserzeichen (z. B. SynthID) verändert die Pixel und kann weggeschnitten werden. Ein C2PA-Manifest ist Metadaten im Dateicontainer und verändert das Bild nicht. Beide ergänzen sich, beide haben Schwächen.
Muss KI-generierter Inhalt gekennzeichnet werden?
Ja, in der EU teilweise verpflichtend: Artikel 50 des AI Act verlangt ab dem 2. August 2026 die Kennzeichnung bestimmter KI-generierter und manipulierter Inhalte sowie die Offenlegung von Deepfakes.
Reicht der Herkunftsnachweis gegen Deepfakes?
Allein nicht. Er ist notwendig, aber strukturell unvollständig. Zuverlässig wird die Prüfung erst im Zusammenspiel von Provenance, Wasserzeichen, Rückwärts-Bildersuche, Quellenprüfung und menschlichem Urteil.
Transparenz: Bebilderung dieses Beitrags KI-generiert und – wo zutreffend – entsprechend gekennzeichnet. Redaktionell geprüft.