Deepfake: Werden wir bald niemandem mehr glauben können?
Ein Deepfake ist ein mithilfe künstlicher Intelligenz erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der eine echte Person oder Situation glaubwürdig nachahmt. Deepfakes, KI-Stimmen und digitale Täuschung verändern die Sicherheitslage: Was passiert, wenn nicht mehr sicher ist, ob ein Video echt ist, ob eine Stimme wirklich zu einer Person gehört oder ob eine Nachricht von dem Menschen stammt, dessen Name darüber steht? Wie lassen sich Deepfakes erkennen und KI-Stimmen überprüfen? Dieser Beitrag ordnet ein, was heute technisch möglich ist, wo die Erkennung an Grenzen stößt, welche Maschen daraus entstehen – und mit welchen Regeln Familien und Unternehmen sich schützen.
Das Wichtigste in Kürze
- Der Angriffspunkt: Nicht die Technik wird überwunden, sondern Vertrauen. Ein überzeugender Anruf kann reichen.
- Was KI verändert: Stimmen lassen sich aus kurzen Aufnahmen imitieren, Videos manipulieren. Sichtbare Fehler werden seltener.
- Die Grenze der Erkennung: Es gibt kein Merkmal, das eine Fälschung sicher verrät. Wer nur auf Bildfehler achtet, verlässt sich auf etwas, das sich laufend ändert.
- Was wirklich hilft: Prüfen über einen zweiten, selbst gewählten Kanal – Rückruf über die bekannte Nummer, Familien-Codewort, Vier-Augen-Prinzip bei Zahlungen.
- Die Einordnung: Vertrauen verschwindet nicht. Es verlagert sich von „sieht echt aus“ zu „ist über einen unabhängigen Weg bestätigt“.
Kurz beantwortet: Nein – aber wir werden lernen müssen, nicht mehr alles sofort zu glauben. Bilder, Stimmen und Videos sollten bei kritischen Entscheidungen nicht mehr allein deshalb als zuverlässig gelten, weil sie authentisch wirken – erzeugen lassen sie sich mit vertretbarem Aufwand. Was bleibt, ist der Kontext: Wer hat es geschickt, über welchen Kanal, lässt es sich unabhängig bestätigen? Die Zukunft ist deshalb nicht vertrauenslos, sondern prüfender. Praktisch heißt das: nicht sofort glauben, erst über einen zweiten Weg prüfen, dann handeln.
Welche Maschen daraus in der Praxis entstehen, zeigt unsere Übersicht zum KI-Betrug.
Der Kampf um Vertrauen hat begonnen
Vor wenigen Jahren klang die Frage nach Science-Fiction, heute ist sie Alltag. Bilder entstehen in Sekunden, Stimmen lassen sich nachbilden, Videos manipulieren, ohne dass die Fälschung sofort auffällt. Viele verbinden Sicherheit weiterhin mit Einbruch, Diebstahl und Haustürbetrug. Das bleibt wichtig, die Lage hat sich aber erweitert: Kommunikation, Bankgeschäfte, Investments, Familienkontakte und Identitätsnachweise laufen digital. Die Gefahr besteht dort nicht darin, dass jemand in die Wohnung eindringt, sondern in die Wahrnehmung. Das Thema gehört deshalb in die Rubrik Sicherheit.
Vertrauen ist die Grundlage jeder Zusammenarbeit: Wir gehen davon aus, dass ein Anruf von der angezeigten Person stammt und ein Video zeigt, was passiert ist. Genau dieses Vertrauen wird angegriffen. Neben technischen Angriffen setzen Täter verstärkt auf einen oft leichteren Angriffspunkt: den Menschen.
Die neue Realität: Ein überzeugender Anruf kann ausreichen. Eine glaubwürdige Nachricht kann genügen. Ein manipuliertes Video kann viele Menschen erreichen, bevor die Richtigstellung ankommt.
Was ist ein Deepfake und wie funktioniert er?
Der Begriff setzt sich aus „Deep Learning“ und „Fake“ zusammen. Gemeint sind künstlich erzeugte oder veränderte Medieninhalte, die echten Aufnahmen ähneln: ausgetauschte Gesichter, kopierte Stimmen, komplett erzeugte Szenen. Früher waren viele Fälschungen leicht zu erkennen – unnatürliche Lippenbewegungen, seltsames Blinzeln, schlechte Qualität. Diese Merkmale verschwinden nach und nach, und sie waren nie zuverlässig: Auch ein echtes Video kann komprimiert, schlecht beleuchtet oder ruckelig sein.
Wichtig ist die Abgrenzung. Ein Deepfake ist nicht automatisch strafbar oder schädlich – Synchronisation, Satire und Filmeffekte nutzen dieselbe Technik. Zum Sicherheitsthema wird sie dort, wo Identität vorgetäuscht wird, um Geld, Zugänge oder Reputation anzugreifen. Wie weit der Missbrauch reicht und welche Verantwortung Anbieter tragen, behandelt unser Beitrag zu Deepfakes und Deepnudes.
Wie leicht lässt sich ein Deepfake heute erstellen?
Was früher Spezialwissen, Rechenleistung und viel Material verlangte, steckt heute in Deepfake-Apps und KI-Generatoren, die mit wenigen Klicks bedienbar sind. Eine Anleitung gibt es hier bewusst nicht – entscheidend ist die Einordnung: Der größte Teil dieser Werkzeuge ist für legitime Zwecke gedacht, etwa Synchronisation, Werbung, Barrierefreiheit oder Unterhaltung. Zum Problem wird die Technik dort, wo eine Identität ohne Einwilligung nachgebildet wird, um zu täuschen, zu schaden oder Geld zu erlangen. Für die Verteidigung heißt das: Die Hürde, ein überzeugendes Fake zu erzeugen, ist niedrig geworden, also müssen Prüfwege tragen, die unabhängig vom Material funktionieren.
Voice Cloning und KI-Stimmen: die unterschätzte Gefahr
Während über manipulierte Videos gesprochen wird, entwickelt sich das Klonen von Stimmen leiser, aber alltagsnäher. Je nach Verfahren und Qualität des Ausgangsmaterials können bereits kurze Sprachaufnahmen ausreichen, um eine Stimme überzeugend nachzuahmen. Geeignetes Sprachmaterial kann aus öffentlichen Quellen, privaten Kommunikationskanälen oder kompromittierten Aufnahmen stammen:
- Sprachnachrichten in Messengern
- Videos auf Plattformen wie YouTube, Instagram oder TikTok
- Podcasts und Interviews
- Aufzeichnungen von Videokonferenzen
- Ansagen auf dem Anrufbeantworter
Fachlich heißt diese Masche Vishing oder Voice Phishing; als Schockanruf mit KI-Stimme und Stimmenklon-Betrug ist sie inzwischen auch im Privatbereich angekommen. Das Szenario ist simpel: Das Telefon klingelt, am anderen Ende klingt es nach dem eigenen Kind, dem Partner oder dem Chef. Es geht um einen Notfall, um Geld, um Zugangsdaten. Unter Druck wird selten nachgefragt – genau darauf zielt die Masche. Wichtig bleibt die Einordnung: Eine geklonte Stimme klingt ähnlich. Verlassen sollte man sich aber nicht auf spontane Fragen nach persönlichen Details: Täter können solche Informationen aus sozialen Netzwerken, Datenlecks oder vorheriger Recherche kennen. Belastbarer sind ein vorher vereinbartes, nicht öffentlich bekanntes Codewort und der Rückruf über die selbst gespeicherte Nummer.
Deepfake erkennen: Woran man Fälschungen erkennen kann – und woran nicht
Einen Deepfake erkennen Sie nicht zuverlässig an einem einzelnen Merkmal. Entscheidend ist die Kombination aus sichtbaren Auffälligkeiten, Kontextprüfung, Herkunftsnachweisen und einer unabhängigen Bestätigung über einen zweiten Kommunikationsweg. Auch ein Deepfake-Detektor kann Hinweise liefern, sollte aber nicht als alleiniger Echtheitsnachweis dienen.
Erkennungstipps veralten schnell, weil die Erzeugung besser wird. Trotzdem lohnt der Blick auf typische Auffälligkeiten – mit der Einschränkung, dass ihr Fehlen nichts beweist.
| Worauf achten | Mögliche Auffälligkeit | Aussagekraft |
|---|---|---|
| Gesicht und Übergänge | Unscharfe Ränder an Haaren, Brille oder Kinn, seltsame Zähne, flackernde Haut | Hinweis, kein Beweis – Kompression erzeugt ähnliche Effekte |
| Stimme | Gleichbleibende Betonung, fehlende Atemgeräusche, seltsame Pausen | Wird zunehmend unzuverlässig |
| Interaktion | Reaktion auf Rückfragen wirkt verzögert oder passt nicht zum Gesagten | Hinweis im Livegespräch, aber kein Beweis – Verzögerungen können technische Ursachen haben |
| Kontext | Unerwarteter Kanal, neuer Absender, ungewöhnliche Uhrzeit | Wichtiges Warnsignal, besonders zusammen mit ungewöhnlichen Forderungen |
| Forderung | Geld, Zugangsdaten, Geheimhaltung, Eile | Starkes Betrugswarnsignal – unabhängig von der Echtheit des Mediums |
← Tabelle seitlich scrollen →
Wer ein Deepfake-Video überprüfen will, kommt damit zur praktischen Konsequenz: Nicht allein das Material prüfen, sondern vor allem Herkunft, Kontext und Kommunikationsweg. Eine Aufnahme kann täuschen. Ein Rückruf über eine selbst gespeicherte oder unabhängig recherchierte Nummer erschwert die Täuschung erheblich und ist deshalb deutlich belastbarer. Warum die reine Echtheitsprüfung immer schwerer wird, vertieft unser Beitrag Wenn der Bullshit-Detektor versagt.
Deepfake-Betrug: Warum Unternehmen im Visier stehen
Bei Unternehmen treffen Geld, Zugänge und feste Abläufe zusammen. Moderne Angriffe kombinieren technische Mittel mit Manipulation. Bekannt ist der CEO-Fraud: Täter geben sich als Geschäftsführung oder Führungskraft aus und veranlassen Überweisungen, Datenfreigaben oder Änderungen von Bankverbindungen. Früher lief das per E-Mail, inzwischen kommen Sprachnachrichten und Anrufe dazu, teils auch Videocalls mit manipulierten Bildern.
Typische Angriffsszenarien: gefälschter Anruf der Geschäftsführung mit dringender Zahlungsanweisung, manipulierte E-Mail des angeblichen Vorgesetzten, Videocall mit angeblichem Geschäftspartner, gefälschte Bankwarnung mit Link, KI-generierte Bewerbung mit falscher Identität, nachgemachte Stimme eines Angehörigen beim Schockanruf.
Wie ein solcher Videoanruf in der Praxis abläuft, beschreibt unser Beitrag zu Deepfake-Videoanrufen im Betrugsalltag.
So verändert KI die Cyberkriminalität
Das verbreitete Bild vom einzelnen Täter im dunklen Zimmer greift bei professioneller Cyberkriminalität zu kurz. Professionelle Cybercrime-Strukturen sind heute häufig arbeitsteilig organisiert, mit eigener Infrastruktur und Dienstleistern. Künstliche Intelligenz senkt dort den Aufwand: Statt weniger schlecht formulierter Nachrichten lassen sich viele personalisierte erzeugen, statt auffälliger Übersetzungsfehler entstehen saubere Texte, statt generischer Maschen individuell zugeschnittene Ansprachen. Damit können Qualität und Skalierbarkeit steigen, während der Aufwand für einzelne Arbeitsschritte sinkt – diese Kombination macht die Entwicklung relevant. Warum Ermittler dabei mit strukturellen Zeitnachteilen kämpfen, erklärt unser Beitrag Warum die Polizei Kriminellen technisch hinterherläuft.
Herkunftsnachweise: Content Credentials und C2PA
Lange galt das Sehen als verlässlicher Zugang zur Wirklichkeit. Im digitalen Raum verliert dieser Grundsatz an Tragfähigkeit: Bilder, Videos und Tonaufnahmen lassen sich erzeugen oder verändern, und auch scheinbar live übertragene Inhalte sind davon nicht ausgenommen. Das heißt nicht, dass alles gefälscht ist – es heißt, dass die bloße authentische Wirkung eines Mediums allein kein verlässlicher Echtheitsnachweis mehr ist.
Deshalb kommt eine dritte Prüfebene neben Bildmerkmalen und Kontext hinzu: der technische Herkunftsnachweis. Unter dem Stichwort Content Provenance hat die Coalition for Content Provenance and Authenticity (C2PA) einen offenen technischen Standard entwickelt, der fortlaufend weiterentwickelt wird und mit dem sich nachvollziehen lässt, womit ein Inhalt aufgenommen, erzeugt oder bearbeitet wurde. Auf Grundlage der C2PA-Spezifikation können Content Credentials kryptografisch abgesicherte Informationen über Herkunft und Bearbeitung eines digitalen Inhalts bereitstellen; sie lassen sich in die Datei einbetten oder extern hinterlegen. Der Standard ist für den Einsatz in Aufnahme-, Bearbeitungs- und Veröffentlichungsprozessen konzipiert.
Zwei Grenzen gehören dazu. Erstens können solche Daten beim Weiterverbreiten verloren gehen, etwa durch Screenshots, Konvertierung oder Verarbeitungsprozesse, bei denen die Verbindung zu den Herkunftsinformationen verloren geht; fehlende Credentials beweisen deshalb keine Fälschung. Zweitens liefern gültige Content Credentials nachvollziehbare und kryptografisch überprüfbare Angaben zu Herkunft und Bearbeitung; die inhaltliche Wahrheit des Dargestellten garantieren sie nicht. Ein echtes Foto mit sauberem Herkunftsnachweis kann trotzdem in einem falschen Zusammenhang gezeigt werden.
Für die Praxis ergibt sich daraus eine Reihenfolge in drei Stufen: sichtbare Auffälligkeiten als erster Hinweis, Kontextprüfung von Absender, Kanal und Forderung als zweiter Schritt, technische Herkunftsprüfung und unabhängige Bestätigung als dritter. Nachweiskraft steigt durch nachvollziehbare Herkunft, technische Prüfung und unabhängige Bestätigung.
Sicherheit heißt nicht mehr nur Schutz vor Einbrechern: Sie umfasst Einbruchschutz, Datenschutz, Cybersecurity, Betrugsschutz, Identitätsschutz und den geprüften Umgang mit digitalen Informationen.
Die neue Sicherheitskompetenz: digitale Skepsis
Früher bestand Sicherheitskompetenz darin, Türen abzuschließen und Fenster zu sichern. Heute kommt digitale Skepsis dazu. Das bedeutet nicht, allem zu misstrauen, sondern Wichtiges zu verifizieren: Bei einer ungewöhnlichen Zahlungsaufforderung wird zurückgerufen, bei einer überraschenden Nachricht der Absender über einen zweiten Kanal kontaktiert, bei spektakulären Videos die Quelle geprüft. Entscheidend ist, dass diese Schritte vorher vereinbart sind – im Stress erfindet niemand einen Ablauf.
Warum Privatpersonen das Risiko unterschätzen
Viele halten Deepfakes für ein Problem von Politik, Prominenz und Konzernen. Privatpersonen verfügen meist weder über professionelle Sicherheitsprozesse noch über regelmäßige Schulungen und müssen verdächtige Situationen selbst einschätzen. Besonders wirksam sind emotionale Situationen: ein angeblicher Notfall in der Familie, ein vermeintlicher Anruf der Bank, die Warnung vor einem gehackten Konto, eine Nachricht über eine angeblich kompromittierte Krypto-Wallet. Wer in diesen Momenten unter Druck gerät, macht Fehler – unabhängig von Bildung oder Erfahrung. Wie sehr das mit menschlichen Entscheidungsmustern zusammenhängt, zeigt unser Beitrag Die größte Sicherheitslücke sitzt vor dem Bildschirm.
Synthetische Identitäten und Identitätsdiebstahl
Deepfakes bleiben selten Selbstzweck. Häufig sind sie ein Baustein für Identitätsmissbrauch. Mit KI-generierten Profilbildern, gefälschten Lebensläufen und erfundenen Identitätsdaten lassen sich Personen konstruieren, die nicht existieren – man spricht von synthetischen Identitäten. Andere Maschen missbrauchen Identitätsdaten realer Menschen – bis hin zur vollständigen Übernahme ihrer digitalen Identität. Auch in digitalen Bewerbungsprozessen können falsche, synthetische oder missbrauchte Identitäten eingesetzt werden: Bei Remote Hiring Fraud, also Betrug mit falschen Identitäten in digitalen Bewerbungs- und Einstellungsverfahren, bewerben sich Personen mit fremder oder erfundener Identität, teils mit manipuliertem Bild im Videointerview, um an Zugänge und Systeme zu kommen. Für Unternehmen heißt das: Identitätsprüfung im Recruiting gehört zum Sicherheitskonzept, etwa durch einen für den jeweiligen Zweck geeigneten Identitätsprüfungsprozess und klar geregelte Freigaben, bevor jemand Zugänge erhält.
Privat entsteht der Schaden meist anders: Wer Zugangsdaten verliert, findet sein Gesicht oder seine Stimme später in fremden Maschen wieder. Was daraus werden kann, beschreibt unser Beitrag Die Zukunft des Identitätsdiebstahls.
KI-Betrug und Finanzbetrug: eine gefährliche Verbindung
Besonders sichtbar wird die Entwicklung bei Geldanlage und Kryptowährungen: gefälschte Prominenten-Videos, manipulierte Werbeanzeigen, Fake-Broker, angebliche Krypto-Experten und erfundene Erfolgsgeschichten. Das Muster ähnelt sich – Vertrauen aufbauen, Autorität vortäuschen, Zeitdruck erzeugen. Wer angeblich nur heute eine einmalige Chance bekommt, soll nicht nachdenken. Je professioneller ein Angebot wirkt, desto wichtiger wird die eigene Prüfung: den Anbieter in den Unternehmensdatenbanken der BaFin suchen, keine Fernwartung zulassen und keine Zahlung unter Zeitdruck leisten. Eine mögliche Testauszahlung ist dabei kein Seriositätsnachweis – Betrüger können kleine Auszahlungen gezielt zulassen, um Vertrauen aufzubauen und höhere Einzahlungen zu provozieren.
Konten absichern, bevor jemand sie übernimmt
Bei passwortbasierten Konten reduzieren ein eigenes starkes Passwort je Dienst und eine zusätzliche Absicherung das Risiko einer Kontoübernahme. Wo verfügbar, sind phishingresistente Passkeys eine Alternative. Funktionsumfang und Tarife prüfst du beim Anbieter.
Erst unseren Ratgeber lesenAuthenticator-Apps: warum SMS-Codes nicht mehr reichen
Konkrete Schutzmaßnahmen für Familien
Familien sollten Regeln festlegen, bevor etwas passiert. Ein persönliches Sicherheitswort, das nur in der Familie bekannt ist, lässt sich im Notfall abfragen und deckt viele Versuche auf. Kann die Person das Codewort nicht nennen, wird das Gespräch beendet. Auch bei korrektem Codewort sollten ungewöhnliche Geldforderungen zusätzlich über einen bekannten, unabhängigen Kontaktweg bestätigt werden.
- Codewort vereinbaren und nirgends digital speichern, wo es mitgelesen werden könnte.
- Immer zurückrufen – über die selbst gespeicherte Nummer, nie über die Nummer aus dem Anruf oder der Nachricht.
- Keine Zahlung unter Zeitdruck, besonders nicht per Bargeldübergabe, Gutscheinkarten oder Kryptowährung.
- Ältere Angehörige einbeziehen: vorher besprechen, dass Auflegen und Rückrufen ausdrücklich erwünscht ist.
- Öffentliches Sprachmaterial begrenzen – das erschwert die Beschaffung geeigneter Aufnahmen, verhindert Voice Cloning aber nicht.
- Fehler dürfen gemeldet werden: Wer Angst vor Vorwürfen hat, meldet später, und späte Meldungen kosten Geld.
Konkrete Schutzmaßnahmen für Unternehmen
Unternehmen brauchen Abläufe statt Appelle. Zahlungen sollten nur über definierte Freigabeprozesse ausgelöst werden, nie allein wegen einer E-Mail, Sprachnachricht, eines Anrufs oder eines Videocalls; für höhere oder ungewöhnliche Beträge sollten zusätzliche Freigabestufen gelten. Das Vier-Augen-Prinzip ist hier kein bürokratischer Luxus.
- Zahlungsfreigaben nur über definierte Prozesse, unabhängig davon, wer sie verlangt
- Rückbestätigung über hinterlegte Kommunikationswege, nie über Kontaktdaten aus der Nachricht
- Kontoänderungen von Lieferanten separat verifizieren
- Schulung von Buchhaltung, Assistenz, Vertrieb und Geschäftsführung, inklusive Deepfake-Szenarien
- Klare Regeln für sensible Daten, keine Passwortweitergabe per Telefon oder E-Mail und phishingresistente Anmeldung per Passkey oder FIDO2/WebAuthn-Schlüssel, wo verfügbar
- Ein vereinbartes Rückfrage-Wort als zusätzliche Prüfebene, niemals als Ersatz für den definierten Freigabe- und Rückbestätigungsprozess
- Meldeweg, der auch nach Feierabend erreichbar ist
Geräte und Netzwerk absichern
Phishing, Schadsoftware, kompromittierte Zugangsdaten und ungepatchte Schwachstellen gehören zu den häufigen Einfallstoren. Sicherheitslösungen können je nach Produkt Phishing-Seiten, Schadsoftware und verdächtige Aktivitäten erkennen oder blockieren. Gegen Voice Cloning oder einen überzeugenden Deepfake-Anruf schützt Virenschutz allein allerdings nicht. Leistungsumfang prüfst du beim Anbieter.
Erst unseren Vergleich lesenVirenschutz 2026: aktuelle Testlage und worauf es ankommt
Kennzeichnungspflicht und Rechtslage
Rechtlich tut sich etwas, allerdings langsamer, als die Technik sich entwickelt. Die EU-Verordnung über künstliche Intelligenz enthält in Artikel 50 Transparenzpflichten und unterscheidet dabei zwei Rollen:
- Anbieter von KI-Systemen – einschließlich KI-Systemen mit allgemeinem Verwendungszweck –, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen dafür sorgen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die technischen Lösungen müssen wirksam, interoperabel, robust und zuverlässig sein, soweit das technisch machbar ist; die Verordnung sieht dabei Ausnahmen vor.
- Betreiber, die ein KI-System nutzen, um Bild-, Audio- oder Videoinhalte zu erzeugen oder zu manipulieren, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise authentisch oder wahr erscheinen würden (Deepfakes), müssen offenlegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden.
- KI-Texte: Für KI-generierte oder manipulierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, enthält Artikel 50 eine gesonderte Offenlegungspflicht mit eigenen Ausnahmen, etwa bei menschlicher Prüfung und redaktioneller Verantwortung.
- Sonderregeln gelten unter anderem für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke: Dort ist die Offenlegung so auszugestalten, dass sie die Darbietung oder den Genuss des Werks nicht beeinträchtigt.
Nach der aktuell geltenden Fassung greifen die Transparenzpflichten des Artikel 50 grundsätzlich seit dem 2. August 2026. Für bestimmte bereits vor diesem Datum in Verkehr gebrachte KI-Systeme enthält die 2026 geänderte Verordnung jedoch Übergangsfristen. Maßgeblich ist deshalb im Einzelfall die aktuelle Fassung der KI-Verordnung; die Darstellung hier ist eine vereinfachte Kurzfassung.
Unabhängig davon können Betroffene zivilrechtlich vorgehen: Das allgemeine Persönlichkeitsrecht schützt vor der Verfälschung des eigenen Bildes in der Öffentlichkeit, das Recht am eigenen Bild regelt die Veröffentlichung von Abbildungen, und bei nachgebildeter Stimme kommt der Schutz der eigenen Stimme hinzu. Daraus können Ansprüche auf Unterlassung, Löschung und in bestimmten Fällen auf Schadensersatz folgen. Strafrechtlich kommt es auf Inhalt, Verbreitung und Zweck an; beispielhaft in Betracht kommen Beleidigung, üble Nachrede, Verleumdung, Betrug oder Erpressung. Wichtig für die Praxis: Wer betroffen ist, sollte Beweise sichern – Adresse der Veröffentlichung, Screenshots mit Zeitstempel, Kopien der Nachricht – bevor Inhalte gelöscht werden. Diese Einordnung ist beispielhaft und ersetzt keine Rechtsberatung. Eine Kennzeichnungspflicht wirkt außerdem nur dort, wo sich jemand an Regeln hält; Täter tun das nicht.
Fazit: Wie Deepfakes unser Vertrauen verändern
Nein. Aber wir werden lernen müssen, nicht mehr alles sofort zu glauben. Eine Gesellschaft funktioniert nicht, wenn niemandem mehr vertraut wird – ebenso wenig, wenn jeder digitale Inhalt ungeprüft akzeptiert wird. Die Zukunft wird deshalb nicht vertrauenslos sein, sondern prüfender. Vertrauen bleibt wichtig, es braucht aber Kontrolle, Prozesse und Medienkompetenz.
Deepfakes und Voice Cloning verstärken Phishing, Betrug und Identitätsmissbrauch, weil sie Vertrauen gezielt ausnutzen und digitale Täuschungen glaubwürdiger machen können. Wer sich schützen will, braucht mehr als gute Geräte: klare Routinen, gesunde Skepsis, technische Absicherung und die Bereitschaft, digitale Inhalte zu überprüfen. Die neue Sicherheitsregel lautet: nicht sofort glauben, erst prüfen, dann handeln.
Glossar: Begriffe rund um Deepfakes und digitale Täuschung
Mit KI erzeugter oder veränderter Medieninhalt, der echten Aufnahmen ähnelt – etwa ausgetauschte Gesichter oder nachgebildete Stimmen.
Nachbildung einer Stimme anhand vorhandener Aufnahmen. Kurze Sprachproben können dafür genügen.
Austausch eines Gesichts in einem Bild oder Video; moderne Verfahren können dies teilweise auch in Echtzeit ermöglichen.
Voice-Phishing: Betrug per Telefon, zunehmend mit imitierten Stimmen und vorgetäuschter Rolle.
Betrugsmasche, bei der Täter die Identität einer Führungskraft vortäuschen und beispielsweise Zahlungen oder Datenfreigaben verlangen; häufig dem Umfeld von Business Email Compromise (BEC) zugerechnet.
Angeblicher Notfall eines Angehörigen mit sofortiger Geldforderung, oft mit Geheimhaltungsbitte.
Coalition for Content Provenance and Authenticity: Zusammenschluss hinter dem offenen technischen Standard Content Credentials zur nachvollziehbaren Herkunft und Bearbeitung digitaler Inhalte.
Auf Basis des C2PA-Standards bereitgestellte, kryptografisch abgesicherte Angaben zu Herkunft und Bearbeitung eines Inhalts. Sie können eingebettet oder extern hinterlegt sein und beim Weiterverbreiten verloren gehen. Sie liefern überprüfbare Angaben zu Herkunft und Bearbeitung, garantieren aber nicht die inhaltliche Wahrheit.
Ein selbst gewählter, unabhängiger Weg zur Rückfrage – etwa ein Anruf über die gespeicherte Nummer statt einer Antwort auf die eingegangene Nachricht.
Häufige Fragen zu Deepfakes und KI-Täuschung
Was ist ein Deepfake?
Ein mithilfe künstlicher Intelligenz erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der eine echte Person oder Situation glaubwürdig nachahmt. Möglich sind ausgetauschte Gesichter, nachgebildete Stimmen und vollständig erzeugte Szenen. Die Technik selbst ist nicht verboten; zum Sicherheitsproblem wird sie, wenn damit Identität vorgetäuscht wird.
Kann man Deepfakes zuverlässig erkennen?
Nicht allein am Material. Auffälligkeiten wie unscharfe Übergänge, seltsame Betonung oder verzögerte Reaktionen können Hinweise geben, ihr Fehlen beweist aber nichts. Verlässlicher ist die Prüfung des Kontexts: Wer schickt das, über welchen Kanal, und lässt es sich unabhängig bestätigen?
Wie viel Sprachmaterial brauchen Täter für eine geklonte Stimme?
Je nach Verfahren können kurze Aufnahmen genügen. Da Videos, Interviews und andere Sprachaufnahmen öffentlich verfügbar sein können und Sprachmaterial außerdem aus kompromittierten oder weitergegebenen Aufnahmen stammen kann, lässt sich geeignetes Material teilweise leicht beschaffen. Spontane Fragen nach persönlichen Details sind aber kein sicherer Nachweis, weil Täter solche Informationen recherchiert haben können – belastbarer sind ein vorher vereinbartes Codewort und der Rückruf über die selbst gespeicherte Nummer.
Wie schütze ich meine Familie vor Schockanrufen?
Mit einem vereinbarten Codewort, der Regel, im Zweifel aufzulegen und über die gespeicherte Nummer zurückzurufen, und dem Verzicht auf jede Zahlung unter Zeitdruck. Sinnvoll ist, das vorher zu besprechen, damit niemand im Ernstfall improvisieren muss.
Was tun bei einem verdächtigen Videocall?
Den Call bei Zweifeln beenden und die Person anschließend über einen bekannten, selbst gewählten Kommunikationsweg kontaktieren. Persönliche Rückfragen können zusätzliche Hinweise liefern, sind aber kein sicherer Identitätsnachweis. Zahlungen oder Datenfreigaben werden nicht im Call selbst erteilt, sondern nur über den vereinbarten Prozess.
Sind Deepfakes strafbar?
Die Technik als solche nicht. Je nach Inhalt und Verwendung kommen aber zivilrechtliche Ansprüche wegen Persönlichkeitsrechtsverletzung sowie Straftatbestände wie Beleidigung, üble Nachrede, Verleumdung, Betrug oder Erpressung in Betracht. Die Bewertung hängt vom Einzelfall ab und ersetzt keine Rechtsberatung.
Müssen KI-Inhalte gekennzeichnet werden?
Artikel 50 der EU-Verordnung über künstliche Intelligenz unterscheidet zwei Rollen: Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen dafür sorgen, dass die Ausgaben maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind, mit wirksamen, interoperablen, robusten und zuverlässigen Lösungen; Ausnahmen sind vorgesehen. Betreiber, die ein KI-System nutzen, um Bild-, Audio- oder Videoinhalte zu erzeugen oder zu manipulieren, die realen Personen, Orten oder Ereignissen merklich ähneln und einer Person fälschlicherweise authentisch oder wahr erscheinen würden, müssen offenlegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden. Das ist eine vereinfachte Kurzfassung; maßgeblich ist der Verordnungstext. Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gelten Sonderregeln. Die Pflichten greifen grundsätzlich seit dem 2. August 2026; für bestimmte bereits vorher in Verkehr gebrachte KI-Systeme sieht die 2026 geänderte Verordnung Übergangsfristen vor. Maßgeblich ist im Einzelfall die aktuelle Fassung. Täter halten sich daran ohnehin nicht, deshalb bleibt eigene Prüfung nötig.
Was tun, wenn ein Deepfake von mir kursiert?
Beweise sichern, bevor etwas gelöscht wird: Adresse der Veröffentlichung, Screenshots mit Zeitstempel, Kopien von Nachrichten. Danach die Plattform zur Löschung auffordern, das eigene Umfeld informieren und bei strafrechtlich relevanten Inhalten Anzeige erstatten. Bei erheblichen Folgen lohnt anwaltliche Beratung.
Was sind Content Credentials?
Content Credentials sind eine Möglichkeit, auf Basis des C2PA-Standards kryptografisch abgesicherte Informationen zur Herkunft und Bearbeitung digitaler Inhalte bereitzustellen. Sie können eingebettet oder extern hinterlegt sein. Fehlen sie, ist das kein Beweis für eine Fälschung; sind sie vorhanden, liefern sie überprüfbare Angaben zu Herkunft und Bearbeitung, garantieren aber nicht die inhaltliche Wahrheit.
Reicht ein Codewort gegen Voice Cloning?
Ein vorher vereinbartes, nicht öffentlich bekanntes Codewort kann einen Betrugsversuch aufdecken, wenn der Anrufer es nicht kennt. Es ist jedoch kein alleiniger Identitätsnachweis und sollte durch einen Rückruf über die selbst gespeicherte Nummer ergänzt werden. Speichere es nicht dort, wo es mitgelesen werden könnte.
Hilft es, weniger Fotos und Sprachnachrichten zu posten?
Es verringert das verfügbare Material, verhindert Fälschungen aber nicht – Aufnahmen entstehen auch bei Anrufen, in Konferenzen oder über Dritte. Wirksamer als Vermeidung sind vereinbarte Prüfwege für Geld und Zugangsdaten.
Erkennen Detektor-Tools Deepfakes?
Es gibt Werkzeuge, die Hinweise liefern. Ihre Treffsicherheit schwankt je nach Material, Qualität und Verfahren, und sie liefern kein sicheres Urteil. Als alleinige Grundlage für eine Entscheidung über Geld oder Zugänge sind sie deshalb nicht geeignet.
Wie schützen sich Unternehmen gegen CEO-Fraud mit KI-Stimmen?
Mit Abläufen, die keine Ausnahme kennen: Zahlungen nie allein auf Zuruf, Vier-Augen-Prinzip ab festgelegten Beträgen, Rückbestätigung über hinterlegte Nummern, separate Prüfung von Kontoänderungen. Ein vereinbartes Rückfrage-Wort kann ergänzend helfen, ersetzt den Freigabe- und Rückbestätigungsprozess aber nicht.
Verlieren Videos damit ihren Beweiswert?
Die Möglichkeit von Deepfakes bedeutet nicht, dass Videos generell ihren Beweiswert verlieren. Bei strittiger Authentizität gewinnen jedoch Herkunft, Originaldatei, Zeitstempel, weitere Quellen und technische Untersuchung an Bedeutung.