Deepfake
Ein Deepfake ist ein Bild-, Audio- oder Videoinhalt, der mit KI erstellt oder verändert wurde, sodass er überzeugend eine echte Person, einen Ort oder ein Ereignis so zeigt, wie es nicht geschehen ist, und als echt durchgehen könnte.
Auch: synthetic media, deep fake
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Der Begriff begann mit Videos, in denen Gesichter vertauscht wurden, umfasst heute aber jede realistische Fälschung: eine geklonte Stimme in einem Telefonat, ein Video, in dem ein Politiker Worte sagt, die er nie gesagt hat, oder ein erfundenes Foto eines echten Ereignisses. Der EU AI Act definiert einen Deepfake als KI-erzeugten oder manipulierten Inhalt, der echten Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen würde.
Wie sie entstehen
Die meisten Deepfakes kombinieren generative Tools, die auch für legitime Arbeit genutzt werden: Voice Cloning für Sprache, Modelle für Lip Sync, um Mundbewegungen an neuen Ton anzupassen, und Text-to-Video- oder Face-Swap-Modelle für Filmmaterial. Dieselben Tools stecken hinter Synchronisation, Barrierefreiheit und Filmeffekten, der Schaden liegt also in der Täuschung, nicht in der Technik.
Deepfake und synthetische Medien
Synthetische Medien ist der weitere Begriff für jedes KI-erzeugte Bild, Audio oder Video, einschließlich offen gekennzeichneter Kunst und Stockbilder. Ein Deepfake ist die Teilmenge, die als echt durchgehen soll und meist an eine echte Person oder ein echtes Ereignis gebunden ist.
Gegenmaßnahmen
Zwei Ansätze wirken nebeneinander. Kennzeichnung markiert Inhalte an der Quelle als KI-erzeugt, über KI-Wasserzeichen oder Metadaten. Herkunftsnachweise wie C2PA Content Credentials lassen ehrliche Publisher zeigen, woher eine Datei stammt und wie sie bearbeitet wurde, statt zu versuchen, zu beweisen, dass eine Datei gefälscht ist. Der EU AI Act verlangt, dass Deepfakes als künstlich offengelegt werden, mit einigen Ausnahmen. Weder Kennzeichnungen noch Detektoren klären die Frage allein, prüf also die Quelle eines überraschenden Clips, bevor du ihn teilst.
Verwandte Begriffe
- C2PA Content Credentials
- C2PA Content Credentials sind signierte Herkunftsnachweise nach einem offenen Standard der Coalition for Content Provenance and Authenticity, die mit einem Bild, Video, einer Audiodatei oder einem Dokument mitreisen und Ursprung und Bearbeitungen festhalten.
- KI-Wasserzeichen
- KI-Wasserzeichen (AI Watermarking) betten in dem Moment, in dem ein KI-Modell Text, Bilder, Audio oder Video erzeugt, ein verborgenes, maschinell erkennbares Signal ein, damit Software den Inhalt später als KI-generiert erkennen kann.
- Voice Cloning
- Voice Cloning (Stimmklonen) ist der Einsatz von KI, um ein Text-to-Speech-System mit der Stimme einer bestimmten Person sprechen zu lassen, gelernt aus einer Aufnahme dieser Person. Manche Systeme brauchen nur eine kurze Probe.
- EU AI Act
- Der EU AI Act, Verordnung (EU) 2024/1689, ist das Gesetz der Europäischen Union über künstliche Intelligenz (KI-Verordnung). Es legt risikobasierte Regeln für alle fest, die KI-Systeme entwickeln und einsetzen, von klaren Verboten bis zu Transparenzpflichten, schrittweise eingeführt ab 2025.
- Lip Sync (KI-Video)
- KI-Lip-Sync (Lippensynchronisation) ist der Einsatz eines Modells, um die Mundbewegungen einer Person in einem Video oder Bild so zu verändern, dass sie zu einer neuen Tonspur passen, etwa einer übersetzten oder umgeschriebenen Zeile.
- Text-to-Video
- Text-to-Video ist die Aufgabe, aus einem geschriebenen Prompt einen kurzen Videoclip zu erzeugen. Modelle müssen Frames erzeugen, die jeder für sich stimmig aussehen und sich zudem von einem Frame zum nächsten konsistent bewegen.