Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Deepfake

Ein Deepfake ist ein Bild-, Audio- oder Videoinhalt, der mit KI erstellt oder verändert wurde, sodass er überzeugend eine echte Person, einen Ort oder ein Ereignis so zeigt, wie es nicht geschehen ist, und als echt durchgehen könnte.

Auch: synthetic media, deep fake

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Der Begriff begann mit Videos, in denen Gesichter vertauscht wurden, umfasst heute aber jede realistische Fälschung: eine geklonte Stimme in einem Telefonat, ein Video, in dem ein Politiker Worte sagt, die er nie gesagt hat, oder ein erfundenes Foto eines echten Ereignisses. Der EU AI Act definiert einen Deepfake als KI-erzeugten oder manipulierten Inhalt, der echten Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen würde.

Wie sie entstehen

Die meisten Deepfakes kombinieren generative Tools, die auch für legitime Arbeit genutzt werden: Voice Cloning für Sprache, Modelle für Lip Sync, um Mundbewegungen an neuen Ton anzupassen, und Text-to-Video- oder Face-Swap-Modelle für Filmmaterial. Dieselben Tools stecken hinter Synchronisation, Barrierefreiheit und Filmeffekten, der Schaden liegt also in der Täuschung, nicht in der Technik.

Deepfake und synthetische Medien

Synthetische Medien ist der weitere Begriff für jedes KI-erzeugte Bild, Audio oder Video, einschließlich offen gekennzeichneter Kunst und Stockbilder. Ein Deepfake ist die Teilmenge, die als echt durchgehen soll und meist an eine echte Person oder ein echtes Ereignis gebunden ist.

Gegenmaßnahmen

Zwei Ansätze wirken nebeneinander. Kennzeichnung markiert Inhalte an der Quelle als KI-erzeugt, über KI-Wasserzeichen oder Metadaten. Herkunftsnachweise wie C2PA Content Credentials lassen ehrliche Publisher zeigen, woher eine Datei stammt und wie sie bearbeitet wurde, statt zu versuchen, zu beweisen, dass eine Datei gefälscht ist. Der EU AI Act verlangt, dass Deepfakes als künstlich offengelegt werden, mit einigen Ausnahmen. Weder Kennzeichnungen noch Detektoren klären die Frage allein, prüf also die Quelle eines überraschenden Clips, bevor du ihn teilst.

Verwandte Begriffe

C2PA Content Credentials
C2PA Content Credentials sind signierte Herkunftsnachweise nach einem offenen Standard der Coalition for Content Provenance and Authenticity, die mit einem Bild, Video, einer Audiodatei oder einem Dokument mitreisen und Ursprung und Bearbeitungen festhalten.
KI-Wasserzeichen
KI-Wasserzeichen (AI Watermarking) betten in dem Moment, in dem ein KI-Modell Text, Bilder, Audio oder Video erzeugt, ein verborgenes, maschinell erkennbares Signal ein, damit Software den Inhalt später als KI-generiert erkennen kann.
Voice Cloning
Voice Cloning (Stimmklonen) ist der Einsatz von KI, um ein Text-to-Speech-System mit der Stimme einer bestimmten Person sprechen zu lassen, gelernt aus einer Aufnahme dieser Person. Manche Systeme brauchen nur eine kurze Probe.
EU AI Act
Der EU AI Act, Verordnung (EU) 2024/1689, ist das Gesetz der Europäischen Union über künstliche Intelligenz (KI-Verordnung). Es legt risikobasierte Regeln für alle fest, die KI-Systeme entwickeln und einsetzen, von klaren Verboten bis zu Transparenzpflichten, schrittweise eingeführt ab 2025.
Lip Sync (KI-Video)
KI-Lip-Sync (Lippensynchronisation) ist der Einsatz eines Modells, um die Mundbewegungen einer Person in einem Video oder Bild so zu verändern, dass sie zu einer neuen Tonspur passen, etwa einer übersetzten oder umgeschriebenen Zeile.
Text-to-Video
Text-to-Video ist die Aufgabe, aus einem geschriebenen Prompt einen kurzen Videoclip zu erzeugen. Modelle müssen Frames erzeugen, die jeder für sich stimmig aussehen und sich zudem von einem Frame zum nächsten konsistent bewegen.

Quellen