Glossar
Deepfake: die rechtliche Definition und die Belege in der Datei
Ein Deepfake ist im Sinne des EU AI Act ein durch KI erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.
Illustration · PNG-Datei
- Signature + IHDR
- iTXt XML:com.adobe.xmpDatensatz
- tEXt parameters
- tEXt prompt / workflow
- tEXt invokeai_metadata
- eXIf
- caBX C2PA manifest
- IDAT pixels
- IEND
KI-Quelltyp deklariert
Die Datei kennzeichnet sich selbst als KI-erzeugt.
Der IPTC-DigitalSourceType, etwa trainedAlgorithmicMedia, wird aus XMP gelesen und mit seinem genauen Wert angezeigt.
Bild prüfen →Rechtliche Definition und Pflicht
Artikel 3 des EU AI Act definiert den Begriff, und Artikel 50 Absatz 4 verpflichtet Betreiber, die einen Deepfake erzeugen oder manipulieren, offenzulegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde – mit engen Ausnahmen für offensichtlich künstlerische oder satirische Werke, bei denen nur ein Hinweis nötig ist, der das Werk nicht beeinträchtigt. Die Offenlegungspflicht gilt ab dem 2. August 2026. Artikel 50 Absatz 2 verpflichtet Anbieter gesondert, Ausgaben maschinenlesbar zu kennzeichnen.
Das Gesetz regelt die Offenlegung. Es legt keine Erkennungsmethode fest.
Wie isGenAI bei einem Deepfake-Verdacht hilft
isGenAI liest, was die Datei festhält: ein C2PA-Manifest, das ein KI-Tool nennt, einen IPTC-Quelltyp, eine KI-Aussage, einen gespeicherten Prompt oder eine übereinstimmende Kopie eines bekannten Originals. Es meldet jeden Befund mit seiner Quelle und berechnet keine Deepfake-Wahrscheinlichkeit aus den Pixeln. Bei Videos validiert der C2PA-Prüfer MP4- und MOV-Manifeste, und der Frame-Extraktor erzeugt Standbilder für den Abgleich. Das Wort Deepfake in Metadaten wird als KI-Aussage zitiert.
Was tun mit einer bereinigten Kopie?
Die meisten Deepfakes kursieren als neu kodierte Kopien ohne Datensätze. Verfolgen Sie die Erstveröffentlichung zurück, beschaffen Sie nach Möglichkeit das Original und vergleichen Sie Kopien per Fingerabdruck. Plattform-Labels auf TikTok, YouTube oder LinkedIn sind Beobachtungen, die es wert sind, neben dem Dateibericht festgehalten zu werden.
So nutzen Sie den Begriff bei der Prüfung einer Datei
- Laden Sie die Originaldatei in den KI-Bild-Detektor oder in das auf der Seite genannte Tool hoch.
- Suchen Sie unter „How we checked“ (So haben wir geprüft) den Befund, der diesen Begriff verwendet, und lesen Sie das dort genannte Quellfeld.
- Gewichten Sie nach Art: Ein signierter Datensatz, ein deklariertes Feld, ein gespeicherter Prompt und eine übereinstimmende Kopie sind unterschiedlich starke Belege.
- Denken Sie daran: Fehlt ein Datensatz, ist das kein Beleg für einen menschlichen Urheber.
Häufige Fragen
Wie definiert der EU AI Act einen Deepfake?
Als durch KI erzeugtes oder manipuliertes Bild, Audio oder Video, das realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.
Wer muss einen Deepfake kennzeichnen?
Nach Artikel 50 Absatz 4 der Betreiber, der ihn erzeugt oder manipuliert, ab dem 2. August 2026, mit begrenzten Ausnahmen für Kunst und Satire.
Kann isGenAI mir sagen, ob ein Video ein Deepfake ist?
Es meldet die Provenienzdatensätze der Datei und übereinstimmende Kopien. Es bewertet keine Pixel, daher ergibt eine bereinigte Kopie „keine Belege gefunden“.
Was ist der beste Beleg gegen einen Deepfake-Vorwurf?
Ein gültiges, vertrauenswürdiges Kamera-Credential in der Originaldatei oder ein übereinstimmendes Original mit einem solchen Datensatz.
Quellen
Die Definitionen folgen den oben verlinkten veröffentlichten Standards; das beschriebene Verhalten von isGenAI entspricht dem produktiven Checker mit Stand Oktober 2026.