Was ist ein Deepfake nach der KI-Verordnung?

Die Definition im Wortlaut

„‚Deepfake‘ einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde;“

Art. 3 Nr. 60 KI-VO, Verordnung (EU) 2024/1689

Nach Erwägungsgrund 134 muss der Inhalt seinem Vorbild „merklich“ ähneln. Die Leitlinien der Kommission zu Art. 50, C(2026) 5054, zerlegen die Definition in vier Merkmale, die alle vorliegen müssen (Rn. 113). Außerdem muss KI beteiligt sein; eine Retusche ohne KI fällt nicht unter den Begriff.

Die vier Merkmale

1. Ähnlichkeit

Der Inhalt muss seinem Vorbild in hohem Maß ähneln, einschließlich erkennbarer Einzelheiten. Identisch muss er nicht sein. Ob die Ähnlichkeit merklich ist, beurteilt der Betreiber im Einzelfall durch einen objektiven Vergleich, unter anderem danach, wie weit charakteristische Merkmale wiedergegeben sind (Rn. 113 i).

2. Existierend oder plausibel existierend

Es genügt, dass die Person, der Gegenstand oder die Szene existiert, plausibel existieren kann oder plausibel existiert haben könnte (Rn. 113 ii), weil gerade solche Inhalte nach den Leitlinien eine große Quelle von Täuschung und Desinformation sein können. Nicht erfasst ist, was Naturgesetzen widerspricht oder biologisch nicht anerkannte Lebewesen zeigt und niemanden täuschen kann, etwa Menschen, die ohne technische Hilfe fliegen, Drachen und Elefanten, die Auto fahren.

3. Personen, Gegenstände, Orte, Einrichtungen, Ereignisse

Die Leitlinien beschreiben die fünf Kategorien so (Rn. 113 iii):

• Personen: realistische Menschen, auch digitale Nachbildungen echter Personen, KI-Avatare und Personas sowie persönliche Merkmale wie Bild, Stimme und Verhalten.
• Gegenstände: realistische, unbelebte Dinge wie Gebäude, Kunstwerke, Maschinen und Konsumgüter.
• Orte: realistische Örtlichkeiten.
• Einrichtungen: realistische, nicht menschliche, aber belebte Wesen wie Tiere und andere Lebensformen.
• Ereignisse: realistische Szenen oder Situationen mit den genannten Elementen, etwa historische Ereignisse oder die Darstellung von Dienstleistungen.

Ein fotorealistisches KI-Bild mit Produkt, Mensch, Tier oder Raum erfüllt die ersten drei Merkmale deshalb fast immer. Im Onlineshop entscheidet in der Praxis das vierte.

4. Falscher Anschein von Echtheit oder Wahrheit

Die Leitlinien trennen zwei Seiten (Rn. 113 iv). Echtheit betrifft Quelle und Entstehung, also ob echte Menschen oder Tiere beteiligt waren, ob ein Gegenstand so aussieht und so benutzt wird und ob ein Ereignis so ablief. Wahrheit betrifft die sachliche Richtigkeit des Gezeigten. Das Merkmal ist ausdrücklich unabhängig vom Täuschungsbegriff der Richtlinie über unlautere Geschäftspraktiken zu verstehen (Leitlinien, Fn. 32). Der Einwand, ein verständiger Verbraucher erkenne die KI, hilft deshalb nicht weiter.

Zwei Übersetzungsfallen

Die deutsche Fassung von Art. 3 Nr. 60 verschiebt an zwei Stellen den Sinn. Alle Sprachfassungen sind gleich verbindlich, die Leitlinien legen aber die englische aus.

Wer nur die deutsche Fassung liest, hält ein frei erfundenes KI-Model oder einen KI-Hund in der Werbung leicht für nicht erfasst. Nach den Leitlinien sind beide erfasst.

Objektiver Maßstab

Ob ein Inhalt fälschlich echt erscheint, wird als Ganzes beurteilt, nach dem Grad der Ähnlichkeit, der möglichen Aussage des Inhalts, dem beabsichtigten und vorhersehbaren Einsatz, dem Umfeld der Darstellung sowie Zusammensetzung und Erwartungen des Publikums (Rn. 114). Die Beurteilung ist objektiv; eine Absicht, zu täuschen oder in die Irre zu führen, ist nicht nötig.

Fotorealismus macht einen Deepfake wahrscheinlicher, entscheidet aber nicht allein (Rn. 114). Erwartet das Publikum keine echte Aufnahme, kann der Zusammenhang den falschen Anschein ausschließen; die Leitlinien nennen KI-Hintergründe und Spezialeffekte in der üblichen Filmproduktion. Vollständig KI-erzeugte Schauspieler, digitale Nachbildungen und verjüngte Gesichter wirken dagegen wahrscheinlich täuschend.

Maßstab ist das breiteste Publikum

Anders als bei Art. 50 Abs. 1 kommt es nicht auf einen gedachten Durchschnittsmenschen an, sondern auf die mögliche Vielfalt des vorhersehbaren Publikums (Rn. 115), besonders wenn absehbar Kinder, ältere Menschen oder Personen mit geringer digitaler und KI-Kompetenz den Inhalt sehen. Erscheint er diesem Teil des Publikums fälschlich echt, kann das genügen.

Die Grenze ist das vernünftigerweise vorhersehbare Publikum. Eine Weiterverbreitung durch Dritte über die vorgesehenen Kanäle hinaus muss der Betreiber nicht einkalkulieren, etwa bei Inhalten nur für Abonnenten oder in einem Unternehmens-Newsletter (Rn. 115). Ein öffentlich erreichbarer Onlineshop richtet sich an alle.

Unbedeutende Änderungen

KI-gestützte Änderungen an unbedeutenden inhaltlichen oder technischen Aspekten eines vorhandenen Inhalts machen ihn nach den Leitlinien in der Regel nicht zum Deepfake (Rn. 116). Genannt werden das Bearbeiten von Hintergrunddetails wie das Entfernen von Passanten, Lichtanpassung, Farbkorrektur, Rauschentfernung, bessere Barrierefreiheit, Komprimierung und kosmetische Anpassungen. In Werbung und auf Verpackungen haben Farbkorrektur, die Erweiterung vorhandener Inhalte, der Austausch von Hintergründen aus klar ästhetischen Gründen, die Anordnung vorhandener Produkte und das Skalieren wahrscheinlich nur geringen Einfluss.

Es kommt nach den Leitlinien auf Zusammenhang und Wirkung im Einzelfall an. Bei journalistischen Bildern kann schon eine umfangreiche KI-Bearbeitung von Hintergrunddetails die Wahrnehmung der Echtheit beeinträchtigen.

Beispiele aus den Leitlinien

Für Händler sind diese Beispiele der Leitlinien am wichtigsten:

Das Auto-Beispiel zeigt die Grenze. Der KI-Hintergrund macht das Bild nicht zum Deepfake, solange er nur Kulisse ist. Sagt die Szene etwas Falsches über das Produkt, etwa über Größe, Einsatzort oder Wirkung, sieht es anders aus. Weitere Shop-Fälle stehen unter Fälle.

Abgrenzung zu Art. 50 Abs. 2

Art. 50 Abs. 2 und Abs. 4 sind getrennte Pflichten (Rn. 111). Absatz 2 verpflichtet Anbieter generativer KI-Systeme, ihre synthetischen Ausgaben maschinenlesbar zu markieren, ob Deepfake oder nicht, also auch Texte und Fantasiebilder. Ausgenommen sind Systeme, die nur bei der Standardbearbeitung helfen oder die Eingaben nicht wesentlich verändern (Rn. 90 bis 92). Absatz 4 richtet sich an Betreiber, betrifft nur Deepfakes und verlangt eine sichtbare Kennzeichnung. Die Liste der Standardbearbeitung in Rn. 92 gehört formal zu Absatz 2; für Absatz 4 zählt der Deepfake-Begriff mit Rn. 116.

Auf die Markierung des Anbieters kann sich ein Betreiber nicht verlassen, weil Menschen sie nicht wahrnehmen (Rn. 117). Warum sie oft fehlt, steht unter KI-Metadaten; was aus einem Deepfake für die Kennzeichnung folgt, erklärt die Kennzeichnungspflicht.