KI-Kennzeichnungspflicht nach Art. 50 der KI-Verordnung

Die Norm im Wortlaut

Absatz 4 regelt, was offenzulegen ist, Absatz 5, wie und wann.

„Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.“

Art. 50 Abs. 4 Unterabs. 1 KI-VO, Verordnung (EU) 2024/1689

„Die in den Absätzen 1 bis 4 genannten Informationen werden den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt. Die Informationen müssen den geltenden Barrierefreiheitsanforderungen entsprechen.“

Art. 50 Abs. 5 KI-VO

Zwei Begriffe der deutschen Fassung sind missverständlich. „Eindeutig“ steht für das englische „distinguishable“, also unterscheidbar. „Aussetzung“ übersetzt „exposure“ und meint den Moment, in dem jemand den Inhalt sieht.

Wer kennzeichnen muss: Anbieter oder Betreiber

Art. 50 kennt zwei Rollen. Anbieter entwickeln ein KI-System und bringen es in Verkehr, etwa die Hersteller von Bildgeneratoren. Sie müssen die Ausgaben maschinenlesbar als künstlich markieren (Art. 50 Abs. 2). Betreiber verwenden ein KI-System in eigener Verantwortung (Art. 3 Nr. 4 KI-VO) und müssen Deepfakes sichtbar kennzeichnen (Art. 50 Abs. 4). Beide Pflichten gelten nebeneinander (Rn. 111).

„In eigener Verantwortung“ (englisch „under its authority“) verstehen die Leitlinien als Entscheidung darüber, ob und wie ein System eingesetzt wird. Technische Kontrolle über das Werkzeug ist nicht nötig (Rn. 12). Mitarbeiter, die nach Weisung arbeiten, sind keine eigenen Betreiber, Betreiber bleibt das Unternehmen (Rn. 14).

Der Händler als Betreiber

Wer im eigenen Unternehmen einen Bildgenerator, ein generatives Füllwerkzeug oder die KI-Funktion des Shopsystems nutzt, um Produktbilder zu erzeugen oder zu verändern, ist Betreiber. Die Ausnahme für rein persönliche, nicht berufliche Nutzung (Art. 2 Abs. 10) greift für einen Onlineshop nicht, denn beruflich ist jede Tätigkeit, mit der regelmäßig ein wirtschaftlicher Vorteil erzielt wird (Rn. 19).

Agentur, Fotograf, Freelancer

Arbeitet ein Auftragnehmer oder Freelancer nach Ihren Vorgaben und haben Sie den KI-Einsatz gewollt, vorgegeben oder freigegeben, bleiben Sie Betreiber (Rn. 14). Beauftragen Sie eine Werbeagentur, ohne über ihren KI-Einsatz zu entscheiden, ist nach den Leitlinien die Agentur Betreiber (Rn. 14). Sie soll mit verhältnismäßigen Mitteln dafür sorgen, dass ihr Label beim Publikum ankommt, etwa über Verträge mit den Partnern, die das Bild verbreiten (Rn. 12). Das können Sie vertraglich einfordern.

Hersteller- und Lieferantenbilder

Wer KI-Bilder eines Herstellers nur übernimmt, ohne über den KI-Einsatz entschieden zu haben, ist nach den Leitlinien in der Regel kein Betreiber. Die Leitlinien empfehlen aber nachdrücklich, vorhandene Kennzeichnungen zu erhalten und das Publikum zu informieren (Rn. 16, 17). Für eine eigene KI-Bearbeitung des Bildes sind Sie Betreiber.

Händler außerhalb der EU

Auch Unternehmen mit Sitz außerhalb der EU sind erfasst, wenn sie die Verbreitung ihrer KI-Inhalte in der EU vorhersehen, etwa über einen Shop, der in die EU verkauft (Art. 2 Abs. 1 Buchst. c, Rn. 13). Regeln anderer Länder stehen unter Weltweit.

Was gekennzeichnet werden muss

Absatz 4 Unterabsatz 1 erfasst Bild-, Ton- und Videoinhalte, die ein Deepfake sind. Art. 3 Nr. 60 definiert das als durch KI erzeugten oder manipulierten Inhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Für Onlineshops entscheiden drei Punkte aus den Leitlinien:

• Produkte sind Gegenstände. Die Leitlinien zählen Konsumgüter ausdrücklich zu den „objects“ (Rn. 113 iii).
• Es muss nichts Echtes nachgebildet sein. Es genügt, dass Person, Gegenstand, Ort oder Szene plausibel existieren könnten (Rn. 113 ii). Ein frei erfundenes, fotorealistisches KI-Model ist erfasst.
• Absicht spielt keine Rolle (Rn. 114). Maßstab ist das vorhersehbare Publikum in seiner ganzen Breite, einschließlich Kindern, Älteren und Menschen mit wenig KI-Erfahrung (Rn. 115).

Die Leitlinien nennen als Deepfake ausdrücklich ein KI-Produktbild in Werbung oder auf einer Verpackung, das über Aussehen, Eigenschaften oder Verwendung täuschen kann, etwa weil es das Produkt nicht identisch, ansprechender oder hochwertiger zeigt als in Wirklichkeit (Beispiele nach Rn. 116).

Texte nur bei öffentlichem Interesse

„Betreiber eines KI-Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.“

Art. 50 Abs. 4 Unterabs. 2 Satz 1 KI-VO

Öffentliches Interesse meint Themen wie Politik, Verwaltung, Justiz, Grundrechte, öffentliche Sicherheit, Gesundheit, Umweltschutz und Verbrauchersicherheit (Rn. 131 iii). KI-Text in Werbung und Produktbeschreibungen ist nach den Leitlinien nicht erfasst, außer bei Aussagen etwa zu Gesundheit, Verbrauchersicherheit oder Nachhaltigkeit (Beispiele zu Rn. 131). Ein Blogartikel über die Wirkung bestimmter Ernährung auf eine Krankheit kann dagegen erfasst sein. Die Pflicht entfällt, wenn ein Mensch den Text vor der Veröffentlichung inhaltlich prüft und jemand die redaktionelle Verantwortung trägt; eine Rechtschreibprüfung reicht nicht (Art. 50 Abs. 4 Unterabs. 2 Satz 2, Rn. 134, 135).

Chatbots: eine andere Pflicht

Chatbots fallen unter Absatz 1. Diese Pflicht trifft den Anbieter, der dafür sorgen muss, dass Menschen erfahren, dass sie mit einer KI sprechen (Rn. 31). Wer einen selbst entwickelten Chatbot unter eigenem Namen betreibt, kann selbst Anbieter sein (Rn. 11).

Seit wann die Pflicht gilt

Art. 50 gilt seit dem 2. August 2026 (Art. 113 KI-VO, Rn. 153), für Betreiber ohne Übergangsfrist. Der Digital-Omnibus (Verordnung (EU) 2026/1744) hat nur Anbietern generativer KI-Systeme, die vor diesem Tag in Verkehr waren, für die maschinenlesbare Markierung nach Absatz 2 Zeit bis zum 2. Dezember 2026 gegeben (Art. 111 Abs. 4, Rn. 153). Bis dahin können KI-Bilder also rechtmäßig ohne Herkunftsdaten bei Ihnen ankommen, und fehlende Metadaten belegen nicht, dass ein Bild ohne KI entstanden ist.

Bilder aus der Zeit vor dem Stichtag

Deepfakes, die vor dem 2. August 2026 erzeugt oder verändert wurden, müssen nach den Leitlinien nicht nachträglich gekennzeichnet werden. Die Leitlinien ermutigen dazu, ohne unverhältnismäßigen Aufwand zu erwarten, etwa die Durchsicht ganzer Bilddatenbanken oder das Ändern gedruckter Verpackungen (Rn. 154). Maßgeblich ist der Zeitpunkt der KI-Bearbeitung, nicht der Veröffentlichung. Eine neue KI-Bearbeitung nach dem Stichtag fällt unter die Pflicht. Ob ein alter Deepfake in einer neuen Kampagne sie auslöst, ist nicht geklärt; nach dem Wortlaut der Leitlinien nicht, ein Label ist dann aber ratsam. Alle Termine stehen unter Fristen.

Wie gekennzeichnet werden muss

Art. 50 Abs. 5 stellt vier Anforderungen, die die Leitlinien so ausfüllen:

• Klar: wahrnehmbar, leicht verständlich und zugänglich, auch für Menschen mit Behinderungen (Rn. 142).
• Unterscheidbar: leicht als eigene Information zu erkennen, getrennt von anderen Angaben und von der Umgebung, in der das Bild erscheint (Rn. 142).
• Spätestens bei der ersten Aussetzung: für jede Ausgabe und jede Person, in jedem Moment, in dem jemand das Bild wahrscheinlich sieht, etwa beim Scrollen durch soziale Medien (Rn. 143). Im Shop ist das oft die Produktkarte in einer Kollektion oder in der Suche, nicht erst die Produktseite.
• Barrierefrei: nach den geltenden Barrierefreiheitsanforderungen, ohne dass Art. 50 eigene hinzufügt (Rn. 144).

Nicht ausreichend ist eine Information, die man unter normalen Bedingungen leicht übersieht, etwa nur in einer Anleitung, in Menüs oder in Nutzungsbedingungen (Rn. 142). Auch die maschinenlesbare Markierung des KI-Anbieters in der Datei genügt nicht, weil Menschen sie ohne technische Hilfsmittel nicht wahrnehmen (Rn. 117).

Wie das Label konkret aussehen soll, beschreibt der Code of Practice der Kommission: das Akronym „AI“ als Hauptelement, sofort sichtbar ohne Klick, an einer Stelle ohne überlagernde Elemente, zum Beispiel oben rechts (Code, Abschnitt 2, Measure 1.1 und 1.2). Die Kommission stellt dafür drei EU-Icons frei zur Verfügung. Größe, Position, Kontrast und Text behandelt die Seite KI-Label gestalten.

Ausnahmen

Standardbearbeitung und unbedeutende Änderungen

Unbedeutende Änderungen an einem vorhandenen Bild haben nach den Leitlinien für die Wahrnehmung nur geringe Bedeutung (Rn. 116), etwa Farbkorrektur, Lichtanpassung, Rauschentfernung oder das Entfernen von Passanten. Für Werbung nennen die Leitlinien ausdrücklich den Austausch oder die Erweiterung des Hintergrunds aus rein ästhetischen Gründen, die Anordnung vorhandener Produkte und das Skalieren. Es kommt aber auf den Zusammenhang an (Rn. 116). Verändert die KI das Produkt selbst oder erzeugt sie eine Szene, die über Größe, Funktion oder Wirkung täuschen kann, greift die Ausnahme nicht.

Offensichtlich künstlerische Werke

Ist ein Deepfake Teil eines offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werks, genügt eine Offenlegung, die den Genuss des Werks nicht beeinträchtigt (Art. 50 Abs. 4 Unterabs. 1 Satz 3). Entfallen darf sie nicht (Rn. 123). Die Leitlinien legen „offensichtlich“ eng aus. Erkennbar rein informierende oder verkaufende Inhalte fallen nicht darunter, bei gemischtem Charakter geht der informierende vor (Rn. 122). Als Gegenbeispiele nennen die Leitlinien Teleshopping mit simulierten Menschen und einen synthetischen Influencer, der ein gesponsertes Produkt testet (Beispiele nach Rn. 124). Für Produkt- und Werbebilder hilft die Ausnahme deshalb in der Regel nicht, anders womöglich bei einem Kunstdruck, den Sie als Werk verkaufen.

Typische Shop-Fälle: kennzeichnen oder nicht

Die Einordnung folgt den Leitlinien. Der Pflicht-Check stellt die Fragen je Bild und nennt zu jedem Ergebnis die Fundstelle, ausführliche Beispiele stehen unter Fälle.

Die Leitlinien sind nicht verbindlich, verbindlich auslegen kann die KI-Verordnung nur der Europäische Gerichtshof (Rn. 5). Die Marktüberwachungsbehörden orientieren sich aber an ihnen. Wo die Leitlinien eine Frage offen lassen oder auf den Einzelfall verweisen, ist das Label die vorsichtigere Wahl.

Durchsetzung und Bußgeld

In Deutschland ist die Bundesnetzagentur Marktüberwachungsbehörde für die KI-Verordnung (§ 2 Abs. 1 KI-MIG, in Kraft seit dem 29. Juli 2026) und zugleich zentrale Beschwerdestelle (§ 8 KI-MIG). Beschwerden nimmt sie kostenlos und nur über ein Onlineformular an, sie kann aber auch von sich aus tätig werden (Rn. 151).

Verstöße gegen Art. 50 können mit Geldbußen bis 15 Mio. Euro oder bis 3 % des weltweiten Jahresumsatzes des Vorjahres geahndet werden, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 4 Buchst. g). Für kleine und mittlere Unternehmen einschließlich Start-ups gilt der jeweils niedrigere Betrag (Art. 99 Abs. 6), ebenso für kleine Midcap-Unternehmen (Abs. 6a). Für ein KMU mit 2 Mio. Euro Jahresumsatz läge die Obergrenze damit bei 3 %, also 60.000 Euro. Die tatsächliche Höhe richtet sich nach dem Einzelfall, etwa nach Schwere und Dauer, Vorsatz oder Fahrlässigkeit, der Zusammenarbeit mit der Behörde und den getroffenen Maßnahmen (Art. 99 Abs. 7).

Vieles spricht dafür, dass Art. 50 Abs. 4 zudem eine Marktverhaltensregel im Sinne von § 3a UWG ist, sodass Mitbewerber und Verbände abmahnen könnten. Entschieden ist das nicht. Eine veröffentlichte Behördenentscheidung, ein Urteil oder eine Abmahnung zu Art. 50 in Deutschland haben wir bis Anfang Oktober 2026 nicht gefunden. Einzelheiten unter Bußgeld und Durchsetzung.

Was das Label nicht leistet

Die Kennzeichnung erfüllt die Transparenzpflicht, macht ein Bild aber nicht rechtmäßig (Erwägungsgrund 137 KI-VO). Ein Deepfake, das als irreführende Werbung unzulässig ist, bleibt es auch mit Label (Rn. 129). Das gilt etwa für ein KI-Bild, das Ihr Produkt besser zeigt, als es ist (§ 5 UWG), gleich wer es erstellt hat. Wer mit KI das Bild einer echten Person verändert, braucht in der Regel deren Einwilligung (Rn. 127, 129).

So setzen Sie die Pflicht um

1. Bestand sichten. Ermitteln Sie, welche Bilder seit dem 2. August 2026 mit KI entstanden oder verändert worden sind. Vorhandene Herkunftsdaten liest das Prüfwerkzeug.
2. Je Bild entscheiden. Der Pflicht-Check führt durch die Fragen der Leitlinien. Die Entscheidung treffen Sie.
3. Label setzen. Es gehört ans Bild, sichtbar ohne Klick, mit „AI“ und einem deutschen Zusatz wie „KI-generiert“. Ein Muster erzeugt das Werkzeug KI-Label setzen.
4. Überall kennzeichnen, wo das Bild erscheint, auch in Produktkarten, Suche, Bannern, Blog und Kanälen außerhalb des Shops (siehe KI-Bilder im Onlineshop).
5. Dokumentieren. Wer den Code of Practice nicht unterzeichnet hat, soll die Umsetzung mit anderen Mitteln belegen können, etwa mit einer Lückenanalyse gegen den Code (Rn. 148).