Was ist ein Deepfake nach der KI-Verordnung?

Das Wichtigste

• Die Definition steht in Art. 3 Nr. 60 KI-VO. Wer einen Deepfake beruflich erzeugt oder verändert, muss offenlegen, dass er künstlich ist (Art. 50 Abs. 4).
• Vier Merkmale müssen zusammenkommen: Ähnlichkeit, ein existierendes oder plausibel existierendes Vorbild, eine Person, ein Gegenstand, Ort, Lebewesen oder Ereignis als Vorbild, und der falsche Anschein von Echtheit oder Wahrheit (Rn. 113).
• „Wirklich“ heißt in der deutschen Fassung nicht, dass es das Vorbild geben muss. Es genügt, was plausibel existieren könnte (Rn. 113 ii).
• „Einrichtungen“ übersetzt „entities“. Gemeint sind belebte, nicht menschliche Wesen, also auch Tiere (Rn. 113 iii).
• Die Beurteilung ist objektiv, eine Täuschungsabsicht ist nicht nötig (Rn. 114). Maßstab ist das ganze vorhersehbare Publikum, auch Kinder und wenig KI-erfahrene Menschen (Rn. 115).
• Erkennbar Unwirkliches ist kein Deepfake. Die Leitlinien nennen eine Sphinx über dem Eiffelturm und Mäuse, die in einer Käsewerbung streiten (Beispiele nach Rn. 116).

Die Definition im Wortlaut

„‚Deepfake‘ einen durch KI erzeugten oder manipulierten Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde;“

Art. 3 Nr. 60 KI-VO, Verordnung (EU) 2024/1689

Erwägungsgrund 134 ergänzt, dass der Inhalt seinem Vorbild „merklich“ ähneln muss. Die Leitlinien der Kommission zu Art. 50, C(2026) 5054, zerlegen die Definition in vier Merkmale, die alle zusammen vorliegen müssen (Rn. 113). Voraussetzung ist außerdem, dass KI beteiligt war. Eine Retusche ohne KI fällt nicht unter den Begriff.

Die vier Merkmale

1. Ähnlichkeit

Der Inhalt muss seinem Vorbild in hohem Maß ähneln, einschließlich erkennbarer Einzelheiten. Identisch muss er nicht sein. Ob die Ähnlichkeit merklich ist, beurteilt der Betreiber im Einzelfall durch einen objektiven Vergleich, unter anderem danach, wie weit charakteristische Merkmale wiedergegeben sind (Rn. 113 i).

2. Existierend oder plausibel existierend

Das Vorbild muss es nicht geben. Es genügt, dass die Person, der Gegenstand oder die Szene existiert, plausibel existieren kann oder plausibel existiert haben könnte (Rn. 113 ii). Die Leitlinien begründen das damit, dass gerade solche Inhalte eine große Quelle von Täuschung und Desinformation sein können. Außerhalb liegt, was Naturgesetzen widerspricht oder biologisch nicht anerkannte Lebewesen zeigt und niemanden täuschen kann. Genannt werden Menschen, die ohne technische Hilfe fliegen, Drachen und Elefanten, die Auto fahren.

3. Personen, Gegenstände, Orte, Einrichtungen, Ereignisse

Die Leitlinien beschreiben die fünf Kategorien so (Rn. 113 iii):

• Personen: realistische Menschen, auch digitale Nachbildungen echter Personen, realistische KI-Avatare und Personas sowie persönliche Merkmale wie Bild, Stimme und Verhalten.
• Gegenstände: realistische, unbelebte Dinge, darunter Gebäude, Kunstwerke, Maschinen und Konsumgüter.
• Orte: realistische Örtlichkeiten.
• Einrichtungen: realistische, nicht menschliche, aber belebte Wesen, einschließlich Tieren und anderer Lebensformen.
• Ereignisse: realistische Szenen oder Situationen mit Personen, Gegenständen, Orten oder Lebewesen, etwa historische Ereignisse oder die Darstellung von Dienstleistungen.

Für Onlineshops bedeutet das: Ein fotorealistisches KI-Bild mit Produkt, Mensch, Tier oder Raum erfüllt die ersten drei Merkmale fast immer. Die Entscheidung fällt in der Praxis beim vierten Merkmal.

4. Falscher Anschein von Echtheit oder Wahrheit

Der Inhalt würde einer Person fälschlich als echt oder wahrheitsgemäß erscheinen. Die Leitlinien trennen zwei Seiten (Rn. 113 iv). Echtheit betrifft Quelle und Entstehung: Waren echte Menschen oder Tiere beteiligt? Sieht ein Gegenstand wirklich so aus, wird er wirklich so benutzt? Lief ein Ereignis so ab? Wahrheit betrifft die sachliche Richtigkeit des Gezeigten. Das Merkmal ist ausdrücklich unabhängig vom Täuschungsbegriff der Richtlinie über unlautere Geschäftspraktiken zu verstehen (Leitlinien, Fn. 32). Der Hinweis, ein verständiger Verbraucher erkenne die KI, hilft deshalb nicht weiter.

Zwei Übersetzungsfallen

Die deutsche Fassung von Art. 3 Nr. 60 verschiebt an zwei Stellen den Sinn. Alle Sprachfassungen sind gleich verbindlich. Die Leitlinien legen aber die englische aus.

Wer nur die deutsche Fassung liest, hält ein frei erfundenes KI-Model oder einen KI-Hund in der Werbung leicht für nicht erfasst. Nach den Leitlinien sind beide erfasst.

Objektiver Maßstab: Absicht zählt nicht

Ob ein Inhalt fälschlich echt erscheint, wird als Ganzes beurteilt (Rn. 114). Dabei zählen der Grad der Ähnlichkeit, die mögliche Aussage des Inhalts, der beabsichtigte und vorhersehbare Einsatz, das Umfeld der Darstellung sowie Zusammensetzung und Erwartungen des Publikums. Die Beurteilung ist objektiv. Eine Absicht, zu täuschen oder in die Irre zu führen, ist nicht nötig.

Fotorealismus macht einen Deepfake wahrscheinlicher, entscheidet aber nicht allein (Rn. 114). Umgekehrt kann der Zusammenhang den falschen Anschein ausschließen: Erwartet das Publikum keine echte Aufnahme, fehlt das vierte Merkmal. Die Leitlinien nennen KI-Hintergründe und Spezialeffekte in der üblichen Filmproduktion. Vollständig KI-erzeugte Schauspieler, digitale Nachbildungen und verjüngte Gesichter wirken dagegen wahrscheinlich täuschend.

Maßstab ist das breiteste Publikum

Anders als bei Art. 50 Abs. 1 kommt es nicht auf einen gedachten Durchschnittsmenschen an (Rn. 115). Zu berücksichtigen ist die mögliche Vielfalt des vorhersehbaren Publikums. Das gilt besonders, wenn absehbar ist, dass Kinder, ältere Menschen oder Personen mit geringer digitaler und KI-Kompetenz den Inhalt sehen. Erscheint er diesem Teil des Publikums fälschlich echt, kann das genügen.

Die Grenze ist das vernünftigerweise vorhersehbare Publikum. Eine Weiterverbreitung durch Dritte über die vorgesehenen Kanäle hinaus muss der Betreiber nicht einkalkulieren. Als Beispiel nennen die Leitlinien Inhalte nur für Abonnenten oder in einem Unternehmens-Newsletter (Rn. 115). Ein öffentlich erreichbarer Onlineshop richtet sich dagegen an alle.

Unbedeutende Änderungen

KI-gestützte Änderungen an unbedeutenden inhaltlichen oder technischen Aspekten eines vorhandenen Inhalts machen ihn nach den Leitlinien in der Regel nicht zum Deepfake (Rn. 116). Genannt werden das Bearbeiten von Hintergrunddetails wie das Entfernen von Passanten, Lichtanpassung, Farbkorrektur, Rauschentfernung, bessere Barrierefreiheit, Komprimierung und kosmetische Anpassungen. In Werbung und auf Verpackungen haben Farbkorrektur, die Erweiterung vorhandener Inhalte, der Austausch von Hintergründen aus klar ästhetischen Gründen, die Anordnung vorhandener Produkte und das Skalieren wahrscheinlich nur geringen Einfluss.

Die Leitlinien betonen, dass es auf Zusammenhang und Wirkung im Einzelfall ankommt. Zum Vergleich nennen sie journalistische Bilder, bei denen schon eine umfangreiche KI-Bearbeitung von Hintergrunddetails die Wahrnehmung der Echtheit beeinträchtigen kann.

Beispiele aus den Leitlinien

Die Leitlinien geben zwei Listen mit Beispielen, dazu Beispiele zu Werken. Die für Händler wichtigsten:

Das Auto-Beispiel ist für Händler das wichtigste, weil es die Grenze zeigt. Der KI-Hintergrund macht das Bild nicht zum Deepfake, solange er nur Kulisse ist. Sagt die Szene etwas Falsches über das Produkt, etwa über Größe, Einsatzort oder Wirkung, sieht es anders aus. Weitere Shop-Fälle stehen unter Fälle.

Abgrenzung zu Art. 50 Abs. 2

Art. 50 Abs. 2 und Abs. 4 sind zwei getrennte Pflichten (Rn. 111). Absatz 2 richtet sich an Anbieter generativer KI-Systeme. Sie müssen ihre synthetischen Ausgaben maschinenlesbar markieren, ob Deepfake oder nicht, also auch Texte und Fantasiebilder. Ausgenommen sind Systeme, die nur bei der Standardbearbeitung helfen oder die Eingaben nicht wesentlich verändern (Rn. 90 bis 92). Absatz 4 richtet sich an Betreiber und betrifft nur Deepfakes, verlangt dafür aber eine sichtbare Kennzeichnung. Die Liste der Standardbearbeitung in Rn. 92 gehört formal zu Absatz 2. Für Absatz 4 zählt der Deepfake-Begriff mit Rn. 116.

Daraus folgen zwei Regeln für die Praxis. Ein Betreiber kann sich nicht auf die Markierung des Anbieters verlassen, weil Menschen sie nicht wahrnehmen (Rn. 117). Und fehlende Metadaten sind kein Beleg gegen KI: Anbieter von Systemen, die vor dem 2. August 2026 auf dem Markt waren, haben für die Markierung bis zum 2. Dezember 2026 Zeit (Art. 111 Abs. 4). Wie Sie Markierungen lesen und erhalten, steht unter KI-Metadaten. Was aus einem Deepfake für die Kennzeichnung folgt, erklärt die Seite zur Kennzeichnungspflicht.

Keine Rechtsberatung. Die Inhalte erklären die Rechtslage auf Grundlage der Primärquellen, sie ersetzen keine Prüfung im Einzelfall.