Ich nenne ein Beispiel: eine KI erstellst ein Bild für mich, das a) vollständig oder b) überwiegend aus Photos besteht, an denen ich alle Rechte habe. Es wird auf meiner Website verwendet. Muss das gekennzeichnet werden?
Fall A: Das Bild wird vollständig aus meinen Fotos erzeugt
Angenommen, ich gebe der KI 20 eigene Fotos und sie erzeugt daraus ein neues Bild.
Hier ist die entscheidende Frage:
Ist das Ergebnis für einen Betrachter eine neue, künstlich erzeugte Darstellung oder lediglich eine Bearbeitung meiner Fotos?
Beispiel 1 – keine Kennzeichnungspflicht
- Hintergrund entfernt
- Farben verändert
- Himmel ersetzt
- störende Personen entfernt
- Schärfe verbessert
- Lichtstimmung verändert
Das sind typische Bildbearbeitungen, auch wenn sie mit KI erfolgen. Nach den Leitlinien lösen solche Änderungen für den Verwender in der Regel keine Transparenzpflicht nach Art. 50 AI Act aus.
Beispiel 2 – Kennzeichnung wahrscheinlich erforderlich
Aus meinen Fotos entsteht beispielsweise:
- ein völlig neues Gemälde,
- eine nie existierende Szene,
- eine Person wird in eine andere Umgebung versetzt,
- mehrere Personen werden zu einer neuen Situation kombiniert,
- aus mehreren Fotos entsteht ein fotorealistisches Bild, das nie aufgenommen wurde.
Dann handelt es sich nicht mehr nur um Bildbearbeitung, sondern um KI-generierten Bildinhalt. Dafür spricht vieles dafür, dass eine Kennzeichnung erforderlich ist.
Fall B: Das Bild besteht überwiegend aus meinen Fotos
Nehmen wir an:
- 90 % stammen aus meinen Fotos,
- 10 % ergänzt die KI (z. B. Hintergrund, Himmel, Objekte).
Hier wird es schwieriger.
Die Leitlinien stellen nicht auf Prozentzahlen ab, sondern auf die Wirkung des Endergebnisses:
- Ist das veröffentlichte Bild im Wesentlichen noch ein echtes Foto?
- Oder entsteht der Eindruck einer fotografischen Aufnahme, die es in Wirklichkeit nie gab?
Wenn Letzteres zutrifft, spricht vieles für eine Kennzeichnung.
Spielen die Urheberrechte an den Fotos eine Rolle?
Nein – zumindest nicht für die Kennzeichnungspflicht nach dem AI Act.
Ob die Ausgangsfotos von mir stammen oder aus einer Bilddatenbank lizenziert wurden, ist für die Transparenzpflicht grundsätzlich unerheblich. Entscheidend ist nicht die Herkunft des Materials, sondern ob der veröffentlichte Inhalt als KI-generiert oder wesentlich KI-manipuliert anzusehen ist.
Ein Beispiel aus meinen Anwendungen
Angenommen, ich fotografire die Galerie Franka Löwe und lasse daraus mit KI eine Abendstimmung erzeugen:
- dieselbe Galerie,
- dieselben Gebäude,
- warme Beleuchtung,
- etwas Nebel,
- kleiner Farblook.
Ich würde das eher als KI-gestützte Bildbearbeitung ansehen. Eine Kennzeichnung nach Art. 50 dürfte hier regelmäßig nicht erforderlich sein.
Anders wäre es, wenn die KI:
- zusätzliche Häuser,
- Menschen,
- Kunstwerke,
- einen Brunnen,
- einen Marktplatz
hinzufügt, die nie vorhanden waren. Dann entsteht ein neues, künstlich erzeugtes Motiv, bei dem eine Kennzeichnung naheliegt.
Ein wichtiger Punkt
Der AI Act enthält bewusst keine starre Definition, wann die Grenze zwischen „Bearbeitung“ und „Generierung“ überschritten ist. Die Europäische Kommission spricht stattdessen von einer wesentlichen KI-Erzeugung oder -Manipulation (substantially AI-generated or AI-manipulated). Diese Formulierung lässt Raum für Auslegung.
Für Grenzfälle gibt es derzeit noch keine gefestigte Rechtsprechung. Deshalb ist eine Einzelfallbewertung erforderlich.
Für eine Website würde ich als Faustregel empfehlen:
- Keine Kennzeichnung, wenn KI nur als intelligentes Bildbearbeitungswerkzeug eingesetzt wurde und das Bild im Wesentlichen ein authentisches Foto bleibt.
- Kennzeichnung, wenn die KI ein neues Motiv oder wesentliche Bildelemente erzeugt, die zuvor nicht existierten, sodass der Betrachter eine reale Szene vermuten könnte.