Wann müssen Unternehmen KI-generierte Bilder, Videos und Texte als solche kennzeichnen?
September 2026
Art. 50 Abs. 4 KI-Verordnung enthält zwei Kennzeichnungspflichten für Betreiber. Die erste betrifft synthetische Medien, also KI-generierte oder KI-manipulierte Bild-, Audio- und Videoinhalte, die echten Personen, Orten oder Ereignissen so ähneln, dass sie als echt wirken könnten. Die zweite betrifft KI-generierte Texte, die zu Themen öffentlichen Interesses veröffentlicht werden. Beide Tatbestände werden im Folgenden getrennt erläutert.
Was bei Deepfakes und synthetischen Medien kennzeichnungspflichtig ist und was nicht
Wer ein KI-System einsetzt, um Bilder, Videos oder Audioinhalte zu erzeugen oder zu verändern, muss offenlegen, dass dieser Inhalt künstlich erzeugt oder manipuliert wurde, wenn der Inhalt echten Personen, Orten, Ereignissen oder Produkten so ähnelt, dass er als echt wirkt. Reine Nachbearbeitungen wie Zuschnitt, Farbkorrektur, Rauschunterdrückung oder Helligkeitsanpassung lösen keine Kennzeichnungspflicht aus.
Die Grenze zwischen erlaubter Nachbearbeitung und kennzeichnungspflichtiger Manipulation
Sobald die Aussage, der Inhalt oder die wahrgenommene Realität eines Bildes, Videos oder Audiofiles verändert wird, besteht eine Kennzeichnungspflicht. Die Leitlinien der EU-Kommission veranschaulichen das an einem praktischen Beispiel: Ein Produkt vor einem KI-generierten Hintergrund muss nicht als Deepfake gekennzeichnet werden. Ein KI-Bild, das dasselbe Produkt größer, glänzender oder in einer anderen Farbe zeigt als in der Realität, muss es.
Für Audioinhalte gilt dasselbe Prinzip. Eine synthetische Stimme, die einen Text vorliest, ist kennzeichnungspflichtig. Das ist besonders relevant für automatisierte Anrufsysteme, bei denen Kunden häufig nicht bemerken, dass sie mit einer KI-Stimme sprechen. Eine Stimme, die lediglich in Lautstärke oder Klangqualität angepasst wurde, fällt hingegen nicht unter die Transparenzpflicht.
Praktische Beispiele aus dem Unternehmensalltag
In der Praxis unterschätzen viele Unternehmen, wie weit der KI-Einsatz mittlerweile reicht. Bildoptimierung, automatische Hintergrundentfernung, Sprachsynthese in Videos und Copywriting-Tools arbeiten mit KI. Nicht alles davon ist kennzeichnungspflichtig, aber Unternehmen müssen den Überblick behalten, um das im Einzelfall beurteilen zu können. Kennzeichnen bedeutet dabei konkret, dass der Inhalt deutlich erkennbar als KI-generiert oder KI-manipuliert markiert sein muss, und zwar so, dass die Kennzeichnung für jeden sofort erkennbar ist, der mit dem Inhalt in Kontakt kommt.
Die Ausnahme für künstlerische und satirische Inhalte und warum sie für Unternehmen selten greift
Die Verordnung sieht für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke eine abgestufte Regelung vor. Diese Inhalte unterliegen einer eingeschränkten Fassung der Kennzeichnungspflicht. Es reicht eine Offenlegung in geeigneter Form, die das Werk nicht beeinträchtigt. Auch ein Satirevideo muss also als KI-generiert gekennzeichnet werden, nur weniger prominent als ein Werbebanner.
Für Unternehmen greift diese Ausnahme jedoch nur selten. Die Leitlinien der EU-Kommission stellen klar, dass sie nicht gilt, wenn der Inhalt informativ oder kommerzieller Natur ist. Werbung, Produktfotos und Erklärvideos fallen zumeist in eine dieser beiden Kategorien, sodass für sie in der Regel eine vollständige Kennzeichnungspflicht besteht.
Wann die Kennzeichnungspflicht für KI-generierte Texte zu Themen öffentlichen Interesses greift
Neben synthetischen Medien erfasst Art. 50 Abs. 4 KI-Verordnung auch KI-generierte Texte, die zu Themen öffentlichen Interesses veröffentlicht werden. Zwei praktische Beispiele verdeutlichen den Anwendungsbereich: Ein börsennotiertes Unternehmen, das auf seiner Website einen KI-bearbeiteten Quartalsbericht mit Investoreninformationen veröffentlicht, und ein meteorologisches Institut, das eine KI-generierte Unwetterwarnung auf Social Media postet, lösen beide die Kennzeichnungspflicht aus.
Die Pflicht greift, wenn drei Voraussetzungen gemeinsam erfüllt sind. Zunächst muss es sich um einen veröffentlichten Text handeln, also um einen Text, der für eine unbestimmte, größere Öffentlichkeit zugänglich ist. Interne Unternehmenskommunikation, private Beratungsberichte oder Nachrichten in kleinen geschlossenen Gruppen fallen ausdrücklich nicht darunter. Darüber hinaus muss der Text darauf ausgerichtet sein, Wissen, Meinungen oder Fakten zu vermitteln. Schließlich muss er Angelegenheiten von öffentlichem Interesse betreffen, also Themen wie Politik, Gesundheit, Umwelt, Wirtschaft oder Verbraucherschutz. Produktbeschreibungen oder KI-generierte Unterhaltungsliteratur fallen hingegen nicht in den Anwendungsbereich.
Ist die Pflicht anwendbar, muss klar und für jeden Leser ohne technische Hilfsmittel erkennbar sein, dass der Text KI-generiert oder KI-bearbeitet wurde.
Was als redaktionelle Prüfung ausreicht und was nicht
Wer den KI-generierten Text einer echten redaktionellen Prüfung unterzieht, kann von der Kennzeichnungspflicht ausgenommen sein. Als ausreichend gilt etwa eine Chefredakteurin, die den Text inhaltlich prüft, Quellen hinterfragt und die Befugnis hat, ihn zu ändern oder abzulehnen. Auch ein internes Peer-Review-Verfahren oder die inhaltliche Prüfung eines Nachhaltigkeitsberichts durch Compliance-Fachleute können die Anforderungen erfüllen.
Nicht ausreichend sind dagegen reine Rechtschreib- oder Grammatikprüfungen ohne inhaltliche Auseinandersetzung mit dem Text, das bloße Vorhandensein einer redaktionellen Richtlinie ohne deren konkrete Anwendung sowie automatisierte Prüfprozesse, bei denen ein weiteres KI-System die Prüfung übernimmt. Ein Lektor, der lediglich einen oberflächlichen Abschlussdurchgang vornimmt, nachdem ein anderes KI-System den Text bereits bearbeitet hat, erfüllt die Anforderungen ebenfalls nicht. Wichtig für den Arbeitsablauf ist außerdem, dass die Ausnahme entfällt, wenn eine KI nach der abgeschlossenen redaktionellen Prüfung noch einmal substanziell in den Text eingreift.
Wann die Kennzeichnungspflicht für KI-generierte Texte zu Themen öffentlichen Interesses greift
Unternehmen sollten zunächst prüfen, welche KI-generierten oder KI-bearbeiteten Inhalte sie veröffentlichen, insbesondere Bilder, Videos, Audiomaterial, Berichte und Pressemitteilungen zu wirtschaftlich oder gesellschaftlich relevanten Themen. Anschließend sollte bewertet werden, ob eine inhaltlich fundierte Prüfung vor der Veröffentlichung stattfindet und wer dafür nachweisbar die Verantwortung trägt. Fehlt eine solche Prüfung oder lässt sie sich nicht dokumentieren, ist eine sichtbare Kennzeichnung erforderlich.
