Welche Pflichten Anbieter synthetischer Medien bei der maschinenlesbaren Kennzeichnung von KI-generierten Inhalten treffen
September 2026
Art. 50 Abs. 2 KI-Verordnung verpflichtet Anbieter von KI-Systemen, die Bilder, Videos, Audiodateien oder Texte synthetisch erzeugen, diese Ausgaben maschinenlesbar zu kennzeichnen. Die Pflicht gilt für alle Anbieter solcher Systeme, unabhängig davon, in welchem Kontext die generierten Inhalte verwendet werden.
Anforderungen an die Kennzeichnung nach der KI-Verordnung
Die KI-Verordnung verlangt, dass die gewählte Lösung wirksam, interoperabel, solide und zuverlässig ist, soweit dies technisch möglich ist, unter Berücksichtigung der Besonderheiten und Einschränkungen der verschiedenen Arten von Inhalten, der Umsetzungskosten und des allgemein anerkannten Stands der Technik.
Wen die Pflicht trifft und wie sie sich vertraglich absichern lässt
Diese Pflicht richtet sich an den Anbieter des KI-Systems, also das Unternehmen, das das Modell entwickelt oder auf dem Markt bereitstellt. Wer ein solches Modell in ein eigenes Produkt integriert oder unter eigenem Namen vertreibt, gilt nach der KI-Verordnung gegebenenfalls als nachgelagerter Anbieter. Er muss sicherstellen, dass der Modellanbieter seinen Pflichten nachgekommen ist. Das lässt sich vertraglich absichern, indem die Kennzeichnung als technische Anforderung in der Vereinbarung mit dem Modellanbieter festgehalten wird. Darüber hinaus muss sichergestellt werden, dass vorhandene Kennzeichnungen nicht entfernt werden.
Was der Code of Practice vom 10. Juni 2026 vorschreibt
Was die Kennzeichnung in der Praxis bedeutet und wie sie umzusetzen ist, konkretisiert der Code of Practice, der am 10. Juni 2026 veröffentlicht wurde. Er ist freiwillig, aber Unterzeichner genießen eine Konformitätsvermutung gegenüber Aufsichtsbehörden.
Für Bilder und Videos empfiehlt der Code of Practice einen mehrschichtigen Ansatz aus Metadaten nach dem C2PA-Standard, einem offenen Protokoll zur Einbettung von Herkunftsinformationen direkt in Dateien, und ergänzenden unsichtbaren Wasserzeichen, die einfachen Verarbeitungsschritten wie Komprimierung oder Zuschneiden standhalten sollen. Metadaten allein gelten als fragil, weil sie beim Hochladen auf Plattformen oder bei Konvertierungen verloren gehen können.
Der Sonderfall Text und der aktuelle technische Stand
Für Text existiert bislang kein etablierter Standard, der die gesetzlichen Anforderungen an eine wirksame, interoperable und zuverlässige maschinenlesbare Kennzeichnung von KI-generiertem Text erfüllt. Der Code of Practice benennt dies als offene technische Frage.
Da Art. 50 Abs. 2 KI-Verordnung die Pflicht ausdrücklich unter den Vorbehalt der technischen Möglichkeit stellt, lässt sich gegenwärtig wohl argumentieren, dass die maschinenlesbare Kennzeichnung von KI-generiertem Text faktisch nicht anwendbar ist. Das ist allerdings ein Zustand, der sich ändern kann. Sobald ein anerkannter Standard für Text existiert, greift die Pflicht. Unternehmen sollten diese Entwicklung daher aktiv verfolgen.
Für KI-generierte Texte zu Themen öffentlichen Interesses gilt eine eigene Kennzeichnungspflicht nach Art. 50 Abs. 4 KI-Verordnung, die sich an Betreiber richtet und im folgenden Beitrag gesondert behandelt wird.
Handlungsempfehlungen
Anbieter synthetischer Medien sollten prüfen, ob ihre Systeme bereits eine technisch wirksame und interoperable Kennzeichnung der Ausgaben vornehmen, insbesondere für Bilder und Videos. Für die Einbettung von Herkunftsinformationen bietet sich eine Orientierung am C2PA-Standard an. Wer Modelle von Drittanbietern nutzt oder weitervertreibt, sollte die Erfüllung der Kennzeichnungspflicht vertraglich absichern und regelmäßig überprüfen.
