Der EU-KI-Akt in der Praxis: Was bringt der Verhaltenskodex zur Kennzeichnung von KI-generierten Inhalten?

Die Europäische Kommission hat den endgültigen Verhaltenskodex zur Kennzeichnung von KI-generierten Inhalten veröffentlicht, der einen wichtigen praktischen Schritt bei der Umsetzung des EU-KI-Akts darstellt. Obwohl der Kodex freiwillig ist und für sich genommen keine neuen Rechtspflichten begründet, wird er in der Praxis vor allem bei der Auslegung und beim Nachweis der Einhaltung der Transparenzpflichten nach Art. 50 des KI-Akts eine bedeutende Rolle spielen[1].

Die einschlägigen Pflichten gelten ab dem 2. August 2026, wobei der Kodex Anbietern und Betreibern einen freiwilligen praktischen Rahmen für deren Umsetzung bietet. Ab diesem Zeitpunkt wird der KI-Akt in mehreren Fällen eine klare Offenlegung des Einsatzes von künstlicher Intelligenz verlangen. Nutzer müssen darüber informiert werden, wenn sie mit einem interaktiven KI-System wie einem Chatbot oder einem virtuellen Assistenten kommunizieren, es sei denn, dies ist aus den Umständen offensichtlich. Ebenso werden Deepfake-Inhalte sowie mit künstlicher Intelligenz erzeugte oder manipulierte Texte entsprechend zu kennzeichnen sein, wenn sie zu dem Zweck veröffentlicht werden, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Ziel der Regelungen ist es, das Risiko von Täuschung und Manipulation zu verringern. Inhalte, die von künstlicher Intelligenz erzeugt oder wesentlich verändert wurden, können für Nutzer schwer erkennbar sein, insbesondere wenn es sich um realistische Bilder, Tonaufnahmen, Videos oder Texte handelt, die die öffentliche Debatte beeinflussen können. Transparenz ist daher nicht bloß eine formale Anforderung, sondern eine der wesentlichen Voraussetzungen für den verantwortungsvollen Einsatz generativer künstlicher Intelligenz.

Der Kodex unterscheidet zwischen den Pflichten der Anbieter und jenen der Betreiber von KI-Systemen. Bei den Anbietern liegt der Schwerpunkt vor allem auf der technischen Seite der Transparenz. Anbieter generativer KI-Systeme, die Text, Bilder, Ton oder Video erzeugen oder verändern, müssen sicherstellen, dass die Ausgaben des Systems in maschinenlesbarer Form gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Der Kodex hebt dabei auch die praktische Verwendung visueller Kennzeichnungen und von Erkennungsmechanismen hervor. Zu den empfohlenen Lösungen zählen standardisierte, von der EU erstellte Symbole bzw. andere klare Kennzeichnungen, die dem Nutzer in verständlicher Weise anzeigen, dass der Inhalt mit künstlicher Intelligenz erzeugt oder wesentlich verändert wurde. Diese Kennzeichnungen sollen durch technische Mechanismen ergänzt werden, die die Feststellung der Herkunft des Inhalts ermöglichen, etwa Wasserzeichen, Metadaten oder andere maschinenlesbare Lösungen.

Diese Pflicht ist nicht nur für Entwickler von Allzweck- bzw. Basismodellen relevant. In der Praxis kann sie auch Unternehmen erfassen, die bestehende Modelle in ihre Produkte oder Dienste integrieren und diese unter eigenem Namen in Verkehr bringen oder in Betrieb nehmen. Eine Organisation, die ein Sprachmodell in eine Anwendung zur Erstellung von Marketingtexten, juristischen Entwürfen, Bildern oder Videos einbettet, kann sich hinsichtlich eines solchen Systems in der Position eines Anbieters eines generativen KI-Systems wiederfinden. Sie kann sich daher nicht allein darauf berufen, das Basismodell nicht selbst entwickelt zu haben.

Der zweite Teil des Kodex betrifft die Betreiber von KI-Systemen. Ihre Pflichten sind in der Regel weniger technischer Natur, in der Praxis jedoch von großer Bedeutung. Betreiber werden Deepfake-Inhalte sowie bestimmte mit künstlicher Intelligenz erzeugte oder manipulierte Texte klar kennzeichnen müssen, wenn diese der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen und wenn für sie keine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat. Die zentrale Frage in der Praxis wird sein, wann eine Offenlegung erforderlich ist, wie sie ausgestaltet sein muss und wo sie anzuzeigen ist, damit sie für den Nutzer hinreichend klar und verständlich ist.

Dabei ist auch die Unterscheidung zwischen verschiedenen Graden des Einsatzes künstlicher Intelligenz von Bedeutung. Nicht jeder Inhalt, bei dem künstliche Intelligenz eingesetzt wurde, ist nämlich gleich zu behandeln. Die autonome Erzeugung von Inhalten durch künstliche Intelligenz unterscheidet sich wesentlich von ihrer bloß unterstützenden Rolle beim Lektorieren, Zusammenfassen, Übersetzen oder bei der Erstellung eines Entwurfs, den ein Mensch inhaltlich überprüft. Diese Unterscheidung ist deshalb bedeutsam, weil sie den Umfang und die Form der Offenlegung beeinflusst. Eine übermäßige Kennzeichnung jedes minimalen Einsatzes künstlicher Intelligenz könnte die Aussagekraft der Kennzeichnungen entwerten, zu wenige Offenlegungen könnten hingegen das Vertrauen der Nutzer gefährden.

Obwohl der Kodex freiwillig ist, wird sein praktisches Gewicht beträchtlich sein. Unterzeichner des Kodex werden durch die Anwendung der vorgesehenen technischen und organisatorischen Maßnahmen die Einhaltung des KI-Akts leichter nachweisen können (die Aufsicht soll sich lediglich auf die Überwachung der Einhaltung des Kodex konzentrieren), und für die Marktüberwachungsbehörden wird der Kodex aller Voraussicht nach ein wichtiger Referenzpunkt bei der Beurteilung sein, ob eine Organisation den Transparenzanforderungen entsprechend gehandelt hat. Mit der Unterzeichnung des Kodex werden Anbieter und Betreiber somit ihre Absicht bekräftigen, den Kodex in ihrer Geschäftstätigkeit zu beachten, wobei die Unterzeichner auch öffentlich bekannt gemacht werden. Unternehmen, die sich für einen anderen Ansatz entscheiden, werden daher selbst nachweisen müssen, dass ihre Maßnahmen vergleichbar bzw. ausreichend sind.

Ergänzt wird der Kodex durch die bevorstehenden Leitlinien der Kommission, die den Umfang der Rechtspflichten sowie Fragen, die der Kodex nicht abschließend regelt, näher erläutern sollen. Für Unternehmen ist es jedoch bereits jetzt wichtig, die Transparenz beim Einsatz künstlicher Intelligenz als Teil eines umfassenderen Compliance-Systems zu behandeln. Dazu gehören die Identifikation der KI-Systeme, die Beurteilung der Rollen der einzelnen Akteure, die Gestaltung der Beziehungen zu Lieferanten, die Festlegung interner Regeln für die Kennzeichnung von Inhalten sowie klare Verfahren für die menschliche Überprüfung und die redaktionelle Kontrolle.

Der Verhaltenskodex zur Kennzeichnung von KI-generierten Inhalten ist daher nicht bloß ein technischer Anhang zum KI-Akt, sondern ein praktischer Rahmen für dessen Umsetzung. Er bietet Organisationen Orientierung dazu, wie mit künstlicher Intelligenz erzeugte oder veränderte Inhalte zu kennzeichnen sind, wie Offenlegungen den Nutzern zu präsentieren sind und wie Unternehmen nachweisen können, dass sie entsprechende Prozesse eingerichtet haben. Die zentrale Frage in der Praxis wird künftig nicht mehr nur sein, ob künstliche Intelligenz eingesetzt wurde, sondern auch, ob ihr Einsatz klar, rechtzeitig und in einer Weise offengelegt wurde, die es dem Nutzer ermöglicht, die Herkunft des Inhalts nachzuvollziehen.

—

[1] Art. 50 des EU-KI-Akts legt Transparenzregeln für bestimmte KI-Systeme fest, insbesondere die Pflicht zur Information von Personen über die Interaktion mit KI, zur Kennzeichnung künstlich erzeugter oder manipulierter Inhalte, zur Information beim Einsatz von Systemen zur Emotionserkennung oder biometrischen Kategorisierung sowie zur Offenlegung von Deepfake-Inhalten und bestimmten KI-generierten Texten.