Neue Kennzeichnungspflicht für KI-generierte Inhalte ab August 2026

KI-Verordnung

Ab dem 2. August 2026 sind bestimmte KI-generierte und bearbeitete Bild-, Ton- und Videoinhalte, die öffentlich zugänglich sind und/oder in einem beruflichen Kontext stehen, als solche zu kennzeichnen. Auch für bestimmte veröffentlichte Texte, die von einer KI erstellt oder bearbeitet wurden, gilt dann eine Kennzeichnungspflicht. Zudem haben Anbieter von KI-Chatbots und KI-Avataren diese als solche auszuweisen.

Bild-, Ton- und Videoinhalte

Wenn Sie Bild-, Ton- oder Videoinhalte im Zusammenhang mit Ihrer beruflichen Tätigkeit nutzen, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden, sind Sie ab dem 2. August 2026 dazu verpflichtet, diese Inhalte klar und eindeutig als KI-generiert zu kennzeichnen, Art. 50 Abs. 4 UAbs. 1 S.1 KI-Verordnung (KI-VO). 

Dies liegt daran, dass solche Inhalte als „Deepfakes“ im Sinne der KI-Verordnung der EU gelten, Art. 3 Nr. 60 KI-VO. Betroffen sind demnach Inhalte, die auf ihre Konsumenten real erscheinen. Es muss sich dabei nicht um die Wiedergabe tatsächlich existierender Personen, Gegenstände oder Ereignisse handeln, entscheidend ist, dass der Inhalt wie eine reale Darstellung wirkt. Bei der Beurteilung, ob es sich um einen Deepfake handelt, ist maßgeblich, ob ein durchschnittlicher Betrachter von der Echtheit des Inhalts ausgehen würde. Bereits geringfügige Veränderungen eines Inhalts können somit einen Deepfake begründen.

Textinhalte

Auch Textinhalte können kennzeichnungspflichtig sein. Dies ist dann der Fall, wenn es sich um Texte handelt, die dazu dienen, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, Art. 50 Abs. 4 UAbs. 2 S.1 KI-VO. Betroffen sind Texte, die über global, lokal oder gruppenspezifisch relevante Inhalte politischer, gesellschaftlicher, wirtschaftlicher, kultureller oder wissenschaftlicher Art informieren. Laut der Wettbewerbszentrale fallen Werbetexte für gewöhnlich wohl nicht unter die Kennzeichnungspflicht, da ihnen die erforderliche Öffentlichkeitsrelevanz in aller Regel fehlen wird. Zudem entfällt bei KI-generierten Texten die Kennzeichnungspflicht, wenn der Text vor Veröffentlichung einer menschlichen Kontrolle unterzogen wurde und redaktionell von einer natürlichen oder juristischen Person verantwortet wird, Art. 50 Abs. 4 UAbs. 2 S. 5 Alt. 2 KI-VO.

KI-Chatbot und KI-Avatar

Wenn Sie auf Ihrer Website einen KI-Chatbot oder einen KI-Avatar anbieten, müssen Sie auch hier den Einsatz von KI kennzeichnen, sofern Sie als Anbieter gem. Art. 3 Nr. 3 KI-VO gelten, Art. 50 Abs. 1 S.1 KI-VO. Dies ist dann der Fall, wenn Sie den KI-Chatbot oder den KI-Avatar in eigener Verantwortung verwenden. Davon ist auszugehen, wenn Sie ein KI-System oder KI-Modell für sich haben entwickeln lassen und es unter Ihrem Namen oder dem Namen Ihrer Handelsmarke in Betrieb nehmen. So sind Sie bereits dann Anbieter, wenn Sie von einem Unternehmen einen KI-Chatbot erwerben, diesem einen eigenen Namen geben und ihn in Ihre Website integrieren. In diesem Fall wäre eine Kennzeichnung, dass man mit einer KI kommuniziert, erforderlich.

Rechtsfolgen fehlender oder unzureichender Kennzeichnung

Bei Zuwiderhandlungen drohen empfindliche Strafen. Nach Art. 99 Abs. 4 KI-VO drohen Geldbußen von bis zu 15 Millionen Euro oder – bei Unternehmen – 3 % des weltweiten Jahresumsatzes, falls dieser Betrag höher ist. Sanktioniert werden können sowohl eine fehlende als auch eine unzureichende Kennzeichnung.