Kennzeichnungspflicht

Ausführliche Erklärung

Die Kennzeichnungspflicht ist Teil der Transparenzvorgaben des EU AI Acts (Verordnung EU 2024/1689), der seit 1. August 2024 in Kraft ist. Sie betrifft Anbieter von KI-Systemen, die solche Systeme entwickeln oder bereitstellen, sowie Betreiber, die KI-Systeme im geschäftlichen Kontext nutzen. Entscheidend ist nicht das verwendete Tool, sondern ob ein Inhalt geeignet ist, Menschen über seinen Ursprung zu täuschen oder den Eindruck einer menschlichen Kommunikation zu erwecken.

Kennzeichnungspflichtig sind drei zentrale Kategorien: Erstens sogenannte Deepfakes – also täuschend echt wirkende Bilder, Videos oder Audioinhalte, die realen Personen, Orten oder Ereignissen ähneln. Zweitens KI-generierte Texte zu Themen von öffentlichem Interesse, wenn sie ohne redaktionelle Kontrolle veröffentlicht werden. Drittens Chatbots und KI-Assistenten, bei denen Nutzer informiert werden müssen, dass sie mit einer KI und nicht mit einem Menschen kommunizieren. Wird KI hingegen nur als Hilfsmittel zur Rechtschreibkorrektur oder sprachlichen Glättung eingesetzt und bleibt der Inhalt inhaltlich menschlich geprägt, entfällt die Kennzeichnungspflicht in der Regel.

Anbieter müssen KI-Inhalte maschinenlesbar markieren, etwa durch Wasserzeichen. Betreiber tragen die Verantwortung für die für Menschen sichtbare Kennzeichnung. Wichtig für KMU: Die Kennzeichnungspflicht entfällt bei Texten, wenn eine Person redaktionelle Verantwortung übernimmt und den Inhalt vor Veröffentlichung prüft. Diese Ausnahme gilt nicht pauschal – die Überarbeitung muss substanziell sein, nicht nur kosmetisch.

Verstöße gegen die Transparenzpflichten können mit Bußgeldern bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, wobei jeweils der höhere Betrag gilt. Die Regelung betrifft nicht nur EU-Unternehmen, sondern alle Organisationen, deren KI-Inhalte auf dem europäischen Markt bereitgestellt werden. Der rein private Einsatz von KI ist ausgenommen.