Derzeit können vor allem zwei unterschiedliche Quellen von Kennzeichnungspflichten für KI-Inhalte ausgemacht werden. Zum einen Kennzeichnungspflichten, die von den Betreibern großer Plattformen wie Google, Meta, Microsoft, TikTok, YouTube usw. ausgehen. Zum anderen Kennzeichnungspflichten nach der neuen KI-Verordnung (AI Act), insbesondere gem. Art. 52 Abs. 3 Ki-VO.
Nachdem eine ganze Reihe großer Plattformbetreiber wie Google, Meta, Microsoft, TikTok, YouTube usw. den Verhaltenskodex gegen Desinformation unterzeichnet haben, orientieren sie sich verstärkt am Hauptziel des Verhaltenskodex, eine klare Kennzeichnung von KI- generierten Inhalten zu erreichen. Viele Plattformen führen deshalb die Kennzeichnung von solchen Inhalten ein, die sich nicht eindeutig von realen Inhalten unterscheiden lassen. So stellt z.B. TikTok ein Tool zur Kennzeichnung von KI-Inhalten zur Verfügung und möchte künftig die automatische Kennzeichnung von KI-Inhalten einführen. Dies gilt nach einer Richtlinie von TikTok insbesondere dann, wenn künstlich erstellte Medieninhalte vorgeblich realistische Szenen zeigen, sodass ein gesteigertes Bedürfnis für die Offenlegung besteht. Dabei kann die Kennzeichnung z.B. durch Verwendung eines Stickers oder einer Bildunterschrift wie z.B. „KI-erstellt“ oder „KI-erzeugt“ erfolgen.
Auch Facebook oder Instagram wollen KI-generierte Inhalte künftig erkennbar machen. YouTube geht noch einen Schritt weiter, und hat seine Community-Richtlinien ergänzt, nach denen Nutzer in Zukunft offenlegen müssen, wenn sie künstlich erzeugte Inhalte erstellt haben, die realistisch wirken. Das gilt auch für die Nutzung generativer KI-Systeme. So bestehen z.B. Kennzeichnungspflichten, wenn ein KI-generiertes Video erstellt wird, das ein Ereignis realistisch darstellt, obwohl es nie stattgefunden hat. Oder wenn Inhalte erzeugt werden, die eine Person zeigen, die etwas sagt oder tut, das jedoch tatsächlich nie gesagt oder getan hat. Solche realistisch wirkenden Inhalte sollen künftig als KI-generiert gekennzeichnet werden. Bei Verstößen kann die Plattform Inhalte entfernen oder die Nutzer sanktionieren.
Kennzeichnungspflichten ergeben sich aber auch aus der neuen KI-Verordnung, so insbesondere gem. Art. 52 Abs. 3 KI-VO. Dabei wird unterschieden zwischen Kennzeichnungspflichten für Bild, Audio oder Videoinhalte auf der einen Seite und Textinhalte auf der anderen Seite. So muss, wer KI-basiert Bild, Audio oder Videoinhalte erzeugt oder verändert, offenlegen, dass die Inhalte künstlich erzeugt oder verändert wurden, sofern die Inhalte andernfalls täuschenden Charakter haben (Deep Fakes). Dabei gelten Ausnahmen z.B. für Kunst und Satire.
Für Textinhalte gilt, dass durch KI generierte oder veränderte Texte, die zu dem Zweck veröffentlicht werden, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, offenlegen muss, dass der Text künstlich generiert oder verändert wurde. Hier bestehen also nur Kennzeichnungspflichten, wenn es um für die Öffentlichkeit bestimmte Inhalte im öffentlichen Interesse geht. Zudem gilt die Kennzeichnungspflicht dann nicht, wenn die KI-generierten Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
Eine Bestimmung, welcher Art die Kennzeichnung sein muss, also z.B. durch einen Sticker oder eine Unterschrift, enthält die gesetzliche Regelung nur in allgemeiner Form. So bestimmt Art. 52 Abs. 3a KI-VO lediglich, dass die kennzeichnenden Informationen den betroffenen natürlichen Personen in klarer und erkennbarer Weise spätestens zum Zeitpunkt der ersten Interaktion erteilt werden müssen.
Haben Sie Interesse an den rechtlichen Details oder weitere Fragen zum Thema KI ? Unser Spezialist RA Horst Speichert, Mitgeschäftsführer der esb data GmbH, erläutert Ihnen gerne die notwendigen Maßnahmen für den rechtskonformen KI-Einsatz persönlich. Auch wenn wir Sie mit einer Gap- oder Risiko-Analyse nach der neuen KI-VO unterstützen können, nehmen Sie einfach Kontakt mit uns auf: horst.speichert@esb-data.de