Künstliche Intelligenz verändert die Art und Weise, wie Unternehmen Inhalte erstellen – von Texten über Bilder bis hin zu Audio- und Videoinhalten. Gleichzeitig müssen dabei Transparenz- und Kennzeichnungspflichten für eben diese Inhalte, die mithilfe von KI erstellt wurden, eingehalten werden.
Unternehmen, die KI-generierte Bilder, Videos, Audioinhalte oder andere Medien veröffentlichen, müssen ab dem 2. August 2026 unter bestimmten Voraussetzungen die Transparenz- und Kennzeichnungspflichten des EU AI Acts beachten. Ziel der europäischen KI-Verordnung ist es, künstlich erzeugte Inhalte für Nutzer nachvollziehbar zu machen und Deepfakes klar zu kennzeichnen.
Diese neue Richtlinie ist eine Ergänzung des bestehenden europäischen AI-Acts, mit dem die EU 2024 erstmals einen einheitlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz geschaffen hat und welcher kontinuierlich weiterentwickelt wird.
Was konkret ist ein Deepfake?
Deepfakes sind mithilfe von Künstlicher Intelligenz (KI) erzeugte oder manipulierte Bilder, Videos oder Audioaufnahmen, die reale Personen, Gegenstände oder Ereignisse täuschend echt darstellen oder verändern. Sie können den Eindruck vermitteln, dass etwas tatsächlich geschehen oder gesagt wurde, obwohl dies nie der Fall war.
Moderne KI-Modelle ermöglichen beispielsweise den Austausch von Gesichtern, die Imitation von Stimmen oder die realistische Manipulation von Bild- und Videomaterial. Ziel ist dabei, eine Darstellung zu erzeugen, die für Betrachterinnen und Betrachter kaum von einer echten Aufnahme zu unterscheiden ist.
Ohne eine entsprechende Kennzeichnung ist für viele Menschen nur schwer erkennbar, dass es sich um KI-generierte oder KI-manipulierte Inhalte handelt.
Wann müssen KI-generierte Bilder, Videos und Audioinhalte gekennzeichnet werden?
Eine Kennzeichnung ist insbesondere bei dann erforderlich, wenn Bilder, Videos oder Audioaufnahmen mithilfe von Künstlicher Intelligenz erstellt oder verändert wurden und den Eindruck erwecken können, reale Personen, Situationen, Ereignisse oder Aussagen darzustellen.
Wie müssen KI-generierte oder KI-manipulierte Bilder gekennzeichnet werden?
KI-generierte oder KI-manipulierte Bilder müssen mit einem klar erkennbaren KI-Hinweis versehen werden. Eine Kennzeichnung sollte gut sichtbar sein, bei unterschiedlichen Bildschirmgrößen gut lesbar bleiben und ausreichende Kontraste aufweisen (z. B. mindestens 4,5:1). Bereits beim ersten Betrachten des Bildes sollte der KI-Hinweis erkennbar sein.
Welche Form der Kennzeichnung sinnvoll ist, hängt zudem von der Zielgruppe und dem Medium ab. In Social Media kann beispielsweise ein Hinweis wie #KIgeneriert oder #AIgenerated ausreichend sein. Es empfiehlt sich jedoch ein einheitliches, dauerhaft sichtbares visuelles KI-Label, um Missverständnisse zu vermeiden und die Transparenz zu erhöhen.
KI-generierte Bilder, die z.B. im Comic-Stil erstellt worden sind, müssen auch nach den neuen Richtlinien nicht gekennzeichnet werden.
Wie kennzeichne ich KI-generierte Video- und Audioinhalten?
Bei Videos sollte die Kennzeichnung direkt im Bild erfolgen. Bei kurzen Formaten wie Reels, TikToks oder Shorts empfiehlt sich eine durchgehende Einblendung eines KI-Labels über die gesamte Dauer des Videos. Bei längeren Videos sollte die Kennzeichnung zu Beginn sowie in regelmäßigen Abständen erneut eingeblendet werden. Ein Hinweis ausschließlich im Abspann oder in der Videobeschreibung gilt als nicht ausreichend.
Bei Audioinhalten ist hingegen ein gesprochener Hinweis erforderlich. Kurze Audioformate sollten diesen Hinweis bereits zu Beginn enthalten. Bei längeren Formaten wie Podcasts empfiehlt sich eine Wiederholung des Hinweises zu Beginn, während des Inhalts und am Ende.
Was passiert, wenn ich Deepfakes nicht kennzeichne?
Wer Inhalte, die nach Art. 50 der EU-KI-Verordnung (AI Act) kennzeichnungspflichtig sind, nicht oder nicht ausreichend kennzeichnet, muss künftig mit rechtlichen Konsequenzen rechnen.
Die KI-Verordnung sieht für Verstöße gegen bestimmte Transparenzpflichten Geldbußen von bis zu 15 Millionen Euro oder bis zu 3 % des weltweiten Jahresumsatzes eines Unternehmens vor – je nachdem, welcher Betrag höher ist. Welche Sanktion im Einzelfall verhängt wird, hängt jedoch von Art, Schwere und Umfang des Verstoßes ab.
Neben möglichen Bußgeldern bestehen auch wettbewerbsrechtliche Risiken. Je nach rechtlicher Einordnung können Mitbewerber oder Verbraucherschutzverbände gegen Verstöße vorgehen. Zudem sind Abmahnungen, Unterlassungsansprüche und Reputationsschäden bei einer fehlenden Kennzeichnung denkbar.
FAQ zur Kennzeichnungspflicht von KI-Content
Ab wann gilt die Kennzeichnungspflicht für KI-generierte Inhalte?
Die Transparenzpflichten nach Art. 50 der EU-KI-Verordnung (AI Act) gelten ab dem 2. August 2026. Ab diesem Zeitpunkt müssen bestimmte KI-generierte oder KI-manipulierte Inhalte – insbesondere Deepfakes – entsprechend gekennzeichnet werden.
Müssen alle KI-generierten Inhalte gekennzeichnet werden?
Nein. Die Kennzeichnungspflicht gilt nicht automatisch für jeden Einsatz von Künstlicher Intelligenz. Entscheidend ist, welche Art von Inhalt veröffentlicht wird und ob dadurch eine Täuschung über dessen Echtheit entstehen kann. Reine Hilfsfunktionen wie Rechtschreibkorrekturen oder kleinere Bildoptimierungen lösen in der Regel keine Kennzeichnungspflicht aus. Auch Bildinhalte, die Comic-ähnlich sind oder illustrierte Abbildungen darstellen, gelten in der Regel nicht als Deepfake, da es sich nicht um verwechselbar echte Ereignisse handelt.
Müssen KI-generierte Texte gekennzeichnet werden?
Nicht grundsätzlich. Der EU AI Act sieht keine allgemeine Kennzeichnungspflicht für KI-generierte Texte vor. Eine Kennzeichnung ist insbesondere dann erforderlich, wenn Nutzer nicht erkennen können, dass sie mit einer KI interagieren (z. B. bei Chatbots) oder wenn KI dazu genutzt wird, täuschend echte Inhalte zu erzeugen. Rein redaktionelle Texte, die mit KI erstellt und von Menschen geprüft oder überarbeitet wurden, müssen in der Regel nicht gekennzeichnet werden.
Gilt die Kennzeichnungspflicht auch für Social Media?
Ja. Die Regelungen gelten unabhängig davon, ob Inhalte auf einer Website, in sozialen Netzwerken, in Newslettern oder in anderen Kanälen veröffentlicht werden. Maßgeblich ist der Inhalt selbst und nicht die Plattform, auf welcher der Content veröffentlicht wird.
Welche Unternehmen sind vom EU AI Act betroffen?
Grundsätzlich können alle Unternehmen betroffen sein, die KI-generierte Inhalte veröffentlichen. Das gilt unabhängig von der Unternehmensgröße.
Gilt die Kennzeichnungspflicht auch für bestehende Inhalte?
Die Transparenzpflichten gelten für Inhalte, die nach Inkrafttreten der jeweiligen Regelungen veröffentlicht werden. Bereits veröffentlichte Inhalte müssen grundsätzlich nicht nachträglich gekennzeichnet werden, sofern sie nicht erneut veröffentlicht oder wesentlich verändert werden.
Wer ist für die Kennzeichnung verantwortlich?
Verantwortlich ist grundsätzlich das Unternehmen oder die Person, die den KI-generierten oder KI-manipulierten Inhalt veröffentlicht und damit der Öffentlichkeit zugänglich macht.