Seit dem 2. August 2026 gelten die Transparenzpflichten des Art. 50 KI-VO. Die vier Regelungsbereiche haben wir bereits in einem früheren Beitrag im Überblick dargestellt. In der Praxis stellt sich die Frage nach der Kennzeichnung jedoch meist nicht abstrakt, sondern anhand eines konkreten Anwendungsfalls: Ein Unternehmen hat mit KI ein Kampagnenmotiv erstellt, einen Text entworfen oder einen Chat-Assistenten eingebunden. Anschließend ist unklar, ob und in welcher Form der KI-Einsatz offengelegt werden muss.
Der Gesetzestext allein hilft bei dieser Prüfung häufig nur begrenzt weiter. Zweckmäßiger ist es, vom fertigen Inhalt auszugehen und die maßgeblichen Fragen Schritt für Schritt zu beantworten.
Vorfrage: Ist mein Unternehmen überhaupt verpflichtet?
Am Anfang steht die Frage, wem der KI-Einsatz rechtlich zugerechnet wird. Die KI-VO unterscheidet insbesondere zwischen Anbietern und Betreibern:
Wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen auf den Markt bringt, gilt grundsätzlich als Anbieter. Bei ihm steht vor allem die technische Ausgestaltung des Systems im Mittelpunkt. Dazu gehört insbesondere die Frage, ob maschinell erzeugte Inhalte als solche markiert und die Markierungen technisch ausgelesen werden können.
Wer ein KI-System im eigenen Geschäftsbetrieb verwendet, ist hingegen Betreiber. Seine Pflichten betreffen vor allem den transparenten Einsatz gegenüber den Personen, die mit dem System oder seinen Ergebnissen in Berührung kommen. Entwickelt ein Unternehmen ein eigenes Werkzeug und nutzt es zugleich für die eigene Kommunikation, kann es beide Rollen gleichzeitig einnehmen.
Für Unternehmen ist die Abgrenzung insbesondere bei arbeitsteiligen Projekten und Auftragsverhältnissen relevant. Beschäftigte, etwa Mitglieder der eigenen Marketingabteilung oder angestellte Grafiker, handeln regelmäßig für das Unternehmen und begründen keine eigenständige Betreiberrolle. Vergleichbares kann für einen eng nach Weisung tätigen Dienstleister gelten.
Anders kann es bei einer Agentur liegen, die eigenständig darüber entscheidet, ob und in welcher Weise sie KI für ein Kundenprojekt einsetzt und insoweit eigene Verantwortung übernimmt. Auch wer ein fremdes KI-Modell in ein eigenes Produkt integriert und dieses unter eigenem Namen anbietet, kann selbst zum Anbieter werden.
Entscheidend ist nicht allein, welche Bezeichnungen oder Verantwortlichkeiten im Vertrag gewählt wurden. Maßgeblich sind die tatsächlichen Verhältnisse und insbesondere die Frage, wer über den Einsatz der KI bestimmt.
Bild, Video und Ton: Wann liegt ein Deepfake vor?
Bei visuellen und akustischen Inhalten sind zwei Ebenen zu unterscheiden: die technischen Kennzeichnungspflichten des Anbieters des KI-Systems und die Offenlegungspflichten des Unternehmens, das die erzeugten Inhalte einsetzt. Auf Anbieterseite muss ein System, das synthetische Bild-, Video- oder Audioinhalte erzeugt, die Ergebnisse grundsätzlich so kennzeichnen, dass sie später technisch als künstlich erzeugt oder verändert erkannt und überprüft werden können. Nicht jede digitale Bearbeitung fällt darunter. Das Zuschneiden, Schärfen oder Reduzieren von Bildrauschen erzeugt für sich genommen noch keinen synthetischen Inhalt. Anders kann es sein, wenn neue Bildbestandteile ergänzt, mehrere Szenen miteinander verbunden oder Stimmen künstlich erzeugt werden.
Auf der zweiten Ebene geht es um die Offenlegung gegenüber dem Publikum. Für Unternehmen, die solche Inhalte einsetzen, ist vor allem die Frage relevant, ob ein Deepfake vorliegt. Der Begriff ist weiter, als der allgemeine Sprachgebrauch vermuten lässt. Es muss weder eine prominente Person nachgeahmt noch ein tatsächliches Ereignis verfälscht werden. Ausreichend kann bereits sein, dass ein KI-generierter Inhalt eine Person, einen Ort oder eine Situation wirklichkeitsnah darstellt und deshalb mit einer echten Aufnahme verwechselt werden könnte. Eine Täuschungsabsicht ist nicht erforderlich. Damit kann auch ein vollständig erfundenes, aber fotorealistisches Werbemotiv als Deepfake einzuordnen sein, etwa die Darstellung einer Familie an einem Frühstückstisch, obwohl weder die Personen noch die konkrete Szene jemals existiert haben.
Maßgeblich ist der Gesamteindruck. Zu berücksichtigen sind insbesondere der Grad des Realismus, die angesprochene Zielgruppe, der Veröffentlichungskontext und die Wahrscheinlichkeit, dass der Inhalt für eine reale Aufnahme gehalten wird. Fehlt es erkennbar an einem solchen Realitätseindruck, liegt regelmäßig kein Deepfake vor. Das gilt beispielsweise für eindeutig gezeichnete Illustrationen, offensichtlich unmögliche Szenen oder als solche erkennbare Überzeichnungen und Parodien. Für künstlerische, satirische oder vergleichbare Werke sieht die KI-VO zudem Erleichterungen vor. Der Hinweis darf in diesen Fällen so gestaltet werden, dass die Darstellung oder Rezeption des Werks nicht unangemessen beeinträchtigt wird.
Ist eine Offenlegung erforderlich, muss sie dort erfolgen, wo der Inhalt wahrgenommen wird. Bei Bildern und Videos sollte der Hinweis unmittelbar sichtbar sein, bei Audioinhalten grundsätzlich zu Beginn hörbar. Eine Kennzeichnung, die ausschließlich in den Metadaten hinterlegt ist, genügt für die Information des Publikums nicht.
Text: Eine eng begrenzte, aber praxisrelevante Kennzeichnungspflicht
Bei Texten liegt die Schwelle für eine Kennzeichnung höher als bei Bild-, Video- oder Audioinhalten. Eine sichtbare Offenlegung ist grundsätzlich nur erforderlich, wenn drei Voraussetzungen zusammentreffen: Der Text wurde ganz oder teilweise durch KI erzeugt oder verändert, er wird veröffentlicht und er dient dazu, die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren. Erfasst sein können etwa Beiträge zu Gesundheit, Umwelt, Justiz, Verbraucherschutz sowie zu politischen oder wirtschaftlichen Themen. Reine Produktbeschreibungen, klassische Werbetexte und ausschließlich unterhaltende Inhalte dürften dagegen regelmäßig nicht unter die Vorschrift fallen. Anders kann es bei einem KI-generierten Ratgeber liegen, der sich mit einer gesundheitspolitischen Debatte befasst.
Eine wichtige Ausnahme besteht, wenn der Text einer hinreichenden menschlichen Prüfung unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für seine Veröffentlichung übernimmt. Eine bloß formale Freigabe genügt dafür nicht. Wer sich auf die Ausnahme berufen möchte, sollte nachvollziehbar dokumentieren können, dass der Inhalt fachlich geprüft, auf seine Tatsachengrundlagen kontrolliert und erforderlichenfalls substanziell überarbeitet wurde. Wird der Text nach dieser Prüfung nochmals wesentlich mithilfe von KI verändert, ist erneut zu prüfen, ob die Voraussetzungen der Ausnahme weiterhin vorliegen oder die Kennzeichnungspflicht wieder eingreift.
Was eine Kennzeichnung nicht leistet
Drei Hinweise helfen, häufige Missverständnisse zu vermeiden. Erstens können die technischen Kennzeichnungspflichten des Anbieters auch dann gelten, wenn synthetische Inhalte ausschließlich intern verwendet werden. Die sichtbare Kennzeichnung von KI-generierten Texten setzt dagegen grundsätzlich eine Veröffentlichung voraus und greift bei rein internen Inhalten regelmäßig nicht. Zweitens kommt es nicht auf den Verbreitungsweg an. Ob ein Inhalt über einen Newsletter, eine Landingpage, ein soziales Netzwerk oder eine Presseinformation verbreitet wird, ist für sich genommen unerheblich. Entscheidend sind Inhalt, Zweck und die Rolle des jeweiligen Unternehmens.
Drittens macht eine ordnungsgemäße Kennzeichnung den Einsatz von KI nicht automatisch rechtmäßig. Sie erfüllt lediglich die Transparenzanforderungen. Daneben ist gesondert zu prüfen, ob datenschutzrechtliche Vorgaben eingehalten werden, Urheber- und Persönlichkeitsrechte gewahrt sind, die Kommunikation wettbewerbsrechtlich zulässig ist oder weitere Anforderungen bis hin zu Verboten oder besonderen Pflichten für Hochrisiko-Systeme eingreifen. Umgekehrt gilt Art. 50 KI-VO unabhängig davon, ob ein System kommerziell oder quelloffen ist, und keineswegs nur für Hochrisiko-Anwendungen. Bereits der Einsatz eines alltäglichen Bildgenerators im Marketing kann die Transparenzpflichten auslösen. Verstöße können mit Geldbußen von bis zu 15 Millionen Euro oder, bei Unternehmen, bis zu 3 Prozent des weltweiten Jahresumsatzes geahndet werden. Hinzu kommen mögliche wettbewerbsrechtliche Beanstandungen und Reputationsschäden, zumal eine fehlende Kennzeichnung für das Publikum unmittelbar erkennbar sein kann.
Praxistipp:
Die Frage, ob KI-generierte Inhalte gekennzeichnet werden müssen, sollte nicht für jeden Einzelfall von Grund auf neu geprüft werden. Sinnvoller ist ein einheitlicher Entscheidungsprozess, der sich an vier Leitfragen orientiert:
- Wer trägt die Verantwortung für das Ergebnis?
Klären Sie für jeden Anwendungsfall, ob Ihr Unternehmen das KI-System selbst bereitstellt, lediglich einsetzt oder beide Rollen übernimmt. Diese Zuordnung sollte dokumentiert werden. Besondere Aufmerksamkeit ist bei zugekauften Lösungen geboten, die unter eigenem Namen angeboten oder vertrieben werden. Hier kann das Unternehmen unter Umständen selbst als Anbieter gelten. - Wirkt das Bild wie eine reale Aufnahme?
Nehmen Sie den Realitätseindruck als festen Punkt in die Freigabe von Kampagnenmaterial auf. Dabei geht es nicht nur um manipulierte Aufnahmen bekannter Personen. Häufiger übersehen werden vollständig erfundene, aber fotorealistisch wirkende Alltagsszenen. - Genügt die redaktionelle Prüfung?
Legen Sie für KI-generierte Texte zu Themen von öffentlichem Interesse fest, welche Anforderungen eine tatsächliche inhaltliche Prüfung erfüllen muss. Auch der Prüfprozess sollte nachvollziehbar dokumentiert werden. Eine rein formale Freigabe dürfte hierfür regelmäßig nicht ausreichen. - Sind die Dienstleister eingebunden?
Verpflichten Sie Anbieter von KI-Systemen und beauftragte Agenturen vertraglich dazu, erforderliche Kennzeichnungen vorzunehmen und deren technische Nachvollziehbarkeit sicherzustellen. Die Kennzeichnung sollte auch bei der weiteren Verarbeitung oder Einbindung des Inhalts erhalten bleiben. Zudem sollten Dienstleister verpflichtet werden, über relevante Änderungen an den eingesetzten Systemen oder Verfahren zu informieren.
Wichtig bleibt: Eine Kennzeichnung beantwortet nur die Frage der Transparenz. Datenschutzrechtliche, urheberrechtliche und wettbewerbsrechtliche Anforderungen sind daneben weiterhin gesondert zu prüfen.
Gern unterstützen wir Sie bei der Zuordnung der maßgeblichen Rollen, der Ausgestaltung interner Prüf- und Freigabeprozesse sowie der vertraglichen Absicherung gegenüber Dienstleistern.
Kontakt:
Jens Borchardt