Rechtsanwalt Carl Christian Müller
Künstliche Intelligenz wird längst für Bilder, Videos, Texte, Stimmen, Werbung und Kundenkommunikation eingesetzt. Ab dem 2. August 2026 gelten für bestimmte KI-Systeme und KI-generierte Inhalte neue Transparenzpflichten nach Art. 50 AI Act.
Doch eine pauschale Kennzeichnungspflicht für alles, was mit Künstlicher Intelligenz erstellt wurde, gibt es nicht. Entscheidend ist unter anderem, welcher Inhalt erzeugt oder verändert wurde, wie er veröffentlicht wird und welche Rolle Sie beim Einsatz der KI einnehmen.
Wer hier vorschnell jeden Inhalt mit einem allgemeinen KI-Hinweis versieht, schafft nicht automatisch Rechtssicherheit. Wer auf eine notwendige Kennzeichnung verzichtet, riskiert dagegen Verstöße gegen den AI Act und weitere rechtliche Vorgaben.
Wir prüfen Ihre konkreten Anwendungsfälle und zeigen Ihnen, ob, wie und an welcher Stelle Sie einen KI-generierten Inhalt oder ein KI-System kennzeichnen müssen.
Sie möchten wissen, ob Ihre Bilder, Texte oder KI-Anwendungen unter die neuen Transparenzpflichten fallen? Wir prüfen Ihren konkreten Einsatz und geben Ihnen eine klare rechtliche Einschätzung.
![Erfahrungen [&] Bewertungen zu SOS Recht](https://images.provenexpert.com/62/bf/19116be1c6c963140846ea619bb8/widget_square_180_de_0.png)
Rechtsanwalt Carl Christian Müller, LL.M. Fachanwalt für Urheber- und Medienrecht
Die sogenannte KI-Kennzeichnungspflicht ist Teil der Transparenzpflichten des europäischen AI Act. Art. 50 unterscheidet dabei zwischen mehreren Situationen.
Kennzeichnungspflichten können insbesondere bestehen, wenn:
Dabei gelten nicht für alle Beteiligten dieselben Anforderungen. Art. 50 unterscheidet zwischen dem Anbieter eines KI-Systems und dem Betreiber, der die KI beruflich oder geschäftlich einsetzt.
Sie schildern uns über das Kontaktformular, welche KI-Inhalte oder KI-Systeme Sie einsetzen. Dazu können bspw. Bilder, Texte, Videos, Stimmen, Chatbots oder Voicebots gehören. Wir prüfen Ihre Anfrage und melden uns kurzfristig bei Ihnen zurück.
Einer unserer Rechtsanwälte bespricht mit Ihnen den konkreten Einsatz der KI. Dabei klären wir, welche Inhalte veröffentlicht werden, wie sie erzeugt wurden und welche Fragen zur Kennzeichnung nach Art. 50 AI Act bestehen. Das Erstgespräch ist kostenfrei.
Nach der Erstberatung erhalten Sie ein transparentes Angebot für die rechtliche Prüfung. Sie erfahren vorab, welche Anwendungsfälle wir untersuchen, welche Leistungen enthalten sind und welche Ergebnisse Sie erhalten.
Wir prüfen, ob und wie Ihre KI-Inhalte oder KI-Systeme gekennzeichnet werden müssen. Sie erhalten eine klare rechtliche Einordnung, konkrete Formulierungsvorschläge und Vorgaben zur Platzierung der Hinweise. Über den Stand der Prüfung halten wir Sie stets informiert.
Die Transparenzpflichten des Art. 50 AI Act gelten grundsätzlich ab dem 2. August 2026.
Die Verschiebungen für bestimmte Hochrisiko-KI-Systeme ändern an diesem grundsätzlichen Termin nichts. Für einzelne technische Transparenzlösungen bereits bestehender KI-Systeme können jedoch Übergangsregelungen gelten.
Ob eine Übergangsregelung genutzt werden kann, hängt von der konkreten Anwendung, dem Zeitpunkt des Inverkehrbringens und der Rolle des jeweiligen Unternehmens ab.
Für die rechtliche Prüfung ist zunächst entscheidend, welche Rolle Sie beim Einsatz der KI übernehmen.
Ob Sie Anbieter oder Betreiber sind, entscheidet darüber, welche Pflichten Sie erfüllen müssen. Wir ordnen Ihre Rolle ein und zeigen Ihnen, welche Kennzeichnungen und Informationen erforderlich sind.
KI-Systeme, die für eine direkte Interaktion mit Menschen bestimmt sind, müssen grundsätzlich so gestaltet sein, dass die betroffene Person erfährt, dass sie mit einer KI und nicht mit einem Menschen kommuniziert.
Das betrifft beispielsweise:
Eine zusätzliche Information ist nicht erforderlich, wenn es für einen angemessen informierten, aufmerksamen und verständigen Nutzer aufgrund der Umstände und des Nutzungskontexts bereits offensichtlich ist, dass er mit einer KI interagiert.
Ob die KI-Nutzung tatsächlich offensichtlich ist, sollte nicht vorschnell angenommen werden. Namen, Profilbilder, natürliche Stimmen und eine besonders menschlich wirkende Kommunikation können gerade den gegenteiligen Eindruck erzeugen.
Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen grundsätzlich dafür sorgen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet werden.
Mögliche technische Verfahren sind beispielsweise:
Die verwendeten Lösungen müssen soweit technisch möglich wirksam, interoperabel, belastbar und zuverlässig sein.
Diese technische Pflicht richtet sich in erster Linie an die Anbieter der entsprechenden KI-Systeme. Ein sichtbarer Hinweis für den Betrachter ist damit nicht in jedem Fall verbunden. Eine Ausnahme kann gelten, wenn das KI-System lediglich eine unterstützende Standardbearbeitung ausführt oder die eingegebenen Daten beziehungsweise deren Aussage nicht wesentlich verändert.
Wer ein zulässiges Emotionserkennungssystem oder ein System zur biometrischen Kategorisierung betreibt, muss die betroffenen Personen über den Einsatz des Systems informieren.
Das kann beispielsweise Systeme betreffen, die aus Gesichtsausdrücken, Stimme oder anderen körperlichen Merkmalen bestimmte Zustände oder Kategorien ableiten sollen.
Zusätzlich müssen die datenschutzrechtlichen Anforderungen eingehalten werden. Die Informationspflicht nach Art. 50 macht einen ansonsten unzulässigen Einsatz jedoch nicht erlaubt. Bestimmte Formen der Emotionserkennung sind nach anderen Vorschriften des AI Act ausdrücklich verboten.
Betreiber müssen offenlegen, wenn Bild-, Audio- oder Videoinhalte durch KI erzeugt oder manipuliert wurden und einen Deepfake darstellen. Als Deepfake gelten Inhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und für einen Betrachter fälschlicherweise authentisch oder wahr erscheinen können.
Auch KI-generierte oder manipulierte Texte können kennzeichnungspflichtig sein. Das gilt, wenn der Text veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren.
Für Texte besteht eine wichtige Ausnahme: Wurde der Inhalt menschlich überprüft oder redaktionell kontrolliert und übernimmt eine natürliche oder juristische Person die redaktionelle Verantwortung, entfällt die Offenlegungspflicht nach Art. 50 Abs. 4 grundsätzlich.
Art. 50 enthält unterschiedliche Pflichten für Chatbots, Inhalte und technische KI-Anbieter. Wir prüfen nicht nur den fertigen Inhalt, sondern den gesamten konkreten Einsatz Ihrer KI.
Nicht jedes KI-generierte Bild muss sichtbar als KI-Bild gekennzeichnet werden.
Eine sichtbare Kennzeichnungspflicht nach Art. 50 Abs. 4 besteht insbesondere dann, wenn das Bild einen Deepfake darstellt. Das ist beispielsweise denkbar, wenn ein KI-Bild:
Dagegen ist ein erkennbar künstliches Bild einer fiktiven Landschaft oder einer nicht existierenden Figur nicht allein deshalb sichtbar kennzeichnungspflichtig, weil es mit KI erstellt wurde.
Bei fotorealistischen Produktbildern, KI-Models, virtuellen Personen und mit KI veränderten Fotografien ist die Abgrenzung schwieriger. Hier muss geprüft werden, ob der Inhalt als authentisch verstanden werden kann und einen bestehenden Gegenstand, eine Person, einen Ort oder ein Ereignis verfälscht wiedergibt.
Unabhängig von der sichtbaren Kennzeichnung kann der Anbieter des verwendeten KI-Systems zu einer technischen, maschinenlesbaren Kennzeichnung verpflichtet sein.
Auch weitere Vorschriften können eine Information erforderlich machen. Das gilt insbesondere, wenn die Darstellung in der Werbung irreführend ist oder durch die KI-Bearbeitung ein falscher Eindruck über ein Produkt oder eine Person entsteht.
Auch für KI-Texte gibt es keine allgemeine Kennzeichnungspflicht.
Die Offenlegungspflicht des Art. 50 Abs. 4 betrifft KI-generierte oder KI-manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.
Dazu können je nach Inhalt beispielsweise Beiträge über politische, wirtschaftliche oder gesellschaftliche Fragen gehören. Entscheidend sind Inhalt, Zweck, Adressaten und Veröffentlichungskontext.
Keine Offenlegungspflicht nach dieser Vorschrift besteht grundsätzlich, wenn:
Das bloße Überfliegen eines Textes wird nicht in jedem Fall als ausreichende Kontrolle anzusehen sein. Unternehmen und Redaktionen sollten deshalb festlegen, wer KI-Texte prüft, welche Kriterien gelten und wer die Veröffentlichung verantwortet.
Produktbeschreibungen, Werbetexte, Social-Media-Beiträge und Blogartikel sind nicht automatisch kennzeichnungspflichtig. Je nach Thema und konkreter Gestaltung können aber andere rechtliche Informationspflichten oder Irreführungsrisiken bestehen.
Mit unserem Gratis KI-Kennzeichnungscheck prüfen wir Ihre konkreten Anwendungen und Veröffentlichungsprozesse.
KI-generierte oder manipulierte Videos und Audiodateien müssen sichtbar offengelegt werden, wenn sie einen Deepfake darstellen.
Das kann insbesondere der Fall sein bei:
Die Kennzeichnungspflicht kann auch dann gelten, wenn die Darstellung nicht mit einer Täuschungsabsicht veröffentlicht wird. Entscheidend ist, ob der Inhalt für einen Betrachter fälschlicherweise authentisch oder wahr erscheinen kann.
Sie verwenden KI-generierte Bilder, Texte, Videos oder Stimmen und sind unsicher, ob eine Offenlegung erforderlich ist? Wir prüfen den Inhalt und entwickeln einen passenden Kennzeichnungshinweis.
Art. 50 verlangt, dass die Information klar und eindeutig erfolgt. Sie muss spätestens bei der ersten Interaktion mit dem KI-System oder beim ersten Kontakt mit dem betroffenen Inhalt bereitgestellt werden. Außerdem müssen geltende Barrierefreiheitsanforderungen berücksichtigt werden.
Die Kennzeichnung sollte deshalb:
Für offensichtlich künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke besteht keine vollständige Ausnahme.
Die Offenlegung darf in diesen Fällen jedoch so gestaltet werden, dass sie die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
Ein KI-Hinweis muss daher nicht zwingend mitten im Bild, Film oder Kunstwerk erscheinen. Je nach Medium kann auch eine geeignete Kennzeichnung in der Beschreibung, im Vor- oder Abspann oder in begleitenden Informationen in Betracht kommen.
Entscheidend bleibt, dass das Vorhandensein KI-generierter oder manipulierter Inhalte in geeigneter Weise offengelegt wird.
Eine mögliche Formulierung des KI-Hinweises könnte (je nach Inhalt) lauten:
„Die abgebildete Situation ist KI-generiert und hat so nicht stattgefunden.“
Welche Formulierung erforderlich ist, hängt vom Inhalt und vom möglichen Täuschungsrisiko ab. Ein pauschaler Hinweis wie „mit KI erstellt“ kann zu ungenau sein, wenn gerade offengelegt werden muss, welcher Teil des Inhalts manipuliert wurde.
Die EU hat ergänzend eigene Symbole für vollständig KI-generierte und teilweise KI-veränderte Inhalte veröffentlicht. Die Verwendung dieser Symbole ist freiwillig. Das Symbol allein gewährleistet noch keine rechtssichere Erfüllung der Kennzeichnungspflicht.
Der Hinweis muss so platziert werden, dass Nutzer ihn spätestens bei der ersten Wahrnehmung des Inhalts erkennen können.
Je nach Medium kommt beispielsweise eine Kennzeichnung in Betracht:
Eine Kennzeichnung sollte nicht durch andere Elemente verdeckt werden. Sie sollte möglichst auch beim Herunterladen oder Weiterverbreiten des Inhalts erhalten bleiben.
Ein allgemeiner KI-Hinweis genügt nicht in jedem Fall. Wir formulieren die Kennzeichnung passend zu Ihrem Medium und zeigen Ihnen, wo sie angebracht werden sollte.
Art. 50 KI-VO enthält mehrere Ausnahmen und Einschränkungen.
Eine Kennzeichnung kann insbesondere entfallen oder erleichtert sein, wenn:
Ob eine Ausnahme tatsächlich greift, sollte anhand des konkreten Einsatzes geprüft und dokumentiert werden.
Mit unserem Gratis KI-Kennzeichnungscheck prüfen wir Ihre konkreten Anwendungen und Veröffentlichungsprozesse.
Auch Werbung und Social-Media-Inhalte unterliegen keiner pauschalen KI-Kennzeichnungspflicht.
Eine Kennzeichnung nach Art. 50 kann aber erforderlich sein, wenn beispielsweise:
Daneben können wettbewerbsrechtliche, persönlichkeitsrechtliche, urheberrechtliche oder plattformbezogene Vorgaben gelten. Eine fehlende Kennzeichnung kann deshalb auch außerhalb des AI Act rechtlich problematisch sein.
Verstöße gegen die Transparenzpflichten des Art. 50 AI Act können mit erheblichen Geldbußen geahndet werden.
Die mögliche Obergrenze beträgt grundsätzlich bis zu:
Maßgeblich ist grundsätzlich der höhere Betrag. Für kleine und mittlere Unternehmen einschließlich Start-ups gilt dagegen der jeweils niedrigere Betrag aus dem festen Höchstbetrag und dem prozentualen Umsatzbetrag.
Bei der konkreten Sanktion müssen unter anderem Schwere, Dauer und Folgen des Verstoßes, die Unternehmensgröße, die getroffenen Schutzmaßnahmen und die Zusammenarbeit mit den Behörden berücksichtigt werden.
Warten Sie nicht, bis eine Behörde, ein Wettbewerber oder ein Kunde die fehlende Kennzeichnung beanstandet. Lassen Sie Ihre KI-Inhalte und Prozesse rechtzeitig prüfen.
Nein. Eine sichtbare Kennzeichnung nach Art. 50 AI Act ist insbesondere erforderlich, wenn ein KI-generiertes oder manipuliertes Bild einen Deepfake darstellt. Nicht jedes künstlich erzeugte Bild erfüllt diese Voraussetzung.
Nicht generell. Eine Kennzeichnungspflicht kann bestehen, wenn ein KI-generierter oder manipulierter Text veröffentlicht wird, um die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse zu informieren. Bei menschlicher Überprüfung, redaktioneller Kontrolle und übernommener redaktioneller Verantwortung greift grundsätzlich eine Ausnahme.
Grundsätzlich müssen Menschen informiert werden, wenn sie mit einem KI-System und nicht mit einem Menschen kommunizieren. Eine zusätzliche Information kann entfallen, wenn die KI-Nutzung aufgrund der Umstände und des Kontexts offensichtlich ist.
Nein. Die von der EU veröffentlichten Symbole sind freiwillig. Wer sie verwendet, bleibt trotzdem dafür verantwortlich, dass die konkrete Kennzeichnung alle rechtlichen Anforderungen erfüllt.
Nicht jede KI-generierte Werbung muss gekennzeichnet werden. Eine Pflicht kann unter anderem bei Deepfakes, imitierten Stimmen, virtuellen Personen oder täuschend echten Darstellungen realer Produkte und Situationen bestehen. Zusätzlich ist zu prüfen, ob die Werbung irreführend ist.
Rechtsanwalt Carl Christian Müller, Fachanwalt für Urheber- und Medienrecht, berät zu den rechtlichen Fragen rund um KI-generierte Inhalte, Deepfakes, digitale Kommunikation und neue Transparenzpflichten.
Wir übersetzen die Vorgaben des AI Act in konkrete Lösungen, die sich in Ihren Arbeits- und Veröffentlichungsprozessen umsetzen lassen.
