KI-Kennzeichnungspflicht nach Art. 50 EU AI Act: Wer muss was ab wann kennzeichnen?

Ihr Support-Team betreibt einen Chatbot auf der Website. Das Marketing bearbeitet Produktfotos mit einem Bildmodell. Der Newsletter wird mit KI entworfen und von einem Menschen überarbeitet. Und das Produktteam hat gerade eine Funktion ausgeliefert, die Texte für Ihre Kunden schreibt. Nichts davon fühlt sich nach Hochrisiko-KI an, und nichts davon ist es. Seit dem 2. August 2026 lohnt sich trotzdem bei allen vier Punkten ein zweiter Blick.

An diesem Tag wurde Artikel 50 des EU AI Act anwendbar: die Transparenzpflichten für KI, die mit Menschen spricht, und für KI, die Inhalte erzeugt.

Das Wichtigste in Kürze

• Artikel 50 gilt seit dem 2. August 2026. Der KI-Omnibus hat die Hochrisiko-Pflichten verschoben, die Transparenzpflichten nicht.
• Es gibt vier Pflichten, verteilt auf Anbieter (wer ein KI-System entwickelt oder unter eigenem Namen in Betrieb nimmt) und Betreiber (wer es nutzt).
• Eine Übergangsfrist: Die maschinenlesbare Markierung erzeugter Inhalte muss bei Systemen, die schon vor dem 2. August 2026 auf dem Markt waren, bis zum 2. Dezember 2026 stehen. Alles andere gilt jetzt.
• Die meisten Unternehmen sind in mindestens einer Rolle betroffen, typischerweise über einen Chatbot, einen Sprachbot oder KI-erzeugte Marketinginhalte.
• Bußgelder reichen bis 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. In Deutschland ist die Bundesnetzagentur die zentrale Marktaufsicht.
• Beginnen Sie mit einem KI-Register. Was Sie nicht erfasst haben, können Sie nicht kennzeichnen.

Was sich am 2. August 2026 geändert hat

Der AI Act, Verordnung (EU) 2024/1689, gilt in Stufen. Zuerst kamen im Februar 2025 die Verbote und die Pflicht zur KI-Kompetenz. Im August 2025 folgten die Regeln für KI-Modelle mit allgemeinem Verwendungszweck. Am 2. August 2026 kam Artikel 50 dazu.

Im selben Sommer hat die EU den KI-Omnibus beschlossen, Verordnung (EU) 2026/1744, veröffentlicht am 24. Juli 2026 und seit 27. Juli in Kraft. Er verschiebt die Pflichten für Hochrisiko-KI auf den 2. Dezember 2027 (eigenständige Systeme nach Anhang III) und den 2. August 2028 (KI in Produkten nach Anhang I). Artikel 50 verschiebt er nicht. Die einzige Erleichterung betrifft die maschinenlesbare Markierung: Systeme, die vor dem 2. August 2026 auf dem Markt waren, haben bis zum 2. Dezember 2026 Zeit. Systeme, die ab dem 2. August 2026 auf den Markt kommen, müssen ab dem ersten Tag erfüllen.

Zwei weitere Punkte sind in der Praxis wichtig. Am 10. Juni 2026 hat die Europäische Kommission einen freiwilligen Verhaltenskodex zur Markierung und Kennzeichnung KI-erzeugter Inhalte veröffentlicht. Und in Deutschland macht das Durchführungsgesetz zum AI Act, das der Bundesrat am 10. Juli 2026 gebilligt hat, die Bundesnetzagentur zur zentralen Marktaufsicht und Anlaufstelle für Beschwerden.

Anbieter oder Betreiber?

Jede Pflicht in Artikel 50 richtet sich an eine von zwei Rollen. Das ist deshalb die erste Frage für jedes KI-System, das Sie einsetzen.

Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich nutzt.

Die Grenze liegt nicht immer dort, wo man sie erwartet. Wenn Sie einen Support-Chatbot auf Basis eines großen Sprachmodells bauen und unter Ihrer Marke auf die Website stellen, sind Sie in der Regel Anbieter dieses Chatbots, auch wenn jemand anderes das Modell trainiert hat. Wenn Sie das fertige Bildwerkzeug eines Herstellers für Kampagnenfotos nutzen, sind Sie Betreiber. Viele Unternehmen haben beide Rollen gleichzeitig, für unterschiedliche Systeme.

Die vier Pflichten

1. KI, die mit Menschen interagiert (Art. 50 Abs. 1, Anbieter)

Systeme, die direkt mit Menschen interagieren, also Chatbots, Sprachbots und KI-Agenten, die Kunden schreiben, müssen so gestaltet sein, dass Menschen erfahren, dass sie mit einer KI interagieren. Ausnahme: Es ist für eine angemessen informierte, aufmerksame Person aus dem Zusammenhang offensichtlich. Eine Roboterstimme, die den Wetterbericht vorliest, mag offensichtlich sein. Eine freundliche Support-Assistentin namens „Lena“ ist es nicht.

2. Markierung erzeugter Inhalte (Art. 50 Abs. 2, Anbieter)

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben maschinenlesbar markieren, sodass sie als künstlich erzeugt oder manipuliert erkennbar sind. Die technische Lösung muss wirksam, interoperabel, belastbar und zuverlässig sein, soweit das technisch möglich ist. In der Praxis heißt das: Wasserzeichen, Metadaten oder Fingerabdrücke, oft kombiniert. Die Pflicht gilt nicht, wenn das System nur eine unterstützende Funktion für die Standardbearbeitung erfüllt oder die Eingabe nicht wesentlich verändert.

3. Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 3, Betreiber)

Wer ein System einsetzt, das Emotionen erkennt oder Menschen anhand biometrischer Daten in Kategorien einordnet, muss die betroffenen Personen informieren und ihre Daten nach der DSGVO verarbeiten. Emotionserkennung am Arbeitsplatz und in der Bildung ist nach Artikel 5 ohnehin verboten, mit engen Ausnahmen aus medizinischen oder Sicherheitsgründen.

4. Deepfakes und KI-Texte zu Themen von öffentlichem Interesse (Art. 50 Abs. 4, Betreiber)

Wer Bild-, Audio- oder Videoinhalte veröffentlicht, die ein Deepfake sind, muss offenlegen, dass sie künstlich erzeugt oder manipuliert wurden. Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken darf der Hinweis so knapp sein, dass er das Werk nicht beeinträchtigt.

Wer KI-erzeugte oder KI-bearbeitete Texte veröffentlicht, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren, muss das ebenfalls offenlegen. Ausnahme: Ein Mensch hat den Text geprüft, und jemand trägt die redaktionelle Verantwortung für die Veröffentlichung. Für Unternehmensblogs, Newsletter und Pressemitteilungen ist das die wichtigste Regel. Eine dokumentierte redaktionelle Prüfung hält Sie aus der Kennzeichnungspflicht heraus.

Wie und wann Sie informieren müssen

Der Hinweis muss klar und erkennbar sein, spätestens bei der ersten Interaktion oder dem ersten Kontakt kommen und barrierefrei sein. Ein Satz in der Datenschutzerklärung reicht nicht. Eine kurze Zeile im Chatfenster, ein gesprochener Satz am Anfang eines Anrufs oder ein sichtbares Kennzeichen am Bild reichen.

Fünf typische Fälle

• Support-Chatbot unter Ihrer Marke: Sie sind meist Anbieter. Zeigen Sie vor der ersten Nachricht einen klaren Hinweis im Chatfenster.
• Sprachbot an der Hotline: gleiche Pflicht, anderer Kanal. Sagen Sie es zu Beginn des Gesprächs. Dieser Fall wird am häufigsten vergessen.
• Mit KI bearbeitete Marketingbilder: Sie sind Betreiber. Zeigt ein Bild echte Personen, Orte oder Ereignisse so, dass es echt wirken könnte, ist es ein Deepfake und braucht einen Hinweis. Ein Produktfoto mit neuem Hintergrund ist das meist nicht.
• Mit KI entworfene Blogartikel und Newsletter: Prüft ein Mensch und trägt jemand die redaktionelle Verantwortung, ist keine Kennzeichnung nötig. Halten Sie diesen Prüfschritt schriftlich fest.
• Eine Produktfunktion, die Inhalte für Ihre Kunden erzeugt: Sie sind Anbieter. Sie brauchen eine maschinenlesbare Markierung, spätestens bis 2. Dezember 2026, wenn die Funktion vor dem 2. August 2026 live war.

So bereiten Sie sich vor

1. Erfassen Sie jedes KI-System, das Sie bauen oder nutzen. Auch Werkzeuge, die Teams selbst eingeführt haben. Notieren Sie je System, was es tut, wer es nutzt und wer die Ergebnisse sieht.
2. Legen Sie Ihre Rolle je System fest: Anbieter, Betreiber oder beides.
3. Prüfen Sie jedes System gegen die vier Pflichten und markieren Sie es als erledigt, Lücke oder zu prüfen.
4. Setzen Sie zuerst die Hinweise bei Interaktionen um. Sie sind schnell gemacht und für Kunden und Behörden am sichtbarsten.
5. Klären Sie die Markierung mit Ihren Herstellern. Wenn Sie Anbieter sind, fragen Sie Ihren Modellanbieter, welche Wasserzeichen- oder Metadatenstandards er unterstützt, und bauen Sie darauf auf.
6. Dokumentieren Sie die redaktionelle Prüfung für KI-gestützte Texte: wer prüft, wie und wer für die Veröffentlichung verantwortlich ist.
7. Schulen Sie alle, die veröffentlichen. Seit dem KI-Omnibus verlangt Artikel 4, dass Unternehmen Maßnahmen zur Förderung der KI-Kompetenz ergreifen. Kennzeichnungsregeln sind ein guter Anfang.
8. Bewahren Sie Nachweise auf. Fragt die Bundesnetzagentur nach, müssen Sie zeigen können, wann und wie Menschen informiert wurden.

Wo die Kennzeichnung schiefgeht

„Wir nutzen nur ein fertiges Modell, uns betrifft das nicht.“ Ein fremdes Modell befreit nicht von der Pflicht. Sobald Sie es unter Ihrem Namen vor Kunden stellen, sind Sie wahrscheinlich Anbieter dieses Systems.

Alles kennzeichnen. Ein Hinweis unter jeder internen E-Mail gewöhnt Menschen daran, Hinweise zu übersehen. Die Pflichten sind konkret. Wenden Sie sie dort an, wo sie gelten.

Telefon und E-Mail vergessen. Der Chat ist der offensichtliche Kanal. Sprachbots und KI-Agenten, die Kunden E-Mails schreiben, fallen ebenso darunter.

Sich bei der Markierung auf den Hersteller verlassen. Wenn Sie Anbieter sind, ist es Ihre Pflicht, auch wenn die Technik von jemand anderem kommt.

Wie das mit dem Rest des AI Act zusammenhängt

Das KI-Register, das Sie für Artikel 50 aufbauen, brauchen Sie auch für alles andere: um Systeme nach Risiko einzuordnen, um zu prüfen, ob eines davon ab Dezember 2027 unter die Hochrisiko-Regeln fällt, und, wenn Sie weitergehen, um ein KI-Managementsystem nach ISO/IEC 42001 aufzubauen. Wenn Sie KI-Agenten in Ihrer eigenen Compliance-Arbeit einsetzen, beschreibt unser Leitfaden KI-Agenten in GRC, was Agenten entscheiden sollten und was bei Menschen bleibt.