KI-Kennzeichnungspflicht ab August 2026: Was Chatbot-Betreiber jetzt wissen müssen

Was ist die KI-Kennzeichnungspflicht? 

Die Künstliche-Intelligenz-Verordnung (KI-VO) ist besser bekannt unter der englischen Bezeichnung EU AI Act. Das ist die Verordnung der Europäischen Union zur Kennzeichnung KI-generierter Inhalte. Die EU-Verordnung ist allgemein im August 2024, die volle Geltung der Transparenzpflichten greift ab dem 2. August 2026. Das Ziel der neuen Regelung ist es, Nutzern unmissverständlich bei Interaktionen mit künstlicher Intelligenz zu signalisieren, dass sie es mit einem KI-System und KI-generierten Inhalten zu tun haben. .

Artikel 50 KI-VO: Das sagt das Gesetz 

In Artikel 50 werden die spezifischen Transparenzpflichten für Anbieter und Betreiber von KI-Systemen definiert. Er stellt damit den zentralen Artikel für jene Unternehmen dar, die KI-gestützte Kommunikationslösungen einsetzen. Folgende Änderungen gelten ab August 2026

• KI-Interaktionen müssen erkennbar sein: Die Kommunikation mit einem KI-System muss spätestens beim ersten Kontakt klar und verständlich kommuniziert werden.
• KI-generierte Inhalte sind zu kennzeichnen: Inhalte wie Texte, Bilder, Videos und Audioinhalte, die maßgeblich von einer KI erstellt wurden, müssen als solche markiert sein.
• Deepfakes sind eindeutig auszuweisen: Täuschend echte, KI-generierte oder KI-manipulierte Medieninhalte müssen so gekennzeichnet sein, dass sie klar als nicht authentisch erkennbar sind.

Übrigens: Die Begriffe AI Slop (KI-Schrott) und Deepfakes bezeichnen beide Inhalte, die durch künstliche Intelligenz erzeugt wurden. Was genau AI Slop ist, erfährst du im Artikel „AI Slop: Inhaltsflut im KI-Zeitalter“.

KI-Kennzeichungspflicht: Wer ist betroffen – Anbieter oder Betreiber?

Die Verordnung unterscheidet grundlegend zwischen zwei Adressatengruppen, dem Anbieter und dem Betreiber: 

• Anbieter (Art. 3 Nr. 3 KI-VO) sind Unternehmen oder Personen, die ein KI-System entwickeln oder entwickeln lassen: 
  
  • z.B. die Hersteller großer Sprachmodelle (OpenAI, Google) oder Entwickler proprietärer KI-Technologien
  • Pflichten umfassen Risikomanagementsysteme, technische Dokumentation und Transparenzpflichten
• Betreiber (Art. 3 Nr. 4 KI-VO) sind alle natürlichen oder juristischen Personen, die ein KI-System im Rahmen einer beruflichen Tätigkeit verwenden:
  
  • z.B. ein Unternehmen, das den Chatbot auf der Webseite für die Kundenkommunikation integriert
  • Pflichten umfassen die Beachtung der Anbieter-Gebrauchsanweisungen, die Überwachung der Eingabe- und Ausgabedaten des Systems und den Schutz der KI vor missbräuchlicher Nutzung.

Einen ausführlichen Überblick zu den Transparenzpflichten von Anbietern und Betreibern stellt die Bundesnetzagentur hier als Tabellenvergleich zur Verfügung. 

Für die meisten Unternehmen steht somit klar die Betreiber-Perspektive im Fokus, so auch für Kunden, die moinAI-Lösungen einsetzen. Entscheidend ist: Wer einen KI-Chatbot auf der eigenen Plattform betreibt und im Kundenkontakt nutzt, trägt die Verantwortung für die regelkonforme Kennzeichnung gegenüber den Nutzern.

Wann gilt die Kennzeichnungspflicht, wann nicht?

Die KI-Kennzeichnungspflicht gilt, sobald ein KI-System Inhalte maßgeblich erstellt und veröffentlicht, allerdings nicht, wenn die Inhalte zuvor von einem Menschen inhaltlich geprüft oder redaktionell verantwortet wurden. Denn dann gab es die Möglichkeit, die KI-Inhalte  zu ändern oder abzulehnen, daher ist keine Kennzeichnung notwendig. Wir zeigen anhand von Beispielen, was wann gilt.

Pflicht zur Kennzeichnung: Primär KI-generierte Inhalte

Sobald ein KI-System den Inhalt maßgeblich erstellt und keine ausreichende menschliche Kontrolle stattfindet, muss dies entsprechend gekennzeichnet werden. Das betrifft konkret zwei Szenarien:

1. Chatbots und virtuelle Assistenten (Art. 50 Abs. 1 KI-VO): Die Kennzeichnung wird für jedes KI-System, das direkt mit Menschen interagiert, nötig. Die Formulierung kann zum Beispiel lauten: „Du kommunizierst gerade mit einem KI-System.“ Die Information darf dabei nicht im Kleingedruckten versteckt sein.
2. KI-generierte Texte zu öffentlichen Themen (Art. 50 Abs. 4 KI-VO): KI-generierte Texte, die Angelegenheiten von öffentlichem Interesse betreffen, müssen die künstliche Herkunft offenlegen. Das betrifft z.B. Pressemitteilungen oder informierende Blogbeiträge. Eine sichtbare Kennzeichnung am Anfang des Textes ist ausreichend, zum Beispiel: „Dieser Text wurde ganz oder teilweise mit KI erstellt."

Beispiel: KI-Chatbot: Der Vermerk „KI-generiert“ oder eine andere Form der KI-Kennzeichnung muss ersichtlich sein, wenn ein Unternehmen auf seiner Website einen KI-Chatbot betreibt, bei dem Antworten rein auf KI basieren. Bei Unternehmen, die moinAI im Einsatz haben, bedeutet das demnach, dass, wenn Agenten genutzt werden, die Antworten mittels generativer KI formulieren und verschicken, ein Hinweis auf generative KI unumgänglich ist. Die gute Nachricht: moinAI gibt diesen Hinweis automatisch mit aus.

Wenn Menschen die Kontrolle übernehmen

Wann die Kennzeichnungspflicht für KI-generierte Texte entfällt und unter welchen Voraussetzungen in Art. 50 Abs. 4 Unterabsatz 2 KI-VO festgesetzt: 

1. Es muss eine menschliche Überprüfung oder redaktionelle Kontrolle vor der Veröffentlichung stattfinden: keine Rechtschreib- oder Formatprüfung, sondern eine umfassende inhaltliche Prüfung auf Richtigkeit, Plausibilität und Quellen. Inhalte können somit abgeändert oder abgelehnt werden.
2. Eine klar identifizierbare natürliche oder juristische Person übernimmt die redaktionelle Verantwortung für den Inhalt. Wer konkret die Verantwortung trägt, muss genau dokumentiert sein. 

Beispiel KI-Textgeneratoren im Marketing: :Entwürfe für Blogartikel, die mit einem KI-Textgenerator erstellt wurden, werden im Anschluss noch von der Redaktion inhaltlich geprüft und geändert. In diesem Fall entfällt die Kennzeichnungspflicht, denn die menschliche Kontrolle ist klar dokumentiert und nachweisbar.

Ausnahmen und Sonderfälle bei der KI-Kennzeichnungspflicht

Neben der Ausnahme für menschlich kontrollierte Inhalte sieht die KI-VO weitere Sonderfälle vor, die in der Praxis relevant sind:

• Offensichtliche Erkennbarkeit: Ist für eine angemessen informierte Person ohnehin klar, dass sie mit einer KI interagiert, entfällt die explizite Kennzeichnungspflicht; das ist etwa ein Roboter mit eindeutig synthetischer Stimme. 
• Strafverfolgung und verdeckte Ermittlungen: KI-Systeme, die im Rahmen gesetzlich zugelassener Maßnahmen zur Erkennung, Verhütung, Ermittlung oder Verfolgung von Straftaten eingesetzt werden, sind von der Offenlegungspflicht ausgenommen.
• Erleichterte Pflichten für KMU: KMU sowie Freiberufler profitieren von vereinfachten Dokumentations- und Berichtspflichten innerhalb der KI-VO, allerdings nicht bei den Kernpflichten aus Art. 50. Die Kennzeichnungspflicht gilt für KMU ebenso verbindlich.
• Künstlerische und satirische Werke: Für offensichtlich fiktionale, kreative, satirische oder vergleichbare Werke ist die Kennzeichnung so zu gestalten, dass sie die Darstellung oder den künstlerischen Genuss nicht beeinträchtigt. Diese Ausnahme erlaubt eine weniger invasive Form der Kennzeichnung.

Was bedeutet die Änderung für Chatbot-Betreiber? 

Die KI-VO schreibt keine konkrete Form der Kennzeichnung vor, verlangt allerdings eine „klare und eindeutige Information" zum Zeitpunkt der Kontaktaufnahme mit der KI. Beispielhafte Formulierungen könnten daher wie folgt aussehen: 

• Ein sichtbarer Hinweis im Chat-Fenster: „Du kommunizierst gerade mit einem KI-System." / „Die Inhalte wurden von einer KI erstellt.“
• Eine Begrüßungsnachricht des Chatbots, die seine KI-Natur direkt offenlegt

Welche Maßnahmen müssen Unternehmen treffen?

Unternehmen müssen den Einsatz von KI intern klar abstimmen, dazu gehören insbesondere folgende Maßnahmen:

• Regelung der KI-Nutzung: Wer darf welche KI-Tools für welche Zwecke einsetzen? Dies verhindert aktiv den unkontrollierten KI-Einsatz, in der Praxis oft als „Shadow AI" bezeichnet.
• Festsetzung von Verantwortlichkeiten: Wer prüft KI-generierte Inhalte vor der Veröffentlichung? Hilfreich ist hier die Benennung eines KI-Beauftragten, um klare Zuständigkeiten zu etablieren.
• Dokumentation des KI-Einsatzes: Je vollständiger der KI-Einsatz im Unternehmen dokumentiert ist, desto besser, für die interne Übersicht, aber vor allem auch für behördliche Kontrollen. 

Welche Sanktionen drohen bei Verstößen?

Wer gegen die KI-Kennzeichnungspflicht verstößt, muss mit Bußgeldern rechnen. Nach Art. 99 KI-VO sind Strafen von bis zu 15 Mio. Euro oder 3 % des weltweiten Jahresumsatzes möglich, je nachdem, welcher Betrag höher ist. Hinzu kommt ein Vertrauensverlust bei Kunden und Partnern, der sich langfristig negativ auf den Erfolg eines Unternehmens auswirken kann. Frühzeitige Compliance schützt vor möglichen Strafen und Reputationsschäden!

KI-Kennzeichnungspflicht und moinAI

Bei moinAI ist die Kennzeichnung für KI-generierte Inhalte direkt zum Start bereits aktiviert. Bei Bedarf lässt sich die Darstellung/Formulierung des Hinweises jederzeit im Hub anpassen.

- Ole Meistering, Produktmanager bei moinAI

Die technischen Voraussetzungen für die Erfüllung der KI-Kennzeichnungspflicht sind in den moinAI-Lösungen bereits integriert, ohne dass technische Anpassungen benötigt werden.  

Der integrierte KI-Indikator bei moinAI zeigt Nutzern direkt im Chat-Widget an, sobald eine Antwort von einer generativen KI erstellt wurde. Die Kennzeichnung erscheint automatisch unter jeder GenAI-generierten Antwort, kontextuell und ohne Unterbrechung des Gesprächsflusses.

Konkrete Handlungsempfehlungen für moinAI-Betreiber nach KI-VO-Definition sind unter anderem: 

• Die Anpassung der Begrüßungsnachricht des Chatbots: Dort kann direkt und unmissverständlich auf die KI-Natur der Kommunikation hingewiesen werden.‍
• Eindeutige Wahl des Chatbot-Namens und der Persona: Um Missverständnissen von vornherein vorzubeugen, lohnt es sich, den Chatbot entweder explizit als digitalen Assistenten zu benennen oder ihm eine sympathische Maskottchen-Persona zu verleihen. Der Name sollte so gewählt werden, dass sofort klar ist, dass es sich nicht um einen Menschen handelt – wertvolle Tipps dazu findest du auch in unserem Artikel “Den passenden Chatbot-Namen finden”

Was genau die Vorteile von KI-Chatbots auf der Webseite sind und welche Vorteile das Widget Unternehmen bietet, haben wir hier im Artikel zusammengefasst. 

Fazit: Transparenz by Design mit moinAI

Unter der EU KI-Verordnung ist die Kennzeichnung von KI-Chatbots gesetzliche Pflicht, moinAI bringt genau dies standardmäßig schon mit: die Anforderungen sind bereits als native Basiseinstellungen in der Plattform verankert. Die moinAI-Lösung bringt das nötige technische Setup für eine rechtssichere Nutzung direkt mit, ist zu 100 % DSGVO-konform, wird in Deutschland gehostet und erfüllt vollumfänglich die Vorgaben des EU AI Acts. So gelingt datenschutzkonforme Transparenz mit minimalem Konfigurationsaufwand.

Bist du bereit, den Kundenservice deines Unternehmens transparent mit KI zu optimieren? Dann probiere es direkt hier mit deiner URL aus.

[[CTA headline="Dein KI-Chatbot. Transparent. Regelkonform." subline="Entdecke, wie moinAI die KI-Kennzeichnungspflicht automatisch, einfach und ohne IT-Aufwand in KI-Lösungen umsetzt."]]