KI-Kennzeichnungspflicht für Chatbots (AI Act)

Hinweis. Diese Seite erklärt die Regeln, wie sie für einen Chatbot auf einer Website gelten. Sie ist keine Rechtsberatung. Lassen Sie sich für Ihren konkreten Fall anwaltlich beraten.

Was Art. 50 verlangt

Die KI-Verordnung ordnet KI-Systeme nach ihrem Risiko ein. Ein Chatbot, der Fragen zu einem Unternehmen aus dessen eigenen Inhalten beantwortet, ist ein System mit Transparenzpflicht: erlaubt, solange die Menschen wissen, womit sie es zu tun haben. Art. 50 verlangt zwei Dinge, die einen Chatbot betreffen:

Menschen müssen erfahren, dass sie mit einer KI interagieren, es sei denn, das ist aus dem Kontext offensichtlich. Die Information muss klar sein und spätestens bei der ersten Interaktion gegeben werden.
Erzeugter Text muss maschinenlesbar als solcher gekennzeichnet sein, damit Software erkennen kann, dass er von einer KI stammt.

Diese Pflichten gelten seit dem 2. August 2026. Der Digital-Omnibus der EU hat nur die maschinenlesbare Kennzeichnung verschoben, und nur für generative Systeme, die schon vor diesem Datum auf dem Markt waren, bis zum 2. Dezember 2026. Der Hinweis, dass man mit einer KI spricht, wurde nicht verschoben.

Wer verantwortlich ist

Die KI-Verordnung unterscheidet den Anbieter, der das System entwickelt oder bereitstellt, und den Betreiber, der es unter eigenem Namen einsetzt. Bei einem Chatbot auf Ihrer Website liegt die Hinweispflicht zuerst beim Anbieter des Systems, und Sie als Betreiber bleiben dafür verantwortlich, wie Sie es einsetzen. In der Praxis heißt das: Wählen Sie einen Chatbot, der sich von selbst als KI zu erkennen gibt, und verdecken oder entfernen Sie diesen Hinweis nicht.

Verstöße gegen die Transparenzpflichten können nach Art. 99 der Verordnung mit Geldbußen von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt der niedrigere der beiden.

Was ChatterLab eingebaut hat

Der KI-Hinweis. Jedes Gespräch beginnt mit einer Zeile wie „Sie chatten mit einem KI-Assistenten“, in der Sprache des Widgets. Kein Tarif, kein Add-on und keine Einstellung entfernt ihn, auch nicht bei White Label, und er steht im Chat selbst, wo die umgebende Seite ihn nicht verdecken kann.
Maschinenlesbare Kennzeichnung. Jede Antwort im Widget ist im Code der Seite als KI-generiert gekennzeichnet.
Er gibt sich nie als Mensch aus. Fragt man den Agenten, ob er ein Mensch ist, sagt er, dass er ein KI-Assistent ist, ganz gleich, welchen Namen und welche Persönlichkeit Sie ihm geben.
Hochrisiko-Einsätze werden abgelehnt. KI einzusetzen, um Bewerber auszuwählen, die Kreditwürdigkeit zu prüfen oder den Gesundheitszustand von Menschen zu beurteilen, gilt nach der Verordnung als Hochrisiko und bringt Pflichten mit sich, die dieses Produkt nicht erfüllt. Ein Agent, der für Personalauswahl, Bonitätsprüfung oder Gesundheit angegeben wird, wird deshalb nicht angelegt.
Nachweise. Jedes Gespräch wird mit den Quellen hinter jeder Antwort gespeichert, und ein Audit-Log hält fest, was geändert wurde und von wem.

Wenn Sie Ihren eigenen Chat auf der API (auf Englisch) bauen, wird nichts davon für Sie angezeigt, und es ist Ihre Aufgabe, Ihren Nutzern zu sagen, dass sie mit einer KI sprechen.

Checkliste für Ihren Website-Chatbot

Der Chat sagt vor oder bei der ersten Nachricht, dass er eine KI ist, in einer Sprache, die Ihre Besucher verstehen.
Nichts auf Ihrer Seite verdeckt oder entfernt diesen Hinweis.
Der Chatbot gibt sich nicht als Mensch aus, weder durch seinen Namen noch durch seinen Ton.
Er wird nicht eingesetzt, um Menschen zu bewerten: ihre Gesundheit, ihre Kreditwürdigkeit oder ihre Eignung für eine Stelle.
Ihre Datenschutzerklärung nennt den Chat und was er speichert. Die DSGVO-Seite listet auf, was Sie brauchen.
Sie können im Nachhinein zeigen, was er gesagt hat und warum.

Der EU AI Act in unserer Dokumentation geht auf jeden Punkt ein.

Fragen zum AI Act

Gilt der AI Act für meinen Website-Chatbot?

Ja, wenn er mit Menschen in der EU spricht. Ein Kundenservice-Chatbot ist kein Hochrisiko-System, fällt aber unter die Transparenzpflicht aus Art. 50: Menschen müssen erfahren, dass sie mit einer KI sprechen.

Seit wann muss ein Chatbot sagen, dass er eine KI ist?

Seit dem 2. August 2026. Der Digital-Omnibus hat nur die maschinenlesbare Kennzeichnung erzeugter Inhalte verschoben, für Systeme, die schon vor diesem Datum auf dem Markt waren, bis zum 2. Dezember 2026.

Nein. Er bleibt in jedem Tarif und mit jedem Add-on, auch bei White Label, weil das Gesetz ihn verlangt.

Ist ein Chatbot für eine Arztpraxis oder für das Recruiting erlaubt?

Der Chatbot einer Praxis, der Öffnungszeiten nennt und erklärt, wie man einen Termin bucht, ist Kundenservice. Einer, der Symptome, Kreditwürdigkeit oder Bewerbungen bewertet, ist Hochrisiko, und ChatterLab legt keinen Agenten an, der für diese Zwecke angegeben ist.

Wie hoch sind die Bußgelder?

Verstöße gegen die Transparenzpflichten aus Art. 50 können mit bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt der niedrigere der beiden.

KI-Kennzeichnungspflicht: Der AI Act und Ihr Website-Chatbot