Müssen Unternehmen offenlegen, wenn ein Chatbot das Gespräch führt?
August 2026
Viele der KI-Systeme, die heute in Kundenservice, HR und Vertrieb eingesetzt werden, führen Gespräche mit Menschen, ohne dass dies als solches erkennbar ist. Seit dem 2. August 2026 verpflichtet Art. 50 Abs. 1 KI-Verordnung Anbieter, also Unternehmen, die KI-Systeme entwickeln oder auf dem Markt bereitstellen, sicherzustellen, dass ein System, das direkt mit natürlichen Personen interagiert, so gestaltet ist, dass der Nutzer zu Beginn der Interaktion erfährt, mit einer KI zu sprechen.
Was kommuniziert werden muss und wann
Die Pflicht verlangt, dass der Nutzer spätestens zu Beginn der ersten Interaktion darüber informiert wird, dass er mit einem KI-System kommuniziert. Ein nachträglicher Hinweis oder eine versteckte Information im Kleingedruckten genügt den gesetzlichen Anforderungen nicht.
Wo die Pflicht ansetzt
Die Pflicht setzt auf der Ebene des Systemdesigns an. Das System muss von Haus aus so gebaut sein, dass es diese Information an den Nutzer übermittelt. Ein Hinweis im Impressum der Website oder in den Allgemeinen Geschäftsbedingungen erfüllt die Anforderung nicht.
Die Offensichtlichkeitsausnahme und ihre Grenzen
Die KI-Verordnung kennt eine Ausnahme. Wer ein System in einem Kontext einsetzt, in dem es für den Nutzer offensichtlich ist, dass er mit einer KI interagiert, ist von der Kennzeichnungspflicht befreit. Was offensichtlich in diesem Sinne bedeutet, hat die EU-Kommission in ihren Leitlinien konkretisiert. Maßgeblich ist die objektive Wahrnehmung eines durchschnittlichen Nutzers in der jeweiligen Situation. Die subjektive Einschätzung des Anbieters spielt dabei keine Rolle.
Was der Maßstab des durchschnittlichen Nutzers in der Praxis bedeutet
Um die objektive Erwartungshaltung zu bestimmen, werden in der Praxis mehrere Faktoren berücksichtigt. Relevant ist zunächst der Kontext der Anwendung. Ein Textchat auf einer Unternehmenswebsite wird von Nutzern heute anders wahrgenommen als ein Telefonat mit einer realistischen KI-Stimme, die sich nicht identifiziert. Ebenso wichtig ist, an wen das System sich richtet. Die Erwartungshaltung von Entwicklern auf einer B2B-Plattform unterscheidet sich von der eines durchschnittlichen Verbrauchers.
Diese Beispiele sind bewusst vereinfacht. Im Einzelfall fließen viele Faktoren in die Entscheidung ein. Ob die Ausnahme greift, lässt sich vor einer behördlichen oder gerichtlichen Entscheidung häufig nicht mit Sicherheit sagen. Wer sich auf die Offensichtlichkeitsausnahme stützen möchte, sollte das nicht ohne rechtliche Prüfung tun.
Handlungsempfehlungen
Für Unternehmen, die KI-Systeme entwickeln oder entwickeln lassen, die Gespräche führen, muss die Kennzeichnung als technisches Feature implementiert werden. Für Unternehmen, die solche Systeme einsetzen, ohne sie selbst zu entwickeln, empfiehlt sich eine Prüfung, ob das genutzte System diese Anforderung bereits erfüllt. Ist das nicht der Fall, sollte der Modellanbieter umgehend kontaktiert und die Anforderung vertraglich festgehalten werden.
