Nach Art. 50 Abs. 1 der KI-Verordnung müssen Anbieter sicherstellen, dass KI-Systeme, die für die direkte Interaktion mit Menschen bestimmt sind, so gestaltet sind, dass die Personen erfahren, dass sie mit einem KI-System interagieren. Eine Ausnahme gilt, wenn das für eine angemessen informierte, aufmerksame und verständige Person aus den Umständen offensichtlich ist. Die KI-Servicestelle der RTR bezieht diese Pflicht ausdrücklich auch auf Voicebots am Telefon. Sie gilt seit 2. August 2026.
Die Information muss spätestens bei der ersten Interaktion klar und eindeutig erfolgen und den geltenden Barrierefreiheitsanforderungen entsprechen. In der Praxis bietet sich bei einem KI-Chatbot ein gut sichtbarer Hinweis im Chatfenster an, etwa „Hier antwortet ein KI-Assistent“. Beim KI-Telefonassistenten gehört der Hinweis an den Gesprächsbeginn. Formal richtet sich Abs. 1 an die Anbieter des Systems; Betriebe, die einen Chatbot einsetzen, sollten den Hinweis trotzdem selbst prüfen.
Art. 50 enthält weitere Pflichten. Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen diese maschinenlesbar kennzeichnen; für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, gilt dafür seit dem Digital Omnibus eine Frist bis 2. Dezember 2026. Betreiber müssen Deepfakes offenlegen und KI-Texte zu Angelegenheiten von öffentlichem Interesse kennzeichnen, außer sie wurden menschlich geprüft und jemand trägt die redaktionelle Verantwortung. Verstöße können mit bis zu 15 Mio. Euro oder 3 Prozent des Jahresumsatzes geahndet werden, bei KMU mit dem niedrigeren Betrag.
