Artikel 50 des EU AI Acts regelt die Transparenz- und Kennzeichnungspflichten für bestimmte KI-Anwendungen, die seit dem 2. August 2026 gelten. U.a. verpflichtet er Anbieter und Betreiber dazu, Nutzer über den Einsatz von Künstlicher Intelligenz (KI) zu informieren, wenn sie mit einem KI-System interagieren oder wenn Inhalte durch KI generiert wurden. Klaus-Dieter Franzen, Fachanwalt für Arbeitsrecht vom VDAA – Verband deutscher ArbeitsrechtsAnwälte, erläutert die Rechtslage:
„Die Pflichten richten sich an Anbieter und Betreiber von KI-Systemen. Anbieter entwickeln KI-Systeme oder bringen sie unter ihrem Namen auf den Markt. Betreiber setzen KI-Systeme in eigener Verantwortung ein. Nutzt ein Beschäftigter ein KI-System im Auftrag und unter der Kontrolle seines Unternehmens, bleibt grundsätzlich das Unternehmen Betreiber. Art und Umfang der Pflichten hängen von dieser Rollenverteilung ab.“
Menschen müssen erkennen, wenn sie mit KI kommunizieren
Um die Transparenzpflicht zu erfüllen, müssen Chatbots, virtuelle Assistenten und vergleichbare Systeme zu Beginn der ersten Interaktion klar darauf hinweisen, dass eine KI eingesetzt wird, erläutert der Fachanwalt. Ein versteckter Hinweis im Impressum, in den Allgemeinen Geschäftsbedingungen oder in der Datenschutzerklärung genüge nicht. Nur wenn die KI-Interaktion offensichtlich sei, könne der Hinweis entfallen. „Diese Ausnahme ist jedoch eng auszulegen“, erklärt Franzen. Die Information muss laut dem Experten wahrnehmbar und barrierefrei sein. Bei Angeboten für Kinder sei ein altersgerechter Hinweis erforderlich.
„Deepfakes“ müssen sichtbar offengelegt werden
„Wer als Betreiber realistisch wirkende, KI-generierte oder manipulierte Bilder, Videos oder Tonaufnahmen veröffentlicht, muss spätestens beim ersten Kontakt deutlich auf die künstliche Erstellung oder Veränderung hinweisen“, erläutert Franzen. Eine unsichtbare technische Markierung reiche nicht aus. Der Hinweis müsse ohne besondere technische Hilfsmittel erkennbar sein. Eine Täuschungsabsicht sei dabei nicht erforderlich. „Auch vollständig künstlich erzeugte Personen, Orte oder Ereignisse können erfasst sein, wenn sie realistisch und authentisch wirken“, schreibt der Fachanwalt. Eindeutig unrealistische oder comicartige Darstellungen fielen regelmäßig nicht darunter. Für fotorealistische Werbung und Produktdarstellungen sollte jedoch nicht auf die Erleichterung für künstlerische, satirische oder fiktionale Werke vertraut werden, empfiehlt er.
Bestimmte KI-Texte brauchen ebenfalls einen Hinweis
Die Transparenzpflicht betreffe auch KI-generierte oder wesentlich manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren, erläutert Franzen. Eine Kennzeichnung könne jedoch entfallen, wenn eine fachkundige Person den Inhalt substanziell geprüft habe und eine natürliche oder juristische Person die redaktionelle Verantwortung übernehme. Eine reine Rechtschreibkontrolle oder formale Freigabe genüge nicht.
Was heißt das für die Praxis?
Unternehmen sollten zeitnah erfassen, welche KI-Systeme sie einsetzen und welche Inhalte damit erzeugt werden, rät Klaus-Dieter Franzen. Kundenservice, Personalabteilung, Marketing und Unternehmenskommunikation seien diesbezüglich besonders relevant. Bei Chatbots müssen laut dem Fachanwalt klare Hinweise eingerichtet werden. Für KI-Bilder, KI-Videos und synthetische Stimmen sei ein Kennzeichnungsprozess erforderlich. Verträge mit externen Anbietern sollten regeln, ob und wie maschinenlesbare Markierungen bereitgestellt werden.
„Für Veröffentlichungen sollte das Unternehmen bestimmen, wer Inhalte fachlich prüft, freigibt und rechtlich verantwortet. Die Prüfung sollte nachvollziehbar dokumentiert werden. Bei betrieblichen Anwendungen bleiben außerdem die Datenschutz-Grundverordnung und mögliche Beteiligungsrechte des Betriebsrats zu beachten“, erläutert Franzen.
