Ist ein Bild oder ein Video real und echt oder ein KI-Fake? Sitzt an der Telefon-Hotline ein echter Mensch oder ein Voicebot? Ist die Stimme in einer Werbung wirklich die eines Prominenten oder ist sie durch KI erzeugt?
Das muss nach den seit dem 2. August 2026 geltenden der Europäischen Union neuen Transparenzpflichten immer gekennzeichnet sein. Die Regeln sind Teil der europäischen KI-Verordnung, des sogenannten AI Act. Sie sollen es Menschen erleichtern, künstlich erzeugte oder veränderte Inhalte zu erkennen und sich vor Täuschung, Betrug und Falschinformationen zu schützen.
Kommunikation mit Chatbots muss erkennbar sein
Anbieter von Chatbots, KI-Assistenten oder digitalen Avataren müssen Menschen grundsätzlich bereits zu Beginn darauf hinweisen, dass sie mit einer KI und nicht mit einer Person kommunizieren. Eine Ausnahme gilt, wenn dies ohnehin eindeutig erkennbar ist.
Anbieter generativer KI müssen außerdem technisch dafür sorgen, dass künstlich erzeugte oder veränderte Texte, Bilder, Videos und Audiodateien maschinenlesbar gekennzeichnet werden. Dadurch sollen entsprechende Inhalte mithilfe technischer Verfahren sofort als KI-generiert oder manipuliert erkannt werden können.
Deepfakes brauchen einen sichtbaren Hinweis
Deepfakes müssen zusätzlich für Menschen deutlich erkennbar gekennzeichnet werden. Darunter versteht das EU-Recht KI-generierte oder manipulierte Bilder, Videos und Audiodateien, die existierende Personen, Orte, Gegenstände oder Ereignisse so realistisch darstellen, dass sie fälschlicherweise echt wirken können.
Die Kennzeichnung muss spätestens beim ersten Kontakt mit dem Inhalt sichtbar oder hörbar sein. Eine versteckte, ausschließlich maschinenlesbare Markierung reicht dafür nicht aus. Für offensichtlich künstlerische, satirische oder fiktionale Werke gelten erleichterte Vorgaben: Der Hinweis darf so gestaltet werden, dass er die Darstellung des Werkes nicht beeinträchtigt.
Regeln für KI-generierte Texte
Auch KI-generierte oder mit KI-veränderte Texte müssen gekennzeichnet werden, wenn sie ohne ausreichende menschliche Prüfung veröffentlicht werden und die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen. Dazu gehören beispielsweise Politik, öffentliche Verwaltung, Sicherheit, Gesundheit, Umwelt, Wirtschaft oder Wissenschaft.
Keine Kennzeichnung ist erforderlich, wenn der Inhalt von einer fachlich geeigneten Person tatsächlich geprüft wurde und eine Person oder Organisation die redaktionelle Verantwortung für die Veröffentlichung übernimmt. Eine bloße Kontrolle von Rechtschreibung und Grammatik gilt aber nicht als ausreichende menschliche Prüfung.
Für wen gelten die Pflichten?
Die Pflichten richten sich vor allem an Anbieter von KI-Systemen sowie an Unternehmen, Behörden, Organisationen, Vereine, Selbstständige und andere Personen, die KI beruflich einsetzen. Wer KI ausschließlich privat und ohne beruflichen oder wirtschaftlichen Zweck nutzt, gilt nach dem AI Act grundsätzlich nicht als professioneller Betreiber eines KI-Systems.
Auch beim Einsatz von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen die betroffenen Menschen darüber informiert werden. Verstöße gegen die Transparenzpflichten können mit Geldbußen von bis zu 15 Millionen Euro geahndet werden. Bei Unternehmen können es bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres sein.
Freiwillige EU-Symbole zur Kennzeichnung
Die Europäische Kommission stellt Symbole bereit, mit denen vollständig KI-generierte oder teilweise durch KI veränderte Inhalte gekennzeichnet werden können. Die Nutzung dieser Symbole ist freiwillig. Die gesetzliche Pflicht, bestimmte KI-Inhalte eindeutig offenzulegen, besteht jedoch unabhängig davon.
Weitere Informationen:
Neue Verordnung der EU: Kennzeichnung von KI-Inhalte
Quellen:
Europäische Kommission: Transparenzpflichten nach Artikel 50 des AI Act
Europäische Kommission: Leitlinien zu den Transparenzpflichten
Verordnung (EU) 2024/1689 über Künstliche Intelligenz
tun26082603