Trügerische Transparenz: Was die neuen KI-Labels bringen und was nicht

Neue Transparenzpflichten für KI-Inhalte

Ab dem kommenden Sonntag treten wesentliche Teile der europäischen KI-Verordnung (AI Act) in Kraft. Damit einher geht eine neue Kennzeichnungspflicht für synthetisch generierte Inhalte. Ziel der EU-Kommission ist es, Desinformation entgegenzuwirken und das Vertrauen der Öffentlichkeit in digitale Medien zu stärken. Anbieter von KI-Systemen sind künftig dazu verpflichtet, Texte, Bilder, Audio- und Videomaterial als solche zu kennzeichnen, sofern diese durch Künstliche Intelligenz erzeugt wurden.

Die Regeln betreffen primär Anbieter von KI-Modellen sowie berufliche Nutzer, die diese Technologien einsetzen. Private Anwender, die KI-Tools beispielsweise für private E-Mails oder Grußkarten verwenden, sind von den Auflagen ausgenommen. Neben der expliziten Kennzeichnung müssen Anbieter auch offenlegen, wenn sie KI für die automatisierte Emotionserkennung oder die biometrische Analyse von Alter und Geschlecht nutzen. Auch bei der Interaktion mit Chatbots im Support-Bereich besteht eine Informationspflicht über den Einsatz nicht-menschlicher Akteure.

Grauzonen und Ausnahmen im Regelwerk

Die EU-Kommission hat ein umfangreiches Leitliniendokument veröffentlicht, um die Anwendung der Regeln zu präzisieren. Dennoch bleiben Grauzonen bestehen. So entfällt die Kennzeichnungspflicht, wenn KI-Systeme lediglich unterstützende Funktionen übernehmen, die das Ausgangsmaterial nicht substanziell verändern – etwa bei einer reinen Grammatikprüfung oder der Anpassung von Videoformaten.

Ebenfalls ausgenommen sind Inhalte, bei denen der künstliche Charakter offensichtlich ist, wie etwa bei animierten Werbefiguren. Anders verhält es sich bei Deep Fakes: Bilder, die reale Personen in Situationen zeigen, die so nie stattgefunden haben, müssen zwingend als KI-generiert markiert werden, um eine Irreführung der Öffentlichkeit zu vermeiden.

Warum Labels kein Garant für Vertrauen sind

Experten wie Raphael Fischer von der TU Dortmund betrachten die Kennzeichnungspflicht als einen sinnvollen ersten Schritt, warnen jedoch vor zu hohen Erwartungen. Ein Label beantworte lediglich die Frage nach der Herkunft, treffe jedoch keine Aussage über die Korrektheit, Fairness oder Zuverlässigkeit des Inhalts. Zudem kritisiert Fischer, dass die EU keine verbindlichen Icons vorschreibt. Dies könnte zu einem unübersichtlichen „Flickenteppich“ an verschiedenen Kennzeichnungen führen, der die Nutzer eher verwirrt als informiert.

Ein weiteres Problem ist die psychologische Wirkung der Kennzeichnung. Studien deuten darauf hin, dass die bloße Anwesenheit eines Labels die Wahrnehmung von Inhalten verzerren kann. Es besteht das Risiko, dass ungekennzeichnete, aber falsche Inhalte als wahrer eingestuft werden, während authentische, aber als KI-generiert markierte Inhalte pauschal an Glaubwürdigkeit verlieren.

Grenzen der technologischen Kontrolle

Die Wirksamkeit der Verordnung stößt an ihre Grenzen, wenn es um böswillige Akteure geht. Gegen gezielte Desinformationskampagnen, die etwa den Klimawandel leugnen oder demokratische Prozesse untergraben sollen, richten die neuen Kennzeichnungspflichten wenig aus. Auch die Rolle von Wasserzeichen und KI-Detektoren bleibt untergeordnet, da die zugrunde liegende Technik oft unzuverlässig ist und die Fälschungsmethoden sich stetig weiterentwickeln.

Dennoch bieten die maschinenlesbaren Informationen, die KI-Inhalte künftig begleiten müssen, theoretische Ansätze für Plattformen. So könnten soziale Netzwerke oder Streamingdienste den Nutzern künftig ermöglichen, KI-generierte Inhalte oder sogenannte „AI Slop“ gezielt auszublenden.

Medienkompetenz als notwendige Ergänzung

Forscher wie Rainer Rehak vom Weizenbaum-Institut betonen, dass Transparenz kein Selbstzweck sein darf. Während die EU den Fokus auf Kennzeichnungen legt, hätten andere Ansätze wie strengere Produktbeschränkungen oder konkrete Gestaltungsvorgaben für KI-Systeme ebenfalls zur Debatte gestanden. Die aktuelle Regelung gleicht daher einem groß angelegten Experiment zur Integration von KI in die Gesellschaft. Letztlich bleibt die kritische Bewertung der Inhalte durch die Nutzer selbst die wichtigste Verteidigungslinie gegen Desinformation, da kein Label die menschliche Medienkompetenz ersetzen kann.