Nackt per Mausklick: EU-Abgeordnete wollen sexualisierte Deepfakes verbieten

Nackt per Mausklick: EU-Abgeordnete wollen sexualisierte Deepfakes verbieten

Hintergrund der Diskussion

In Brüssel wird derzeit intensiv über die rechtlichen Rahmenbedingungen für den Umgang mit sexualisierten Deepfakes verhandelt. Dieser Diskurs wurde maßgeblich durch den Skandal um den Chatbot Grok im Januar 2026 angestoßen, bei dem Nutzer:innen mit einem einzigen Klick gefälschte Nacktbilder von Frauen und Minderjährigen erstellen konnten. Diese Bilder waren oft täuschend echt und führten zu einem massiven Aufschrei in der Öffentlichkeit. Fachleute bezeichnen diese Praktiken als digitale Gewalt, da sie überwiegend Frauen und Kinder betreffen.

Politischer Wille und rechtliche Möglichkeiten

Die Abgeordneten des Europäischen Parlaments nutzen den Moment, um eine rechtliche Lösung zu finden. Im Rahmen des sogenannten KI-Omnibus, der die bestehende KI-Verordnung der EU anpassen soll, wird auch das Verbot von sexualisierten Deepfakes diskutiert. Laut Michael McNamara, dem Berichterstatter für den KI-Omnibus, ist es „fahrlässig“, nicht wenigstens die Möglichkeit eines Verbots zu prüfen. Er betont, dass der Schutz von Frauen und Minderjährigen, die unverhältnismäßig stark betroffen sind, eine ausdrückliche Regelung erfordere.

Der Grok-Skandal als Katalysator

Der Grok-Skandal hat verdeutlicht, wie leicht generative KI missbraucht werden kann, um nicht einvernehmliche intime Bilder zu erstellen. Brando Benifei, Schattenberichterstatter für den KI-Omnibus, hebt hervor, dass die derzeitige Pflicht zur Kennzeichnung von Deepfakes, die ab August 2026 gelten sollte, nicht ausreicht. „Transparenz verhindert nicht den Schaden“, so Benifei.

Zwei Optionen für das Verbot

Um den Herausforderungen durch sexualisierte Deepfakes zu begegnen, schlagen Abgeordnete verschiedene Optionen vor:

1. **Aufnahme in die Liste verbotener KI-Anwendungen:** Deepfakes könnten im Artikel 5 der KI-Verordnung als verbotene Praktiken verankert werden.

2. **Transparenzpflichten für Anbieter:** Alternativ könnten Anbieter generativer KI-Systeme verpflichtet werden, Schutzmaßnahmen zu implementieren, um die Erstellung solcher Inhalte ohne Zustimmung der Betroffenen zu verhindern.

Die unterschiedlichen Fraktionen im Parlament haben dabei leicht variierende Formulierungen, jedoch ein gemeinsames Ziel: Die Unternehmen sollen in die Verantwortung genommen werden, nicht die Nutzer:innen.

Fraktionsübergreifende Unterstützung

Die Grünen setzen sich für ein grundsätzliches Verbot der Erstellung sexualisierter Deepfakes ein. Sie argumentieren, dass es für Tools schwierig sei, die Zustimmung der betroffenen Personen zu überprüfen. Die Fraktionen Renew, S&D und die Linke befürworten ebenfalls ein Verbot, jedoch mit dem Fokus auf die Einholung der Zustimmung.

Im Gegensatz dazu zeigt sich die konservative EVP-Fraktion noch zurückhaltend. Axel Voss, Schattenberichterstatter für die EVP, äußert, dass ein Verbot moralisch und ethisch problematisch sei, jedoch die rechtlichen Rahmenbedingungen entscheidend für die Durchsetzbarkeit sind.

Diskussionen auf EU-Ebene

Die Verhandlungen im Parlament haben begonnen, und ein Kompromisstext wird voraussichtlich am 18. März 2026 von den verantwortlichen Ausschüssen für Verbraucher und Justiz abgestimmt. Parallel dazu arbeiten die Mitgliedstaaten an ihren Positionen. Berichten zufolge haben einige Länder, darunter Spanien, Frankreich, Irland und Slowenien, bereits ähnliche nationale Verbote angestrebt.

Aktuell ist es in der EU strafbar, nicht-einvernehmliche, sexuelle Deepfakes zu verbreiten, jedoch nicht, sie zu erstellen. Diese Regelung ist Teil der neuen Richtlinie zur Bekämpfung von Gewalt gegen Frauen, die bis Juni 2027 von den Mitgliedstaaten in nationales Recht umgesetzt werden muss.

Zukünftige Schritte

Digitalkommissarin Henna Virkkunen hat in jüngsten Äußerungen darauf hingewiesen, dass die EU derzeit prüft, ob die bestehenden Gesetze klar genug sind oder ob zusätzliche Regelungen notwendig sind. Die Diskussion über sexualisierte Deepfakes zeigt, wie wichtig es ist, die rechtlichen Rahmenbedingungen anzupassen, um sowohl die Rechte der Betroffenen zu schützen als auch die neuen Technologien verantwortungsvoll zu regulieren.

Die kommenden Monate könnten entscheidend sein für die Entwicklung eines rechtlichen Rahmens, der den Herausforderungen durch sexualisierte Deepfakes gerecht wird. Die Diskussionen im Europäischen Parlament und zwischen den Mitgliedstaaten werden weiterhin genau beobachtet, da sie weitreichende Implikationen für den Umgang mit digitalen Inhalten und den Schutz von Persönlichkeitsrechten haben könnten.