envihub.
KI & Daten · 2 Min Lesezeit

EU-Verbot sexualisierter Deepfakes: KI-Regulierung tritt in Kraft

Das EU-Parlament hat mit 423 zu 57 Stimmen eine Verschärfung des KI-Gesetzes beschlossen: Sogenannte "Nudifier"-Apps und KI-Anwendungen zur Erstellung sexualisierter Deepfakes ohne Einwilligung werden ab dem 2. Dezember 2026 EU-weit verboten (Quelle: epd/evangelisch.de).

E
envihub-Redaktion
Redaktion

EU verschärft KI-Gesetz: Verbot sexualisierter Deepfakes ab Dezember 2026

Das Europäische Parlament hat am Dienstag in Straßburg mit 423 zu 57 Stimmen bei 174 Enthaltungen einer Änderung des europäischen KI-Gesetzes (AI Act) zugestimmt. Kern der Reform: KI-Anwendungen, die gezielt zum Erstellen sexualisierter Deepfakes ohne Einwilligung der betroffenen Person genutzt werden, sollen in der EU verboten werden. Dazu zählen ausdrücklich sogenannte „Nudifier"-Apps, mit denen Personen auf Fotos digital entkleidet werden können. Das Verbot soll laut EU-Parlament ab dem 2. Dezember 2026 gelten.

Bevor die Änderungen formell in Kraft treten, müssen sie noch vom Rat der Europäischen Union bestätigt werden. Dies gilt als Formsache. Die Durchsetzung soll federführend durch das KI-Amt der EU erfolgen, das vor zwei Jahren eingerichtet wurde.

Was ändert sich konkret für Verbraucher?

1. Bestimmte KI-Tools werden EU-weit unzulässig Anwendungen, die darauf ausgelegt oder bekannt dafür sind, sexualisierte Deepfakes ohne Einwilligung zu erzeugen, dürfen in der EU nicht mehr angeboten werden. Anbieter haben bis zum 2. Dezember 2026 Zeit, sich anzupassen.

2. Betroffene erhalten eine stärkere Rechtsgrundlage Opfer digitaler sexualisierter Gewalt können sich künftig nicht nur auf nationales Recht stützen, sondern auch auf EU-weit geltende Regelungen berufen. Das kann die Durchsetzung von Ansprüchen gegenüber Plattformen und Anbietern erleichtern, auch wenn Detailfragen des Vollzugs noch offen sind.

3. Anlass der Reform: konkrete Missbrauchsfälle Hintergrund der Gesetzesänderung sind unter anderem Vorfälle rund um den KI-Chatbot Grok der Plattform X, dessen Nutzer die Software eingesetzt hatten, um Frauen auf Fotos digital zu entkleiden. In Deutschland machte die Schauspielerin Collien Fernandes öffentlich, selbst Ziel solcher Deepfake-Videos gewesen zu sein.

4. Andere KI-Regeln werden gleichzeitig vereinfacht Parallel zum neuen Verbot sollen andere Vorgaben für allgemeine KI-Anbieter wie ChatGPT oder Grok vereinfacht oder verschoben werden. Laut Einigung soll dies dazu beitragen, das wirtschaftliche Potenzial von KI in Europa besser auszuschöpfen. Verbraucher sollten daher zwischen dem gezielten Verbot bei missbräuchlichen Anwendungen und der Lockerung anderer Anforderungen unterscheiden.

Einordnung

Die Änderung des AI Act adressiert einen klar abgegrenzten Missbrauchsbereich. Wie konsequent die Durchsetzung gelingt, hängt von der Kapazität des EU-KI-Amts und der Kooperation der Plattformen ab. Ob das Verbot die Verbreitung solcher Inhalte tatsächlich spürbar reduziert, wird sich erst nach dem Inkrafttreten zeigen.

Mehr zu aktuellen Entwicklungen rund um Künstliche Intelligenz und Regulierung sowie digitale Verbraucherrechte finden Sie in unserem envihub-Themenschwerpunkt.

Quellen