Nach dem Fall der Schauspielerin Collien Fernandes, die sich gegen pornografische Deepfake-Videos von sich wehrt, hat Bundesjustizministerin Stefanie Hubig (SPD) ein neues Gewaltschutzgesetz angekündigt. Damit solle „ein Signal gesetzt und Grenzen aufgezeigt“ werden, erklärte sie.
Tatsächlich hat die Europäische Union bereits im Jahr 2024 eine Richtlinie zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt verabschiedet. Diese verpflichtet die Mitgliedstaaten, bis spätestens 2027 unter anderem strafrechtliche Regelungen gegen die nicht einvernehmliche Weitergabe intimer Inhalte einzuführen - auch dann, wenn es sich um manipuliertes Material wie Deepfakes handelt.
Die Grünen-Europaabgeordnete und Digitalpolitikerin Alexandra Geese aus Bonn kritisiert, die Umsetzung komme in Deutschland zu langsam voran. „Der eigentliche Skandal ist, dass das trotz klarer europäischer Vorgaben seit zwei Jahren nicht passiert ist“, sagte sie dem Evangelischen Pressedienst (epd). Auch kritisiert sie, dass die EU-Staaten in diesem Fall drei Jahre Zeit haben für die Umsetzung. „Der Standard für die Umsetzung von EU-Recht sind 24 Monate. Wenn es um Gewalt gegen Frauen geht, hat man plötzlich ein Jahr mehr. Das finde ich schockierend.“
Die EU habe vorgelegt, jetzt liege der Ball bei den Mitgliedstaaten. Ihr Appell an die Bundesregierung sei, „diese Welle der Empörung in der Öffentlichkeit - die absolut gerechtfertigt ist - zu nutzen, um ein Gesetz zu schaffen, das Frauen wirklich umfassende Sicherheit bietet“.
EU hat Werkzeugkasten entwickelt
Auch andere Europaabgeordnete sehen weniger ein Regelungsdefizit als ein Vollzugsproblem. Die CDU-Politikerin Verena Mertens verweist neben der Richtlinie zur Bekämpfung von Gewalt gegen Frauen auf weitere EU-Instrumente wie den Digital Services Act (DSA) und den AI Act. Diese böten bereits Ansatzpunkte, um gegen nicht einvernehmliche intime Inhalte und KI-manipulierte Darstellungen vorzugehen.
Entscheidend sei, wie konsequent diese Regeln angewendet würden. Häufig würden Inhalte erst entfernt, wenn sie bereits vielfach verbreitet worden seien und der Schaden schon eingetreten sei, betonte Mertens.
Digitale Gewalt als Massenphänomen
Geese sieht zudem ein Problem in der EU-Richtlinie, das Deutschland nun lösen müsse: Strafbar ist die Verbreitung entsprechender Inhalte demnach nur, wenn sie voraussichtlich zu „schwerem Schaden“ für die betroffene Person führt. „Das ist ein riesengroßes Problem, weil man nachweisen muss, dass es diesen Schaden gibt.“
Zugleich sei das Gesetz noch aus der analogen Welt heraus gedacht, da sich Inhalte in der Zwischenzeit massenhaft verbreiteten. Deutschland müsse daher über die EU-Vorgaben hinausgehen und diese Einschränkung streichen, wenn es „wirklich Vorreiter sein und Frauen wirklich schützen“ wolle.
Auch bei der Beweislast fordert die grüne Europa-Abgeordnete aus Bonn ein Umdenken. „Der Täter muss nachweisen, dass es eine Einwilligung gab“, sagte sie.
Viele Betroffene wüssten oft jahrelang nichts von der Verbreitung entsprechender Inhalte. Neben strafrechtlichen Änderungen sieht Geese daher vor allem Plattformen in der Verantwortung. „Indem die Plattformen die klare Ansage bekommen, dass dieses Material illegal ist: Veröffentlicht es nicht, sonst bekommt ihr richtig Ärger“, sagte sie. Nutzer dürften nur Inhalte hochladen, für die eine Einwilligung vorliege, und Plattformen müssten Systeme entwickeln, um diese zu überprüfen. Ziel müsse es sein, digitale Gewalt als Massenphänomen einzudämmen - nicht nur einzelne Täter im Nachhinein zu verfolgen.
EU-Parlament nimmt Technologien in den Blick
Das Europäische Parlament arbeitet unterdessen an weiteren Maßnahmen, die stärker bei der technischen Verbreitung ansetzen. Die Abgeordneten wollen ein Verbot sogenannter Nudify-Apps einführen. Diese verwenden KI, um Bilder zu erstellen oder zu manipulieren, die sexuell explizit oder intim sind und ohne Zustimmung einer realen Person ähneln. Solche Anwendungen sind frei in App Stores zugänglich. Ende März sprach sich eine Mehrheit der Abgeordneten für ein Verbot aus.
Der Volt-Europaabgeordnete Kai Tegethoff hofft, dass Frauen dadurch besser geschützt werden. „Wir haben viel zu schwache Regeln, um KI-gestützten Missbrauch zu verhindern und Täter konsequent zu verfolgen“, sagte er. Wo Deutschland scheitere, liefere Europa. „Die Richtlinie wird genau solche KI-Nacktscanner verbieten und die Plattformen zur Verantwortung zwingen. Das verbessert auch in Deutschland die Rechtslage für Frauen massiv.“
Europa verfolge dabei einen anderen Ansatz als die in Deutschland diskutierte Gesetzesänderung: „Er nimmt nicht die Täter in den Fokus, sondern verpflichtet Plattformen, solche Deepfake-KIs künftig nicht mehr zugänglich zu machen. Das ist ein Ansatz, der schnelle Erfolge verspricht, weil er europaweit klare Regeln für den virtuellen Raum festlegt“, sagte Tegethoff.
Bevor die neuen Regeln in Kraft treten können, müssen sich Parlament und Mitgliedstaaten auf einen gemeinsamen Gesetzestext einigen. „Ich erwarte, dass auch die Mitgliedstaaten jetzt sehr schnell zu einer starken Positionierung kommen und dass das so schnell wie möglich abgeschlossen wird“, sagte Geese. Bis zum Sommer könnte das Verfahren abgeschlossen sein.