Fall Collien Fernandes: Was die Bundesregierung gegen Sex-Deepfakes plant

Es ist ein prominenter Fall mit womöglich weitreichenden Folgen. Er könnte dazu führen, dass mit Künstlicher Intelligenz (KI) erstellte pornografische Bilder künftig auch in Deutschland unter Strafe stehen – anders als bisher.

Prominenter Fall um Collien Fernandes rückt sexualisierte Deepfakes und KI-Pornografie in den Fokus

Anlass der neuen Debatte sind die Vorwürfe, mit denen sich die Schauspielerin und Moderatorin Collien Fernandes öffentlich gegen ihren Ex-Ehemann, den Schauspieler Christian Ulmen, gewandt hat. Fernandes hat wegen verschiedener Anschuldigungen Anzeige eingereicht. Dabei geht es unter anderem um gefälschte pornografische Darstellungen von ihr, die seit Jahren im Internet kursieren, um sogenannte sexualisierte Deepfakes.

Ob Ulmen etwas damit zu tun hat, ist nicht geklärt. Doch unabhängig davon macht der Fall auf ein größeres Problem aufmerksam: die Frage, wie pornografische KI-Darstellungen strafrechtlich verfolgt werden können.

Wie die bisherige Rechtslage zu Deepfakes ist

Bundesjustizministerin Stefanie Hubig (SPD) kündigte nun an, diese Gesetzeslücke schließen zu wollen. „Aus meiner Sicht sollte das Erstellen und Verbreiten von sexualisierten Deepfakes unter Strafe stehen“, sagte sie dem Nachrichtenmagazin „Spiegel“. „Dabei geht es mir nicht nur um pornografische KI-Bilder, sondern generell um Fakes, die in Persönlichkeitsrechte eingreifen.“

Die Herstellung und Verbreitung von Deepfakes ist in Deutschland bisher nicht explizit strafbar. Zwar können Betroffene versuchen, auf andere Strafrechtsparagrafen zu verweisen, etwa das Recht am eigenen Bild. Doch die Erfolgsaussichten gelten als gering.

Plattformen wie TikTok und Instagram könnten stärker in die Verantwortung genommen werden

Die Beratungsstelle Hateaid, die sich gegen digitale Gewalt engagiert, legte schon im Januar einen Vorschlag für einen Gesetzentwurf vor. Er würde beim Paragrafen zur Verletzung des Intimbereichs durch Bildaufnahmen ansetzen, der schon jetzt im Strafgesetzbuch steht. Hateaid schlägt vor, den Paragrafen mit Blick auf sexualisierte Deepfakes zu ergänzen. Demnach sollten sowohl die Herstellung als auch der unbefugte Gebrauch und die Verbreitung solcher Bilder strafbar werden. Bis zu zwei Jahre Freiheitsstrafe oder eine Geldstrafe könnten drohen.

Hubig kündigte außerdem an, Betroffene digitaler Gewalt über das Strafrecht hinaus unterstützen zu wollen. „Es soll möglich werden, Accounts von Tätern per richterlicher Anordnung sperren zu lassen, wenn sie massiv Recht verletzen“, sagte die Ministerin. Das umzusetzen, dürfte allerdings herausfordernd werden. Die Maßnahmen würden große Plattformen wie TikTok oder Instagram betreffen, deren Regulierung erfahrungsgemäß schwierig ist.

EU arbeitet an strengeren Regeln für Deepfakes

Die EU will das Problem auch im Rahmen ihrer neuen KI-Verordnung angehen, die gerade im Europäischen Parlament liegt. Aktuell sieht es so aus, als wollten die Abgeordneten die Regeln zu Deepfakes nachschärfen. Möglicherweise könnte schon in der kommenden Woche darüber abgestimmt werden.

Kommentare öffnen