Legal Protection of Revenge and Deepfake Porn Victims in the European Union: Findings From a Comparative Legal Study

Abstract

The use of images of persons in a pornographic context (without the prior consent of the person concerned) on the internet is an increasingly widespread infringement. Unlawful activities carried out with the use of generated images and artificial intelligence are a variant of this phenomenon. “Revenge porn” and “deepfake porn” illustrate the inadequacy of legal systems vis a vis the fast-changing reality. Using the comparative law method, a comparison was made between the current laws of nine EU Member States to create a map of protection for victims of revenge porn. As the results showed, in three of the studied countries there is a separate incrimination of revenge porn; however, the conceptual scope of its definition is significantly different and it is these differences that determine the legal way for the victims to assert their rights. This article is a comparison of the current legal regulations of selected European Union countries and the means of legal protection used by the victims. The text presents the differences occurring in the legal systems adopted in the countries subject to analysis, as well as an assessment of possible solutions at the legal and technological level to face the existing problem.

Potensi Kekerasan Gender Berbasis Online Pada Penyalahgunaan Teknologi Kecerdasan Buatan Bagi Perempuan Di Media

“…Revenge Porn merupakan Tindakan balas dendam yang dilakukan pelaku dengan maksud untuk membuat korban cedera baik secara psikos maupun sosial. Revenge porn merupakan penyalahgunaan hak dalam bentuk penyebaran gambara intim yang dilakuakan tanpa adanya persetujuan (Mania, 2022). Henry dan Flynn dalam risetnya atas pelecehan seksual berbasis gambar di 77 situs online bervolume tinggi, Henry & Flynn menemukan data bahwa di sebagian besar situs tersebut, pengguna tampaknya termotivasi oleh kepuasan seksual dan membuktikan maskulinitas mereka.…”

Unraveling generative AI in BBC News: application, impact, literacy and governance

“…For instance, from the technical side, Katarya and Lal (2020) have presented three approaches of deepfake detection involving fake image detection, fake video detection and fake audio detection. In addition, scholars from the field of law have explored the capability and limitation of current law to properly deal with problematic deepfake pornography (Gieseke, 2020;Mania, 2024).…”

Fifty Shades of ChatGPT: Aktueller Diskussions- und Forschungsstand zu Sex und künstlicher Intelligenz

“…Bislang existieren vor allem spezialisierte KI-Tools, die pornografische Einzelbilder erzeugen, nicht jedoch ganze Videos. Die heute gängigen bildgenerierenden Porno-KI-Tools existieren in zwei Varianten: ▪ Es gibt Plattformen, auf denen man sich ein pornografisches Wunschbild erstellen lassen kann, indem man Körper-und Bekämpfung sind unzureichend (Karasavva und Noorbhai 2021;Mania 2022). Eine schnelle -ihrerseits KI-gestützte -Erkennung von Deepfake-Pornos und automatische Entfernung von öffentlichen Internet-Plattformen ist bislang nicht möglich.…”

“…Gleichzeitig werden die Pornodarsteller*innen geschädigt, deren Bildmaterial unautorisiert missbraucht wird. Die rechtlichen Regelungen zu Deepfake-Pornos und ihre praktische Bekämpfung sind unzureichend ( Karasavva und Noorbhai 2021 ; Mania 2022 ). Eine schnelle – ihrerseits KI-gestützte – Erkennung von Deepfake-Pornos und automatische Entfernung von öffentlichen Internet-Plattformen ist bislang nicht möglich.…”