Deepfake Attacks: Generation, Detection, Datasets, Challenges, and Research Directions

Abstract

Recent years have seen a substantial increase in interest in deepfakes, a fast-developing field at the nexus of artificial intelligence and multimedia. These artificial media creations, made possible by deep learning algorithms, allow for the manipulation and creation of digital content that is extremely realistic and challenging to identify from authentic content. Deepfakes can be used for entertainment, education, and research; however, they pose a range of significant problems across various domains, such as misinformation, political manipulation, propaganda, reputational damage, and fraud. This survey paper provides a general understanding of deepfakes and their creation; it also presents an overview of state-of-the-art detection techniques, existing datasets curated for deepfake research, as well as associated challenges and future research trends. By synthesizing existing knowledge and research, this survey aims to facilitate further advancements in deepfake detection and mitigation strategies, ultimately fostering a safer and more trustworthy digital environment.

Untitled

“…The categorization of these methods is based on their applications, encompassing video, image, audio, and hybrid multimedia detection. The primary goals of this paper are to provide readers with an improved understanding of ( 1 Naitali et al [11] offers a comprehensive exploration of deepfakes, encompassing their creation and providing insights into the current state-of-the-art detection techniques. The survey also delves into existing datasets tailored for deepfake research, highlights associated challenges, and outlines potential avenues for future research.…”

Section 28. Trends in the Use of Information Technologies in Professional Training: Analysis of the Use of Cloud Technologies in Education

“…У педагогічній літературі активно дискутується проблема впровадження хмарних технологій в навчанні 1 , аналізується впровадженням підходу byod 2,3 , висвітлюється вирішення соціальних, педагогічних і технічних проблем, які можуть виникати при реалізації дистанційного 4 , мобільного і змішаного навчання 5 , обговорюється доцільність використання хмарних сховищ даних (наприклад, ms onedrive 6 ), досвід використання іт для контролю знань (наприклад, сервіс plickers як мобільний додаток для зчитування qr-кодів 7 додаток kahoot! 8,9 для контролю знань в ігровому форматі чи комп'ютерний засіб 10 для контролю математичних знань).…”

“…П'ятий кластер найбільшу вагу зв'язків (7) має у ключовому слові «cloud», що поєднується із словами «education» та «knowledge management» (перший кластер), «e-learning» (другий кластер), «virtualization» (четвертий кластер) та «cloud computing» (сьомий кластер). А ключове слово «cloud storage», яке має найменшу вагу (2) поєднується тільки із «cloud computing» сьомого кластеру.…”

TXAI-ADV: Trustworthy XAI for Defending AI Models against Adversarial Attacks in Realistic CIoT

“…When added to ML-based privacy solutions, malicious input data have the potential to alter the ML model itself or produce biased conclusions. Numerous research investigations have examined the influence of adversarial attacks on the performance of ML systems in several domains, including speech recognition [20], natural language processing [21,22], and image processing [23,24]. Most currently available surveys deal with adversarial attacks against ML in conventional network security [25,26] and image recognition [23,27].…”