Una nueva taxonomía del uso de la imagen en la conformación interesada del relato digital. Deep fakes e inteligencia artificial

Abstract

Cualquier confrontación pretende la imposición, siquiera parcial, de los criterios y la voluntad propios sobre los del adversario. En los últimos años, las tecnologías digitales y la ciencia de datos se han combinado para favorecer la aparición de nuevas formas de control del discurso y para establecer potentes campañas de desinformación que constituyen un nuevo tipo de conflicto con características digitales. Precisamente, a partir de la bibliografía disponible y del trabajo directo de los autores en diversos grupos de expertos, este artículo estudia el uso de las imágenes –reales, alteradas o generadas artificialmente por completo– estáticas o en movimiento como uno de los medios más eficientes para alterar las percepciones y, por lo tanto, los relatos dentro del denominado ámbito cognitivo. Para ello, el artículo recoge de forma ordenada y exhaustiva la más reciente doctrina del entorno militar y de inteligencia relativa a las llamadas “operaciones de influencia”, desde una doble perspectiva tecnológica y sociológica. A partir de aquí, determina las diferencias entre las técnicas de desinformación tradicionales y las que incorporan tecnologías digitales y de inteligencia artificial sobre imágenes. El artículo propone una nueva taxonomía de doble entrada que refleje el grado de manipulación de las imágenes y el objetivo que se persigue con la desinformación. Este puede ser un medio para identificar y priorizar los casos más relevantes y, de aquí, adoptar las correspondientes contramedidas. Éstas se examinan en detalle para concluir que sólo una combinación de transparencia, formación del consumidor, tecnología y legislación puede contrarrestar el creciente uso de imágenes con contenido falseado. Abstract Any confrontation seeks the (partial) imposition of one party’s will on an adversary. In recent years, digital technologies and data science have combined to create new ways of controlling the narrative and carrying out powerful information or disinformation campaigns that are part of a new type of warfare with digital characteristics. In particular, based on a literature review and the direct work of authors in different expert groups, this paper studies the use of either static or moving images (real, altered, or wholly artificially generated) as one of the most efficient means of altering perceptions and thereby narratives in the so-called cognitive domain. To this aim, this article collects in an orderly and exhaustive way the most recent military and intelligence doctrine related to such “influence operations,” from a dual technological–sociological perspective. Based on this, the paper determines the differences between traditional disinformation techniques and those incorporating digital and artificial intelligence technologies in the form of images and video. The paper proposes a new double-entry taxonomy that can display the degree of image faking and the objective of disinformation. This helps to identify and prioritize the most relevant cases and thus adopt the most appropriate countermeasures. These are also examined in detail, leading to the conclusion that only a combination of transparency, consumer education, technology, and regulation can counteract the increasing use of images and video with false content.

Imágenes falsas, efectos reales. Deepfakes como manifestaciones de la violencia política de género

“…Un ejemplo que captó la atención mundial fue los vídeos fake de Nancy Pelosi, política demócrata y presidenta de la Cámara de Representantes en Estados Unidos, editados para que pareciese que hablaba de manera errática, con dificultades de dicción y con la voz afectada. Ambos vídeos, compartidos por el entonces presidente Donald Trump y Rudy Giuliani (ex alcalde de Nueva York) parecían remitir a una Pelosi aquejada de síntomas etílicos lo que provocó una percepción pública gravemente tergiversada (Gómez-de-Ágreda et al, 2021;Harwell, 2019).…”

Predominio de las cheapfakes en redes sociales. Complejidad técnica y funciones textuales de la desinformación desmentida en Argentina durante 2020

“…La investigación sobre desinformación registra durante los últimos años un interés creciente por las deepfakes (Buñúelos Capistrán, 2020;Fletcher, 2018;García-Ull, 2021;Gómez-de-Ágreda, Feijóo y Salazar-García, 2021;Maras y Alexandrou, 2019;Padilla Castillo, García Guardia y Cerdán Martínez, 2020;Westerlund, 2019;White, 2020), falsedades «producto de aplicaciones de inteligencia artificial o machine learning que fusionan, combinan, reemplazan y superponen imágenes y clips de vídeo […] creando un vídeo falso que parece auténtico» (Maras y Alexandrou, 2019: 255). Su aparición se remonta a noviembre de 2017, cuando un usuario de la red social Reddit publicó diversos vídeos de carácter pornográfico falsamente protagonizados por actrices famosas.…”

Evolución del Deepfake: campos semánticos y géneros discursivos 2017-2021

“…En los campos semánticos pioneros del deepfake se ha desarrollado una industria delictiva dedicada a la producción de prácticas de desinformación, pornografía, fake news y su detección (Fraga-Lamas et al, 2020;Güera y Delp, 2018;Sohrawardi et al, 2019;Maras y Alexandrou, 2018;Cerdán et al, 2020;Xu et al, 2021;Adriani, 2019;Cooke, 2018), bots, falsificación, extorsión, suplantación de identidades, difamación, acoso y ciberterrorismo (Gosse y Burkell, 2020;Westerlund, 2019;Vaccari y Chadwick, 2020;Gómez-de-Ágreda et al, 2021;Temir, 2020, Ajder et al, 2020Barnes y Barraclough, 2019).…”

“…Se observa que los géneros discursivos más relevantes, que aparecen desde el origen del deepfake entre 2017 y hasta 2019, son: pornografía no consensuada, porno-extorsión, denuncia, virtual perfomances (performances virtuales), retratos vivientes, campañas sociales, parodias de entretenimiento, anti-propaganda, declaraciones políticas, sátira política y arte (Westerlund, 2019;Campbell et al, 2021;Kwok y Koh, 2020;Whittaker et al, 2021;Gómez-de-Ágreda et al, 2021;Initiative, 2020).…”

“…Entre 2019-2021 se advierte una emergencia significativa en géneros discursivos benéficos del deepfake como: transmisiones deportivas (AI-automated video), espectáculos, educación, modelos de cabezas parlantes, retratos (deepnostalgia), campañas sociales, activismo social y político, salud y usos médicos, turismo, publicidad, propaganda, moda (virtual showroom, Amazon Syle Snap, Google lens), comercio electrónico (e-commerce, retail apps), asistentes inteligentes, cine y video streaming, video juegos, telepresencia, modelos IA (Generated Photos), humanos digitales (digital humans), video conferencias (videoconferencing), telepresencia, multi-player games, memes, experimentación artística, denuncia, chat virtual, chat bots, avatares personales, terapia psicológica y material científico; y sobre usos delictivos como: fake news, desinformación, pornografía, ciberacoso, deepfake bots .deepbots) (Westerlund, 2019;Campbell et al, 2021;Kwok y Koh, 2020;Whittaker et al, 2021;Garimella y Eckles, 2020;Oliveira-Teixeira et al, 2021;Gómez-de-Ágreda et al, 2021).…”