Artificial intelligence and journalism: diluting the impact of disinformation and fake news through bots

Vivar, Jesús Miguel Flores

doi:10.31921/doxacom.n29a10

Cited by 36 publications

(8 citation statements)

References 2 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…This is a sensitive field under which the reliability and integrity of information has always been in the line of fire, even before the advent of Generative AI systems. AI has the capability to generate articles which can have biased interpretations which in the end contributes to the misinformation (Flores Vivar, 2019). This has a two-pronged affect, one being the trust of public in media will dwindle and second is the implications for democracy and informed public discourse.…”

Section: Impact On Journalism and Spread Of Misinformationmentioning

confidence: 99%

Bane and boon of hallucinations in context of generative AI

Patel

2024

Preprint

View full text Add to dashboard Cite

The phenomenon of hallucinations takes place when generative artificial intelligence systems, such as large language models (LLMs) like ChatGPT, generate outputs that are illogical, factually incorrect, or otherwise unreal. In generative artificial intelligence, hallucinations have the ability to unlock creative potential, but they also create challenges for producing accurate and trustworthy AI outputs. Both concerns will be covered in this abstract.Artificial intelligence hallucinations can be caused by a variety of factors. There is a possibility that the model will show an inaccurate response to novel situations or edge cases if the training data is insufficient, incomplete, or biassed. It is common for generative artificial intelligence to generate content in response to cues, regardless of the model's "understanding" or the quality of its output.The rising body of material will be synthesised in the paper in order to provide a comprehensive approach to AI hallucinations. The purpose of this study is to gain a deeper understanding of artificial intelligence hallucinations and to develop strategies that can reduce the negative impacts of these hallucinations while simultaneously maximising their creative potential. For the purpose of contextualising artificial intelligence hallucinations in generative AI and providing information for the building of more reliable AI systems, the technique will examine models and mind maps from the journals that were referred to. Hallucinations experienced by AI models can be mitigated through the critical analysis of AI outputs and the diversification of data sources. This paper stresses the significance of high-quality training data, human feedback, transparency, and ongoing quality control in the development of artificial intelligence. This is accomplished through a synthesis of the relevant literature as well as an analysis of models and mind maps. 4.4.1 Descriptive Statistics .

show abstract

Section: Impact On Journalism and Spread Of Misinformationmentioning

confidence: 99%

Bane and boon of hallucinations in context of generative AI

Patel

2024

Preprint

View full text Add to dashboard Cite

show abstract

“…-los riesgos y la responsabilidad sobre los contenidos generados de forma automatizada (Lewis et al, 2018; Chen y Wen; 2021); -la necesidad de regulación de las posibles aplicaciones, desde una perspectiva general de gobernanza (Túñez-López, 2021) o desde el punto de vista de fenómenos específicos como las deepfakes (Yadlin-Segal y Oppenheim, 2021); -la percepción de lo humano, y su implicación emocional con la audiencia a través de estas tecnologías (Gonzales, 2017;Shin, 2021); -las repercusiones sobre la profesión y el potencial impacto de la posibilidad de la reducción de tareas humanas ; -el papel de la IA en el ámbito de la desinformación, tanto los riegos de amplificación como las oportunidades para combatirla (Manfredi-Sánchez y Ufarte- Flores Vivar, 2019;Túñez López, 2021); -las crecientes diferencias en las habilidades que se requieren para gestionar esta nueva área de especialización y el potencial de los algoritmos para generar sesgos (Marconi, 2020;Ventura, 2021).…”

Section: Retos éTicos Entorno Al Uso Periodístico De La Inteligencia ...unclassified

Ética y uso periodístico de la inteligencia artificial. Los medios públicos y las plataformas de verificación como precursores de la rendición de cuentas en España

Sanahuja

Rabadán

2022

Estud. mensaje periodís.

View full text Add to dashboard Cite

La aplicación de la inteligencia artificial (IA) en el periodismo es una tendencia en desarrollo que afecta significativamente al modelo de producción y difusión periodístico. Como consecuencia, el uso de esta tecnología plantea diferentes retos éticos. En este contexto, la transparencia se sitúa como un principio clave para avanzar hacia un uso responsable de la IA por parte de los medios. El presente estudio analiza las webs corporativas y los blogs editoriales, principales espacios de rendición de cuentas, de nueve medios españoles vinculados a tres modelos profesionales diferentes: medios digitales, plataformas de verificación y entes públicos de radiotelevisión. Los resultados evidencian que ciertos medios públicos como RTVE están siendo precursores en la explicabilidad de su relación con la IA. Y por otra parte, el compromiso de las plataformas de verificación con la descripción de su metodología profesional favorece la transparencia sobre el uso que hacen de datos, algoritmos y automatizaciones.

show abstract

“…Este sería el escenario más desfavorable posible para la audiencia ya que la probabilidad de encontrar una mentira sería la misma que la de una verdad. De esta circunstancia ya alertaba la empresa de consultoría Gartner en 2019 cuando afirmaba que, en el plazo de dos años, "el público occidental consumirá más noticias falsas que verdaderas" (Flores-Vivar, 2019).…”

Section: Desinformación Con Imágenes En Medios Digitalesunclassified

Una nueva taxonomía del uso de la imagen en la conformación interesada del relato digital. Deep fakes e inteligencia artificial

Gómez-de-Ágreda

Feijóo

Salazar-García

2021

EPI

View full text Add to dashboard Cite

Cualquier confrontación pretende la imposición, siquiera parcial, de los criterios y la voluntad propios sobre los del adversario. En los últimos años, las tecnologías digitales y la ciencia de datos se han combinado para favorecer la aparición de nuevas formas de control del discurso y para establecer potentes campañas de desinformación que constituyen un nuevo tipo de conflicto con características digitales. Precisamente, a partir de la bibliografía disponible y del trabajo directo de los autores en diversos grupos de expertos, este artículo estudia el uso de las imágenes –reales, alteradas o generadas artificialmente por completo– estáticas o en movimiento como uno de los medios más eficientes para alterar las percepciones y, por lo tanto, los relatos dentro del denominado ámbito cognitivo. Para ello, el artículo recoge de forma ordenada y exhaustiva la más reciente doctrina del entorno militar y de inteligencia relativa a las llamadas “operaciones de influencia”, desde una doble perspectiva tecnológica y sociológica. A partir de aquí, determina las diferencias entre las técnicas de desinformación tradicionales y las que incorporan tecnologías digitales y de inteligencia artificial sobre imágenes. El artículo propone una nueva taxonomía de doble entrada que refleje el grado de manipulación de las imágenes y el objetivo que se persigue con la desinformación. Este puede ser un medio para identificar y priorizar los casos más relevantes y, de aquí, adoptar las correspondientes contramedidas. Éstas se examinan en detalle para concluir que sólo una combinación de transparencia, formación del consumidor, tecnología y legislación puede contrarrestar el creciente uso de imágenes con contenido falseado. Abstract Any confrontation seeks the (partial) imposition of one party’s will on an adversary. In recent years, digital technologies and data science have combined to create new ways of controlling the narrative and carrying out powerful information or disinformation campaigns that are part of a new type of warfare with digital characteristics. In particular, based on a literature review and the direct work of authors in different expert groups, this paper studies the use of either static or moving images (real, altered, or wholly artificially generated) as one of the most efficient means of altering perceptions and thereby narratives in the so-called cognitive domain. To this aim, this article collects in an orderly and exhaustive way the most recent military and intelligence doctrine related to such “influence operations,” from a dual technological–sociological perspective. Based on this, the paper determines the differences between traditional disinformation techniques and those incorporating digital and artificial intelligence technologies in the form of images and video. The paper proposes a new double-entry taxonomy that can display the degree of image faking and the objective of disinformation. This helps to identify and prioritize the most relevant cases and thus adopt the most appropriate countermeasures. These are also examined in detail, leading to the conclusion that only a combination of transparency, consumer education, technology, and regulation can counteract the increasing use of images and video with false content.

show abstract

Artificial intelligence and journalism: diluting the impact of disinformation and fake news through bots

Cited by 36 publications

References 2 publications

Bane and boon of hallucinations in context of generative AI

Bane and boon of hallucinations in context of generative AI

Ética y uso periodístico de la inteligencia artificial. Los medios públicos y las plataformas de verificación como precursores de la rendición de cuentas en España

Una nueva taxonomía del uso de la imagen en la conformación interesada del relato digital. Deep fakes e inteligencia artificial

Contact Info

Product

Resources

About