Acceso usuarios
Carlos Alberto Ávila Araújo
Introducción: En los últimos años, para combatir los ataques contra tendencias como la desinformación, el discurso de odio y las teorías de la conspiración, se ha propuesto el concepto de integridad de la información en organizaciones internacionales multilaterales como la ONU y el G20. Sin embargo, los impactos derivados de la reciente popularización de las herramientas de inteligencia artificial generativa (IAG) aún no se encuentran reflejados en los documentos que presentan el concepto. Objetivo: Este estudio busca analizar en qué medida los problemas y desafíos que plantea la IAG impactan la promoción de la integridad de la información. Metodología: El estudio se realizó utilizando documentos institucionales producidos en los últimos años como objeto de estudio. Entre los diversos elementos que conforman el concepto, se seleccionaron sus tres principios fundamentales: precisión, coherencia y fiabilidad. Para el análisis crítico de estos principios, se utilizó la teoría de la acción comunicativa de Jürgen Habermas. Tras un análisis de investigaciones recientes sobre IAG, se identificaron y sistematizaron algunos de los riesgos y problemas que esta genera, y se analizaron a la luz de la teoría de Habermas, correlacionándolos con los tres principios de la integridad de la información. Resultados: En los últimos años, la popularización del uso de la inteligencia artificial generativa (IAG) ha planteado nuevos desafíos para la promoción de la integridad de la información. Específicamente, en relación con los tres principios, la IA ha generado aspectos como un mayor desinterés por la verdad, la vulneración de las autoridades cognitivas, la opacidad de los criterios de producción de contenido, la discriminación algorítmica, la complejidad de los procesos para distinguir la verdad de la falsedad y la vulneración de las autoridades cognitivas. Conclusión: La IAG ha aportado varios aspectos positivos, como la optimización del tiempo, una mayor eficiencia y el acceso a grandes cantidades de contenido. Al mismo tiempo, ha generado evidencia que amenaza la integridad de la información y, en consecuencia, la ciencia, la democracia, la protección del medio ambiente y la salud pública. Se cree que es posible desarrollar nuevas formas de mediación de la información para garantizar ecosistemas informativos más saludables, seguros e inclusivos. Por lo tanto, es necesario considerar los problemas que plantea la inteligencia artificial generativa en los documentos y acciones que promueven la integridad de la información.
En els darrers anys, per combatre els efectes nocius de fenòmens com la desinformació, els discursos d'odi i les teories de la conspiració, s'ha proposat el concepte d'integritat de la informació. Formulat en el marc d'organitzacions internacionals multilaterals com l'ONU i el G20, el concepte té diversos elements, entre els quals destaquen els seus tres principis bàsics: precisió, consistència i fiabilitat. En els darrers anys, la popularització de l'ús d'eines d'intel·ligència artificial generativa ha comportat nous reptes per a la promoció de la integritat de la informació. Concretament, pel que fa als tres principis, la IA ha aportat aspectes com l'augment del desinterès per la veritat, les autoritats cognitives compromeses, l'opacitat dels criteris de producció de contingut, la discriminació algorítmica, la complexificació dels processos per distingir la veritat de la falsedat i les autoritats cognitives compromeses. En aquest text, s'analitzen aquests elements, utilitzant com a referència la teoria de l'acció comunicativa de Jürgen Habermas. Es conclou que les qüestions plantejades per la intel·ligència artificial generativa s'han d'incloure en documents i accions que promouen la integritat de la informació.
Introduction: In recent years, to combat attacks against trends such as disinformation, hate speech, and conspiracy theories, the concept of information integrity has been proposed within multilateral international organizations such as the UN and the G20. However, the impacts brought about by the recent popularization of generative artificial intelligence (GAI) tools are not yet present in the documents that present the concept. Objective: This study seeks to analyze to what extent the issues and challenges brought about by GAI impact the promotion of information integrity. Methodology: The study was conducted using institutional documents produced in recent years as its object. Among the various elements that make up the concept, its three fundamental principles were chosen: accuracy, consistency, and reliability. For the critical analysis of these principles, Jürgen Habermas’s theory of communicative action was used. Following an analysis of recent research on GAI, some of the risks and problems brought about by GAI were identified and systematized, and analyzed in light of Habermas’s theory, correlated with the three principles of information integrity. Results: In recent years, the popularization of the use of generative artificial intelligence (GAI) has brought new challenges to the promotion of information integrity. Specifically, regarding the three principles, AI has brought aspects such as increased disinterest in truth, compromised cognitive authorities, opacity of content production criteria, algorithmic discrimination, complexity of processes to distinguish truth from falsehood, and compromised cognitive authorities. Conclusion: GAI has brought several positive aspects, such as time optimization, increased efficiency, and accessibility to large amounts of content. At the same time, it has brought evidence that threatens information integrity and, consequently, science, democracy, environmental protection, and public health. It is believed that new forms of information mediation are possible to ensure healthier, safer, and more inclusive information ecosystems. Thus, the issues raised by generative artificial intelligence need to be considered in documents and actions that promote information integrity.
