Retos y regulación de la inteligencia artificial: la toma de decisiones en los asuntos públicos y la Administración de Justicia

• Alessandro Mantelero ^[1]
  1. [1] Universidad Politécnica de Turín
• Localización: El Derecho Administrativo en la era de la inteligencia artificial: Actas del XVIII Congreso de la Asociación Española de Profesores de Derecho Administrativo. Vigo 25 a 27 de enero de 2024 / coord. por Patricia Valcárcel Fernández , Francisco Lorenzo Hernández González , 2025, ISBN 978-84-7351-805-5, págs. 609-628
• Idioma: español
• Enlaces
  • Texto Completo Libro (pdf)
• Resumen
  • español

    La inteligencia artificial (IA) ya forma parte de nuestra vidacotidiana y se utiliza cada vez más para dar forma a nuestra sociedad digitalimpulsada por los datos. Sin embargo, aún tiene algunas limitaciones, quepueden afectar negativamente a las personas y a la sociedad. En este sentido,las leyes que pretenden regular la IA deben abordar tres retos principales: lossesgos, la falta de transparencia y la naturaleza propietaria de las solucionesde IA.Para abordar estas cuestiones cada vez más decisivas y sus repercusiones enlos derechos y las libertades fundamentales, se han propuesto varias iniciativas.Una contribución eficaz al debate en este ámbito puede resultar de solucionescentradas en la integración de los derechos humanos y sus principios en eldiseño de la IA.Desde esta perspectiva, este capítulo se centra en dos ámbitos fundamentalesde aplicación de la IA: la toma de decisiones en asuntos públicos y la justiciadigital. En estos ámbitos, se examinarán los principios rectores y los límitesque debe respetar el uso de la IA para no vulnerar los derechos fundamentales.En este análisis también se destaca el papel de la nueva normativa europeasobre la inteligencia artificial, centrada en los riesgos y con especial énfasis enel impacto sobre los derechos fundamentales.

  • English

    Artificial intelligence (AI) is already part of our daily lives andis increasingly being used to shape our data-driven digital society. However,it still has some limitations, which can negatively affect people and society. Inthis sense, laws that seek to regulate AI must address three main challenges:bias, lack of transparency and the proprietary nature of AI solutions.To address these increasingly critical issues and their impact on fundamentalrights and freedoms, several initiatives have been proposed. An effective contribution to the debate in this area can result from solutions focused on theintegration of human rights and their principles in the design of AI.From this perspective, this chapter focuses on two fundamental areas of application of AI: decision-making in public affairs and digital justice. In theseareas, the guiding principles and limits that the use of AI must respect in ordernot to violate fundamental rights will be examined.This analysis also highlights the role of the new European regulations onartificial intelligence, focused on risks and with special emphasis on the impacton fundamental rights.

• Referencias bibliográficas
  • Agre, Philip E. (1994): «Surveillance and Capture: Two Models of Privacy», en The Information Society, núm. 10, pp. 101-127.
  • Brauneis, Robert y Goodman, Ellen P. (2018): «Algorithmic Transparency for the Smart City», en Yale J.L. & Tech., núm. 20, pp. 103-131.
  • Burrell, Jenna (2016): «How the Machine “Thinks”: Understanding Opacity in Machine Learning Algorithms», en Big Data & Society, núm. 3,...
  • Caruana, Rich et al. (2015): «Intelligible models for healthcare: predicting pneumonia risk and hospital 30-day readmission», en Proceedings...
  • Crawford, Kate y Joler, Vladan (2018): «Anatomy of an AI System: The Amazon Echo As An Anatomical Map of Human Labor, Data and Planetary Resources», http://www.anatomyof.ai.
  • European Union Agency for Fundamental Rights (2019): «Data Quality and Artificial Intelligence – Mitigating Bias and Error to Protect Fundamental...
  • Eykholt, Kevin et al. (2018): «Robust Physical-World Attacks on Deep Learning Visual Classification», en 2018 IEEE/CVF Conference on Computer...
  • Fjeld, Jessica et al. (2020): «Principled Artificial Intelligence: Mapping Consensus in Ethical and Rights-Based Approaches to Principles...
  • Graber, Christoph B. (2020): «Artificial Intelligence, Affordances and Fundamental Rights», en M. Hildebrandt y K. O’Hara (ed.), Life and...
  • Hagendorff, Thilo (2020): «The Ethics of AI Ethics: An Evaluation of Guidelines», en Minds and Machines, núm. 30, pp. 99-120.
  • Hildebrandt, Mireille (2019): «Privacy as Protection of the Incomputable Self: From Agnostic to Agonistic Machine Learning», en Theoretical...
  • Jobin, Anna et al. (2019): «The Global Landscape of AI Ethics Guidelines», en Nature Machine Intelligence, núm 1, 389-399.
  • Loideain, Nóra N. y Adams, Rachel (2020): «From Alexa to Siri and the GDPR: The Gendering of Virtual Personal Assistants and the Role of Data...
  • Mantelero, Alessandro (2016): «Personal Data for Decisional Purposes in the Age of Analytics: From an Individual to a Collective Dimension...
  • Mantelero, Alessandro (2022): «Beyond Data: Human Rights, Ethical and Social Impact Assessment in AI», The Hague, T.M.C. Asser Press-Springer.
  • Nickerson, Raymond S. (1998): «Confirmation Bias: A Ubiquitous Phenomenon in Many Guises», en Review of General Psychology, núm. 2, pp. 175-220.
  • Pasquale, Frank (2015): «The Black Box Society. The Secret Algorithms That Control Money and Information», Cambridge, MA, Harvard University...
  • Raso, Filippo et al. (2018): «Artificial Intelligence & Human Rights Opportunities & Risks». Berkman Klein Center for Internet &...
  • Selbst, Andrew D. (2017): «Disparate Impact in Big Data Policing», en Georgia Law Review, núm. 52 (1), pp. 109-163.
  • Tubaro, Paola et al. (2020): «The Trainer, the Verifier, the Imitator: Three Ways in Which Human Platform Workers Support Artificial Intelligence»,...
  • Veale, Michael y Binns, Reuben (2017): «Fairer machine learning in the real world: Mitigating discrimination without collecting sensitive...
  • West, Sarah M. et al. (2019): «Discriminating Systems. Gender, Race, and Power in AI», https://ainowinstitute.org/publication/discriminating-systems-gender-race-and-power-in-ai-2.