Gobernanza de la inteligencia artificial en la Unión Europea. La construcción de un marco ético-jurídico aún inacabado.

• Autores: Juan Carlos Hernández Peña
• Localización: Revista General de Derecho Administrativo, ISSN-e 1696-9650, Nº. 56, 2021
• Idioma: español
• Títulos paralelos:
  • Governance of artificial intelligence in the European Union. The development of an unfinished legal-ethical framework
• Texto completo no disponible (Saber más ...)
• Dialnet Métricas: 2 Citas
• Resumen
  • español

    Este trabajo da cuenta de la creación del marco de gobernanza de la inteligencia artificial en la Unión Europea, bajo un trinomio fundado en normas éticas, estandarización y regulación Hard-Law. Se abordan en un primer momento algunas iniciativas bottom-up y top-down que han influido en la respuesta comunitaria. Posteriormente se examina la novedosa política comunitaria de gobernanza de la inteligencia artificial, las incipientes estructuras de apoyo para la construcción de este marco, y se hace una valoración crítica de los tres instrumentos sobre los que se asienta la respuesta de la UE al reto de la IA: el marco ético dirigido a promover un estándar global; el proceso de normalización dirigido a facilitar el desarrollo técnico y promover un estándar elevado de protección de consumidores y usuarios; y, finalmente el inacabado marco normativo de Hard-Law, que exige una decidida intervención comunitaria para conjurar riesgos y garantizar el desarrollo armónico del mercado de datos y de la IA en Europa.

  • English

    This study provides an account of the creation of the governance framework for artificial intelligence in the European Union, under a trinomial approach based on ethical rules, standardization and Hard-Law regulation. Initially, some bottom-up and top-down initiatives are addressed, which have influenced the Community response. Subsequently, it examines the novel Community policy of governance of artificial intelligence, the incipient support structures for the construction of this framework, and makes a critical assessment of the three instruments on which the EU's response to the AI challenge is based: the ethical framework which aims at the promotion of a global standard; the standardisation process, which seeks to facilitate technical development and promote a high standard of consumer and user protection; and finally, the unfinished regulatory framework of Hard-Law, which requires strong EU intervention to overcome risks and ensure the harmonious development of the data market and AI market across Europe.

• Referencias bibliográficas
  • ABBOT, K. y SNIDAL, D., “Hard and Soft Law in International Governance”, en International Organization, Num. 54(3), 2000, pp. 434-450.
  • Álvarez García, V., “La confirmación por parte del Tribunal de Justicia de la Unión Europea de la capacidad normativa de los sujetos privados...
  • Álvarez García, V., La normalización industrial, Tirant lo blanch, Valencia, 1999
  • Anderson, R. E., et al., “Using the New ACM Code of Ethics in Decision Making”, en Communications of the ACM, Núm. 36(2), 1993, pp. 98–107.
  • Asaro, P., “On banning autonomous weapon systems: Human rights, automation, and the dehumanization of lethal decision-making”, en International...
  • Boddington, P., Towards a Code of Ethics for Artificial Intelligence, Springer, Cham, 2017, pp. 104-105.
  • Boden, M. A., AI. It`s Nature and Future, Oxford University Press, Oxford, 2016, p. 2.
  • Boix Palop, A., “Los algoritmos son reglamentos: La necesidad de extender las garantías propias de las normas reglamentarias a los programas...
  • Bundesregierung, Strategie Künstliche Intelligenz, p. 38.
  • Canals Ametller, D., El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales...
  • Castro, D. y McLaughlin, M., Ten Ways the Precautionary Principle Undermines Progress in Artificial Intelligence, ITIF, 2019.
  • Cerrillo i Martínez, A., “El derecho para una inteligencia artificial centrada en el ser humano y al servicio de las instituciones”, Revista...
  • Cerrillo i Martínez, A., “El impacto de la inteligencia artificial en el derecho administrativo ¿Nuevos conceptos para nuevas realidades técnicas?”,...
  • Cerrillo i Martínez, A., “How can we open the black box of public administration? Transparency and accountability in the use of algorithms”,...
  • Christof, K. “Dehumanization in organizational settings: Some scientific and ethical considerations”, en Frontiers in Human Neuroscience,...
  • Cihon, P. “Standards for AI Governance: International Standards to Enable Global Coordination in AI Research & Development”, Technical...
  • Comisión Europea, Libro blanco sobre inteligencia artificial - Un enfoque europeo orientado hacia la excelencia y la confianza, COM(2020)...
  • Commission Staff Working Document, “Evaluation of the Machinery Directive” SWD(2018) 161 final.
  • Commission Staff Working Document: Liability for emerging digital technologies, SWD (2018) 137 final, pp. 24-29.
  • Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of...
  • Comunicación “The principles of subsidiarity and proportionality: Strengthening their role in the EU's policymaking”, COM(2018) 703 final.
  • Comunicación de la Comisión “Completing a trusted Digital Single Market for all”, COM(2018) 320 final, de 15 de mayo de 2018.
  • Comunicación de la Comisión “ICT Standardisation Priorities for the Digital Single Market”, COM (2016) 176 final, p. 12-14.
  • Comunicación de la Comisión relativa a la revisión intermedia de la aplicación de la Estrategia para el Mercado Único Digital Un mercado único...
  • Comunicación de la Comisión, de 25 de julio de 2001, <> COM (2001) 428final.
  • Comunicación de Sibiu, European Commission's contribution to the informal EU27 leaders' meeting in Sibiu, 9 de mayo de 2019, p. 31.
  • Cotino Hueso, L. “Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde...
  • Cotino Hueso, L., “Big data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales”, en Dilemata,...
  • Cotino Hueso, L., “Riesgos e impactos del big data, la inteligencia artificial y la robótica. Enfoques, modelos y principios de la respuesta...
  • Dalton-Brown, S., “The Ethics of Medical AI and the Physician-Patient Relationship”, en Cambridge Quarterly of Healthcare Ethics, Núm. 29(1),...
  • Darnaculleta I Gardella, M. M., Autorregulación y Derecho público: La autorregulación regulada, Marcial Pons, Madrid, 2004
  • De La Sierra, Susana, “Inteligencia artificial y justicia administrativa: Una aproximación desde la teoría del control de la Administración...
  • Delcker, J., “US to endorse new OECD principles on artificial intelligence”, Publico, 23 de mayo de 2019.
  • Directiva (UE) 2016/1148 del Parlamento Europeo y del Consejo, de 6 de julio de 2016, relativa a las medidas destinadas a garantizar un elevado...
  • Directiva 2000/43/CE del Consejo, de 29 de junio de 2000, relativa a la aplicación del principio de igualdad de trato de las personas independientemente...
  • Eliantonio, M. “Judicial control of the EU harmonized standards: Entering a black hole?”, en Legal Issues of Economic Integration, 44(4),...
  • Eliantonio, M. y Medzmariashvili, M., “Hybridity under scrutiny: How European standardization shakes the foundations of EU constitutional...
  • EPSC, “Study supporting the interim evaluation of the innovation principle. Final report”, pp. 39-40.
  • EPSC, “Towards an Innovation Principle Endorsed by Better Regulation”, 30 de junio de 2014.
  • Esteve Pardo, J., El desconcierto del Leviatán. Política y Derecho ante la incertidumbre de la ciencia, Marcial Pons, 2009.
  • European Group on Ethics in Science and New Technologies, Statement on Artificial Intelligence, Robotics and ‘Autonomous’ Systems, Comisión...
  • Floridi, L. y Cowls, J. “A Unified Framework of Five Principles for AI in Society”, en Harvard Data Science Review, Núm. 1(1), 2019, p. 5...
  • Fosh Villaronga, E., Towards a legal and ethical framework for personal care robots. Analysis of person carrier, physical assistant and mobile...
  • Garnett, K., Van Calster, G. y Reins, L., “Towards an innovation principle: An industry trump or shortening the odds on environmental protection?’”,...
  • Goodfellow, I. J., Shlens, J. y Szegedy, C., “Explaining and harnessing adversarial examples”, en 3rd International Conference on Learning...
  • Green, D., et. al, “Better, Nicer, Cleaner, Fairer: A Critical Assessment of the Movement for Ethical Artificial Intelligence and Machine...
  • Grupo de Expertos sobre Responsabilidad y Nuevas Tecnologías, Expert Group on Liability and New Technologies – New Technologies Formation,...
  • Guillory, J. E. et al., “Experimental evidence of massive scale emotional contagion through social networks”, en Proceedings of the National...
  • Hagendorff, T., “The Ethics of AI Ethics: An Evaluation of Guidelines”, en Minds and Machines, Núm. 20, 2020, p. 1
  • Hernández P., J.C., Decisiones algorítmicas de perfilado: régimen y garantías jurídicas, REDA, núm. 203, 2020, p. 281 y ss.
  • Hernández Peña, J.C. Campañas electorales big data y perfilado ideológico. aproximación a su problemática desde el derecho fundamental a la...
  • Hernández Peña, J.C., “Human Rights and Technological Discrimination: The Role of Human Dignity in the Case of Algorithmic Discrimation”,...
  • Hernández Peña, J.C., “Inteligencia artificial y machine learning en el sector financiero. Experiencias y algunos problemas regulatorios del...
  • informe del European Parliamentary Research Service, “Cost of non Europe in robotics and artificial intelligence. Liability, insurance and...
  • Jabłonowska, A., et al., “Consumer Law and artificial intelligence challenges to the EU consumer law and policy stemming from the business’...
  • Jagielski, M. et al, "Manipulating Machine Learning: Poisoning Attacks and Countermeasures for Regression Learning," en 2018 IEEE...
  • Joint Research Centre, Artificial Intelligence. A European perspective, 2018, pp. 45 y ss.
  • Liu, Yingqi, et al., "Trojaning Attack on Neural Networks" (2017), Purdue University, Department of Computer Science Technical Reports,...
  • Marcussen, M., “The Organization for Economic Cooperation and Development as ideational artist and arbitrator”, en Reinalda, B. y Verbeej,...
  • Martens, K. y Jakobi, A., “Introduction: The OECD as an Actor in International Politics”, en Martens, K. y Jakobi, A. (Edit.), Mechanisms...
  • McNamara, A., et al., “Does ACM’s code of ethics change ethical decision making in software development?”, en ESEC/FSE 2018 - Proceedings...
  • Miailhe, N., et. al, Geopolítica de la inteligencia artificial, en Política Exterior, Vol. 34, Núm. 193, 2020, pp. 56 y ss.
  • Mittelstadt, B., “Principles alone cannot guarantee ethical AI”, en Nature Machine Intelligence, Springer US, Núm. 1(11), 2019, pp. 501 y...
  • Mohr, A., et. al, “Mapping the role of official bioethics advice in the governance of biotechnologies in the EU: The European Group on Ethics’...
  • Moles I Plaza, R., Derecho y calidad. El régimen jurídico de la normalización técnica, Ariel, Barcelona, 2001
  • Moosavi-Dezfooli, S. M., Fawzi, A. y Frossard, P. “DeepFool: A Simple and Accurate Method to Fool Deep Neural Networks’” en Proceedings of...
  • OCDE, “Scoping the OEDC AI Principles. Deliberations of the Expert Group On Artificial Intelligence at the OEDC (AIGO)”, OECD Digital Economy...
  • OECD, Artificial Intelligence in Society, OECD Publishing, Paris, 2019, p. 122-124.
  • Organización Europea de Consumidores “Precautionary principle under attack: please delete so-called ‘Innovation Principle’ from Horizon Europe...
  • Pasquale, F. The Black Box Society. The Secret Algorithms that Control Money and Information. Harvard University Press, Cambridge, 2015
  • Piñar Mañas, J. L., “Inteligencia artificial: técnica, ética y derecho”, en Escritura Pública, Núm. 118, 2019, p.41
  • Poggio, T., Liao, Q. y Banburski, A. “Complexity control by gradient descent in deep networks”, en Nature Communication, Núm. 11(1027), 2020.
  • PONCE SOLÉ, J., “El Derecho administrativo del Siglo XXI”, en Revista General de Derecho administrativo, Núm. 52, octubre, 2019, pp. 18 y...
  • Ponce Solé, J., “Inteligencia artificial, derecho administrativo y reserva de humanidad: Algoritmos y procedimiento administrativo debido...
  • Real Decreto-ley 12/2018, de 7 de septiembre, de seguridad de las redes y sistemas de información.
  • Russell, S. y Norvig, P. Artificial Intelligence. A Modern Approach, Pearson, tercera edición, Essex, 2016, p. 1-2, r
  • Sancho López, M., “Estrategias legales para garantizar los derechos fundamentales frente a los desafíos del Big Data”, en Revista General...
  • Sarasibar, M., “La Cuarta Revolución Industrial: El Derecho Administrativo ante la inteligencia artificial”, en Revista Vasca de Administración...
  • Schapel, H., ‘The New Approach to the New Approach: The Juridification of Harmonized Standards in EU Law’, en Maastricht Journal of European...
  • Schepel, H., The Constitution of Private Governance: Product Standards in the Regulation of Integrating Markets, Hart, Portland, 2005.
  • Tarres Vives, M. Normas técnicas y ordenamiento jurídico, Tirant lo blanch, Valencia, 2003
  • Veale, M. “A Critical Take on the Policy Recommendations of the EU High-Level Expert Group on Artificial Intelligence”, en European Journal...
  • Vergara Calle, O., Método y razón práctica en la ética biomédica, Comares, Granada, 2018, pp. 7 y ss.
  • Von der Leyen. “A Union that strives for more: My agenda for Europe”, p.13.
  • Whittaker, M. et al., “Disability, Bias, and AI”, AI Now, 2019.
  • Zuiderveen Borgesius, F., “Discrimination, artificial intelligence, and algorithmic decision-making”, Council of Europe, Directorate General...