Los sistemas automatizados en el ordenamiento jurídico: tipos de programación, riesgos y control

• García Majado, Patricia ^[1]
  1. [1] Universidad de Oviedo

     Universidad de Oviedo

     Oviedo, España

     
• Localización: Revista de Derecho Político, ISSN 0211-979X, Nº 123, 2025, págs. 147-178
• Idioma: español
• DOI: 10.5944/rdp.123.2025.45504
• Títulos paralelos:
  • Jurisdiccional/automated systems in the legal order: Types of programs, risks and judicial review
• Enlaces
  • Texto completo
• Resumen
  • español

    El objeto de este trabajo es analizar qué papel desempeñan los sistemas automatizados, muchas veces confundidos con sistemas propiamente de inteligencia artificial, en el seno del ordenamiento jurídico. Tras estudiar sus características definitorias, se identifican dos tipos distintos de sistemas automatizados en función del objeto de su codificación: aquellos que tienen programación jurídica y aquellos que tienen programación científica o técnica. A partir de ahí, se analizan tanto las funciones que desempeñan como los riesgos jurídicos que cada uno de ellos particularmente entraña, poniéndose especial atención en el control jurisdiccional de las decisiones jurídicas adoptadas en base a ellos.

  • English

    The aim of this paper is to analyse the role played by automated systems, often confused with artificial intelligence, within the legal order. After studying their defining characteristics, two different types of automated systems are identified depending on the object of their codification: those that have legal programming and those that have scientific or technical programming. From there, both the functions they perform and the legal risks that each of them particularly entails are analyzed, paying special attention to the judicial review of the legal decisions adopted because of them.

    Summary: 1. BY WAY OF INTRODUCTION: AUTOMATED SYSTEMS VS. ARTIFICIAL INTELLIGENCE. 2. AUTOMATED LEGAL PROGRAMMING SYSTEMS. 2.1. Legal operations as a code. 2.2. The application of highly predetermined legal operations as a function. 2.3. Legal risks. a) Error in the computer translation of the standard. b) The computerization of binarity. 3. AUTOMATED SYSTEMS OF SCIENTIFIC OR TECHNICAL PROGRAMMING. 3.1. Scientific or technical knowledge as a code. 3.2. The formalization of technical knowledge as a function. 3.3. Legal risks. a) Incorrect or deficient technical assessments. b) The use of legally proscribed criteria. c) The automation bias. 4. BRIEF CONCLUSIONS.

• Referencias bibliográficas
  • ALEMÁN ARÓSTEGUI, L., «El uso RisCanvi en la toma de decisiones penitenciarias», Estudios penales y criminológicos, ISSN 1137-7550, núm. Extra...
  • ALEXY, R., Teoría de los derechos fundamentales, trad. E. Garzón Valdés, CEC, Madrid, 1993.
  • ANDRÉS PUEYO, A., «Predicción de la reincidencia penitenciaria en Cataluña por medio del RisCanvi», en ORTS BERENGUER, E., ALONSO RIMO, A.,...
  • ANDRÉS PUEYO, A., ARBARCH LUCIONI, K., REDONDO, S., «The RisCanvi: A New Tool for Assessing Risk for Violence in Prison and Recidivism», en...
  • AA.VV., «Manual de aplicación del Protocolo de valoración RisCanvi», elaborado por el la Secretaría de medidas penales, reinserción y atención...
  • BASTIDA FREIJEDO, F., «La soberanía borrosa: la democracia», en PUNSET BLANCO (Coord.): Soberanía y Constitución. Fundamentos. Cuadernos monográficos...
  • BING, J., «Computers and Law: Some beginnings», it-Information Technology, vol. 49, issue 2, 2007, pp. y ss.
  • BOIX PALOP, A., «Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas...
  • BOIX PALOP, A., «Transparencia y control del uso de la inteligencia artificial por las Administraciones Públicas», en BALAGUER CALLEJÓN, F.,...
  • CASTRO LIÑARES, D., Los instrumentos de valoración y gestión de riesgos en el modelo de penalidad español, Reus, Madrid, 2019
  • COTINO HUESO, L., CASTELLANOS CLARAMUNT, J., (Coords.), Transparencia y explicabilidad de la inteligencia artificial, Tirant lo Blanch, Valencia,...
  • COTINO HUESO, L., «Qué concreta transparencia e información de algoritmos e inteligencia artificial es la debida», Revista Española de la...
  • COTINO HUESO, L., «Caso Bosco, a la tercera tampoco va la vencida. Mal camino en el acceso los algoritmos públicos», Diario La Ley, núm.84,...
  • D'AMATO, A., «Can/Should Computers Replace Judges?», Georgia Law Review, vol.11, 1977, 1277-130.
  • DE FILIPPI, P., HASSAN, S., «Blockchain Technology as a Regulatory Technology: from Code is Law to Law is Code», First Monday, 2016.
  • DE FILIPPI, P., HASSAN, S ., «The Expansion of Algorithmic Governance: From Code is Law to Law is Code», Field Actions Science Reports Special...
  • DESDENTADO DAROCA, E., Los problemas del control judicial de la discrecionalidad técnica: (un estudio crítico de la jurisprudencia), Civitas,...
  • DÍAZ DÍEZ, C. A., «El conocimiento científico como criterio directivo de la actuación administrativa: un estudio de metodología aplicativa»,...
  • ESTEVE PARDO, J., El desconcierto del Leviatán. Política y Derecho ante las incertidumbres de la ciencia, Marcial Pons, Madrid, 2009.
  • EUBANKS, V., La automatización de la desigualdad. Herramientas de tecnología avanzada para supervisar y castigar a los pobres, Madrid, Capitán...
  • FERNÁNDEZ, T-R., «La discrecionalidad técnica: un viejo fantasma que se desvanece», Revista de Administración Pública, núm. 196, 2015
  • FRANKEL, M.E., Criminal Sentences: Law Without Order, New York, Hill and Wang, 1972.
  • GAMERO CASADO, E., «Sistemas automatizados de toma de decisiones en el Derecho Administrativo Español», Revista General de Derecho Administrativo,...
  • GARCÍA DE ENTERRÍA, E., FERNÁNDEZ RODRÍGUEZ, T.R., Curso de Derecho Administrativo I, Thomson Reuters – Aranzadi, Cizur Menor (Navarra), 2020.
  • GÓMEZ JIMÉNEZ, M. L., Automatización procedimental y sesgo electrónico: el procedimiento administrativo electrónico desde la inteligencia...
  • GONZÁLEZ ÁLVAREZ, J. L., LÓPEZ OSSORIO, J.J, MUÑOZ RIVAS, M., «La valoración policial del riesgo de violencia contra la mujer pareja en España...
  • GROSSMAN, G.S., SOLOMON, L., D., «Computers and legal reasoning», American Bar Association Journal, Vol. 69, No. 1, 1983, pp. 66-70.
  • HILDEBRANT, M., «Code-driven Law: Freezing the Future and Scaling the Past», en DEAKIN, S., MARKOU, C. (Eds.), Is Law Computable: Critical...
  • HUERGO LORA, A., «Una aproximación a los algoritmos desde el Derecho Administrativo», en HUERGO LORA, A. (Dir.), DÍAZ GONZÁLEZ, G. (Coord.),...
  • HUERGO LORA, A., «El derecho de transparencia en el acceso a los códigos fuente», en Anuario de Transparencia Local, 5/2022, Fundación Democracia...
  • HUERGO LORA, A., «Inteligencia artificial: una aproximación jurídica no catastrofista», Revista Española de Control Externo, vol. XXV, n.º...
  • HUERGO LORA, A., «Inteligencia artificial y sanciones administrativas», Anuario de Derecho Administrativo Sancionador, 2023, pp. 275 y ss.
  • IGARTUA SALAVERRÍA, J., Discrecionalidad técnica, motivación y control jurisdiccional, Civitas-IVAP, 1998.
  • KAZIM, T., TOMLINSON, J., «Automation Bias and the Principles of Judicial Review», Judicial Review, Vol. 28, issue 1, 2023, pp.1 y ss.
  • KELSEN, H., Teoría pura del Derecho, 1ª ed., 2ª reimp., trad. R. J. Vernego, UNAM, México, 1982.
  • KELSEN, H., KLÜG, U., Normas jurídicas y análisis lógico, trad. J. Carlos Gardella, CEC, Madrid, 1988.
  • KLUG, U., Lógica jurídica, trad. J.D., García Bacca, Universidad Central de Venzuela, Caracas, 1961.
  • KRIELE, M., Introducción a la teoría del Estado. Fundamentos históricos de la legitimidad del Estado constitucional democrático, trad. E....
  • LESSIG, L., Code and Other Laws of Cyberspace, Basic Books, 1999
  • LOEVINGER, L., «Jurimetrics – The Next Step Forward», Minnesota Law Review, vol. 3, issue 5, 1948, pp. 455 y ss.
  • LUHMANN, N., Sistemas sociales. Lineamientos para una teoría general, trad. S. Pappe y B. Erker, Anthropos, Barcelona, 1998.
  • LUHMANN, N., La légitimation par la procédure, trad. L. K. Sosoe y S. Bouchard, Les presses de l’Université de Laval, Canada, 2001, pp. 20...
  • MADRID PÉREZ, A., «El uso de sistemas predictivos automatizables en la actividad decisional de las autoridades públicas: aportaciones para...
  • MARTÍN DELGADO, I., «Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada», Revista de Administración Pública,...
  • MARTÍNEZ GARAY, L., MONTES SUAY, F., «El uso de valoraciones del riesgo de violencia en Derecho Penal: algunas cautelas necesarias», InDret,...
  • MARTÍNEZ GARAY, L., «Problemas conceptuales y de comunicación en la evaluación del riesgo de reincidencia y su aplicación al sistema penal:...
  • MARTÍNEZ GARAY, L., (Coord.), «Three predictive policing approaches in Spain: Viogén, RisCanvi and Veripol», disponible aquí: https://regulation.blogs.uv.es/files/2024/05/Three-predictive-policing-perspectives-web-17.06.24.pdf...
  • MEDINA GUERRERO, M., «El derecho a conocer los algoritmos utilizados en la toma de decisiones. Aproximación desde la perspectiva del derecho...
  • MERINO MERCHÁN, J. F., «Modelo algorítmico en un sistema "K” de legalidad ordinaria (Ensayo de normología)», Revista De Las Cortes Generales,...
  • MONTESINOS GARCÍA, A., «Los algoritmos que valoran el riesgo de reincidencia: En especial, el sistema Viogen», Revista de derecho y proceso...
  • NIBLETT, B., Computer Science and Law, Cambridge University Press, Cambridge, 1980
  • PALMA ORTIGOSA, A., Decisiones automatizadas y protección de datos, Especial atención a los sistemas de inteligencia artificial, Dykinson,...
  • PARASURAMAN, R., RILEY, V., «Humans and automation: Use, misuse, disuse, abuse»», Human Factors, vol.39, issue 2, 1997, pp. 230–53
  • PÉREZ LUÑO, Cibernética, informática y derecho (un análisis metodológico), Bolonia, 1976.
  • PONCE SOLÉ, J., «Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido...
  • PRESNO LINERA, M.A., «La propuesta de “Ley de Inteligencia Artificial” europea», Revista de las Cortes Generales, núm.116, 2023, pp. 81 y...
  • PRESNO LINERA, M.A., «Policía predictiva y prevención de la violencia de género: el sistema VioGén», Revista de Internet, Derecho y Política,...
  • RODRÍGUEZ ÁLVAREZ, J., «Tecnología y discriminación: el sesgo de automatización en la praxis jurídica», en RODRÍGUEZ SÁNCHEZ, A. TALAVERA...
  • RUSCHEMEIER, H., HONDRICH, L., «Automation bias in public administration – an interdisciplinary perspective from law and psychology», pp.1...
  • SAN MARTÍN SEGURA, D., «Prevención algorítmica de la violencia de género: la discrecionalidad policial como decisión tecnológica en el contexto...
  • SKITKA, L. J., MOSIER, K. L., BURDICK, M., «Does automation bias decision-making?» International Journal of Human-Computer Studies, vol.51,...
  • SORIANO, A., «Decisiones automatizadas y discriminación: aproximación y propuestas generales», Revista General de Derecho Administrativo,...
  • SORIANO, A., «El uso de la inteligencia artificial en la selección y gestión del personal de las administraciones públicas», Documentación...
  • OSTER, J., «Code is code and law is law – the law of digitalization and the digitalization of law», International Journal of Law and Information...
  • SOLOMON, H., «Jurimetrics», Jurimetrics Journal, vol. 8, issue 3, 1968, pp. 7 y ss.
  • SURDEN, H., «Computable Law and AI», en LIM, E., MORGAN, P., The Cambridge Handbook of Private Law and Artificial Intelligence, Cambridge...
  • TAHIRI MORENO, J., «El principio de presunción de falibilidad de las decisiones algorítmicas desfavorables. Una nueva garantía jurídica frente...
  • VALERO TORRIJOS, J., «El régimen jurídico de la e-Administración. El uso de los medios informáticos y telemáticos en el procedimiento administrativo...
  • VEALE, M., BRASS, I., «Administration by Algorithm? Public Management Meets Public Sector Machine Learning», en YEUNG, K., LODGE, M. (Eds.),...
  • VESTRI, G., «La inteligencia artificial ante el desafío de la transparencia algorítmica: Una aproximación desde la perspectiva jurídico-administrativa»,...
  • VESTRI, G., «El acceso a la información algorítmica a partir del caso bono social vs. Fundación Ciudadana Civio», Revista General de Derecho...
  • VON FOERSTER, H., Understanding Understanding: Essays on Cybernetics and Cognition, Springer, New York, 2003
  • ZALNIEURIUTE, M., BENNETT MOSSES, L., WILLIAMS, G., «The Rule of Law and Automation of Government Decision-Making», Modern Law Review, vol....