Decisiones algorítmicas de perfilado: Régimen y garantías jurídicas

• JUAN CARLOS HERNÁNDEZ ^[1]
  1. [1] Universidad de Navarra

     Universidad de Navarra

     Pamplona, España

     
• Localización: Revista española de derecho administrativo, ISSN 0210-8461, Nº 203, 2020, págs. 281-322
• Idioma: español
• Texto completo no disponible (Saber más ...)
• Dialnet Métricas: 6 Citas
• Resumen
  • español

    Las decisiones algorítmicas de perfilado van cobrando una importancia creciente debido a la utilización de técnicas de Big Data e Inteligencia Artificial. El Reglamento General de Protección de Datos apuntala su regulación a partir de un enfoque basado en derechos. En este artículo se aborda esta regulación analizando, en primer término, que debemos entender por tales decisiones, qué elementos estructurales deben guiar la respuesta regulatoria, y los principios más relevantes. Posteriormente se hace un análisis del régimen y alcance de los derechos que asisten a los particulares en la salvaguarda de sus derechos e intereses, prestando atención a aquellos que resultan especificos para las decisiones de perfilado como el derecho a no ser objeto de decisiones automáticas de perfilado, er'"derecho a la intervención humana y el derecho a la explicación.

  • English

    Algorithmic profiling decisions are becoming increasingly important due to the use of Big Data and Artificiallntelligence techniques. The General Data Protection Regulation establishes a general regulation with a right-based approach. This article examines this regulation, analyzing in the first place what we should understand by such decisions, what structural elements should guide the regulatory response, and the most relevant principies. Subsequently, an analysis of the regime and scope of the rights that assist individuals in safeguarding their rights and interests is made, paying attention to those that are specific to profiling decisions such as the right to not be the subject of automatic profiling decisions, the right to human intervention and the right to explanation.

• Referencias bibliográficas
  • ALEXY, R., El concepto y la validez del Derecho, Gedisa, Barcelona, 1997.
  • ARENAS RAMIRO, M., “Artículo 15. Derecho de acceso”, en TRONCOSO REIGADA, A. (Dir.), Comentario a la Ley Orgánica de Protección de datos de...
  • ARNUK, S.L. & SALUZZI, J.C., Broken markets. How High Frequency Trading and Predatory Practices on Wall Street are Destroying Investor...
  • BANTERLE, F., “The Interface Between Data Protection and IP Law: The Case of Trade Secrets and the Database Sui Generis Right in Marketing...
  • BATHIA, S., “Credit Scoring using Machine Learning Techniques”, en International Journal of Computer Applications, Volumen 161, No 11, 2017.
  • BERK, R., Machine Learning Risk Assessments in Criminal Justice Settings, Springer, Cham, 2019.
  • BOSCO, F., et. al, “Profiling Technologies and Fundamental Rights. An Introduction”, en CREEMERS, N., et.al (ed.), Profiling Technologies...
  • BURRELL, J., “How the machine ‘thinks’: Understanding opacity in machine learning algorithms”, en Big Data & Society, 2016.
  • CANALS AMETLLERS, D., “El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales...
  • CERRILLO I MARTÍNEZ, A., “El impacto de la inteligencia artificial en el Derecho administrativo ¿Nuevos conceptos para nuevas realidades técnicas?”,...
  • CLARKE, R., “Profiling: A Hidden Challenge to the Regulation of Data Surveillance”, en Journal of Law, Information and Science, Volumen 4,...
  • COGLIANESE, C. & LEHR, D., “Regulating by Robot: Administrative Decision Making in the Machine-Learning Era”, 105 Geo. L.J. 1147, 2017.
  • COTINO HUESO, L., “Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. enfoques, modelos y principios de la respuesta...
  • EDWARDS, L. y VEALE, M., “Enslaving the algorithm: from a ‘right to an explanation’ to a ‘right to better decisions’?”, en IEEE Security &...
  • FERGUSON, A.G., “Policing predicitive policing”, en Washington University Law Review, 94(5), 2017.
  • GARRIGA DOMINGUEZ, A. “La elaboración de perfiles y su impacto en los derechos fundamentales. Una primera aproximación a su regulación en...
  • GARRIGA DOMÍNGUEZ, A., Tratamiento de datos personales y derechos fundamentales, segunda edición, Dykinson, Madrid, 2009.
  • GHANI, R. y SCHIERHOLZ, M., “Machine Learning”, en FOSTER, Ian, et.al, Big Data and Social Science. A practical Guide to Methods and Tools,...
  • GONZÁLEZ FUSTER, G., “Profiling in the European Union: A High-Risk Practice”, INEX Policy Brief, No. 10, 2010.
  • GOODMAN, B. y FLAXMAN, S., European Union regulations on algorithmic Decision-making and a “right to explanation”, en AI Magazine, Vol. 38,...
  • GREENFIELD, A., Everyware: The Dawning Age of Ubiquitous Computing, New Riders, Berkeley, 2006.
  • GRUS, J., Data Science from Scratch, O’Reilly, Sebastopol, 2015.
  • GUILLORY, J. E. et al., Experimental evidence of massive scale emotional contagion through social networks. Proceedings of the National Academy...
  • HERNÁNDEZ LÓPEZ, J.M., El Derecho a la protección de Datos Personales en la Doctrina del Tribunal Constitucional, Thomson Reuters-Aranzadi,...
  • HERNÁNDEZ, J. C., El régimen jurídico-administrativo de las concentraciones de empresas en el Derecho comunitario, Thomson Reuters Aranzadi,...
  • HIJMANS, H., The European Union as Guardian of Internet Privacy, Springer, Berlin, 2016.
  • HILDEBRANDT, M., “The New Imbroglio - Living with Machine Algorithms”, en Janssens, L. (ed.), The Art of Ethics in the Information Society:...
  • HILDEBRANT, M., “Defining Profiling: A New Typo of Knowledge?”, en Hildebrant M., y Gutwirth, S., Profiling the European Citizen: Cross-Disciplinary...
  • JONES, M. L. “The right to a human in the loop: Political constructions of computer automation and personhood”, en Social Studies of Science,...
  • JOSHI, P., Artificial Intelligence with Python, Packt, Birmingham, 2017.
  • KEATS CITRON, D., “Technological Due Process”, en Washington University Law Review, 85(6), 2008.
  • KORF, D., Data protection laws in the EU: The difficulties in meeting the challenges posed by global social and technical developments, European...
  • LUCAS MURILLO, P., El derecho a la autodeterminación informativa, Tecnos, Madrid, 1990;
  • SERRANO PÉREZ, M. M., El derecho fundamental a la protección de datos. Derecho español y comparado, Thomson-Civitas, 2003.
  • LUND, J., New legal framework for predictive policing in Denmark, EDRi, 2017.
  • MacCORMICK, J., Nine Algorithms That Changed the Future: The Ingenious Ideas That Drive Today's Computers, Princeton University Press,...
  • MORTIER R, et, al., “Human-data interaction: the human face of the data-driven society”, 2014.
  • MOURBY, M., et. al, “Are ‘pseudonymised’ data always personal data? Implications of the GDPR for administrative data research in the UK” en...
  • MUNOZ, C., SMITH, M. & PATIL, D., Big Data: A Report on Algorithmic Systems, Opportunity, and Civil Rights Big Data: A Report on Algorithmic...
  • OSOBA, O. y WELSER, W.I., An Intelligence in Our Image: The Risks of Bias and Errors in Artificial Intelligence, RAND, 2017.
  • PALMA ORTIGOSA, A., “Decisiones automatizadas en el RGPD. El uso de algoritmos en el contexto de la protección de datos”, en Revista General...
  • PARASURAMAN, R. & RILEY, V., “Humans and Automation: Use, Misuse, Disuse, Abuse”, en Human Factors: The Journal of the Human Factors and...
  • PASQUALE, F., The Black Box Society. The Secret Algorithms That Control Money and Information, Cambridge, Harvard University Press, 2015.
  • PENTLAND, A. “The Data-Driven Society”, en Scientific American, 79, 2013.
  • PETKOVA, B. y BOECHM, F., “Profiling and the essence of the right to data protection”, en Selinger, E., Polonetsky, J., & Tene O., (Eds.),...
  • PIÑAR MAÑAS, J. (Dir), ÁLVAREZ CARO, M. (Coord.), RECIO GALLO, M. (Coord.), Reglamento general de protección de datos, Editorial Reus, Madrid,...
  • PIÑAR MAÑAS, J. L., El derecho a la protección de datos en la jurisprudencia del Tribunal de Justicia de la Unión Europea, Wolters Kluwer,...
  • PODESTA, J. et al., Big Data: Seizing Opportunities. Executive Office of the President of USA, 2014.
  • PONCE SOLÉ, J., “Inteligencia artificial, Derecho administrativo y reserva de humanidad: Algoritmos y procedimiento administrativo debido...
  • RALLO LOMBARTE, A. y GARCÍA MAHAMUT, R. (Coords.), Hacia un nuevo derecho europeo de protección de datos, Tirant lo Blanch, Valencia, 2015.
  • REBOLLO DELGADO, Lucrecio, Derechos fundamentales y protección de datos, Dykinson, Madrid, 2004.
  • REYZIN, L., Unprovability comes to machine learning, Nature, vol. 565, enero, 2019.
  • SCHMIDT-ASSMANN, E., “El procedimiento administrativo entre el principio del Estado de Derecho y el principio democrático. Sobre el objeto...
  • SKITKA, L.J. et al., “Automation bias and errors: Are crews better than individuals?”, en The International Journal of Aviation Psychology,...
  • SKITKA, L.J. et al., “Does automation bias decision-making?”, en International Journal of Human-Computer Studies, 51(5), 1999.
  • TRONCOSO REIGADA, A. (Dir.), Comentario a la Ley Orgánica de Protección de Datos, Thomson Reuters, Cizur Menor, 2010.
  • VOIGT, P. y VON DEM BUSSCHE, A., The Eu Data Protection Regulation (GDPR). A Practical Guide, Springer, Berlin, 2017.
  • WATCHER. S., MITTELSTADT, B. y FLORIDI, L., “Why a right to explanation of automated decision-making does not exist in the General Data Protection...