Los seres humanos en la toma de decisiones automatizada en el marco del RGPD y la Ley de IA

• Autores: Anna Levitina
• Localización: Revista CIDOB d'afers internacionals, ISSN 1133-6595, ISSN-e 2013-035X, Nº. 138, 2024 (Ejemplar dedicado a: Desigualdad algorítmica: gobernanza, representación y derechos en la IA), págs. 121-144
• Idioma: español
• DOI: 10.24241/rcai.2024.138.3.121
• Enlaces
  • Texto completo (pdf)
• Resumen

  • La supervisión humana es fundamental para evitar que las máquinas emitan juicios inadecuados sobre las personas a las que se dirigen las decisiones. Aunque el Reglamento General de Protección de Datos (RGPD) y la Ley de Inteligencia Artificial (IA)de la UE abordan esta cuestión, son insuficientes en los aspectos cualitativos y en la integración de supervisores humanos en los marcos de gobernanza. Este artículo examina los requisitos legales para la supervisión humana, analizando cómo estos se entrelazan con las obligaciones de rendición de cuentas de los responsables del despliegue de la toma de decisiones automatizada (ADM) y los derechos individuales. Se aboga por un enfoque más global que no solo incluya la supervisión humana, sino también la evaluación rigurosa y continua de la eficacia del control humano. Sin ello, la supervisión humana puede no proteger adecuadamente el impacto de la ADM en las personas afectadas.

• Referencias bibliográficas
  • AEPD-Agencia Española de Protección de Datos. «Evaluating human intervention in automated decisions», (4 de marzo de 2024) (en línea) [Fecha...
  • Alexander, Veronika: Blinder, Collin y Zak, Paul J. «Why trust an algorithm? Performance, cognition, and neurophysiology». Computers in Human...
  • Almada, Marco. «Human Intervention in Automated Decision-Making». ICAIL ‘19: Proceedings of the Seventeenth International Conference on Artificial...
  • Almada, Marco. «Automated Decision-Making as a Data Protection Issue». SSRN, (2021), p. 1-23 (en línea) [Fecha de consulta: 01.09.2024] https://...
  • Bauer, Kevin; Hinz, Oliver; van der Aalst, Wil y Weinhardt, Christof. «Expl(AI) n It to Me – Explainable AI and Information Systems Research»....
  • Berger, Armin; Hillebrand, Lars; Leonhard, David; Deußer, Tobias; Feliz de Oliveira, Thiago B. y Dilmaghani, Tim. «Towards Automated Regulatory...
  • Berger, Benedikt; Adam, Martin; Rühr, Alexander y Benlian, Alexander. «Watch Me Improve: Algorithm Aversion and Demonstrating the Ability...
  • Binns, Reuben y Veale, Michael. «Is that your final decision? Multi-stage profiling, selective effects, and Article 22 of the GDPR». International...
  • Burton, Jason W.; Stein, Mari-Klara y Jensen, Tina Blegind. «A systematic review of algorithm aversion in augmented decision making». Journal...
  • Bygrave, Lee A. «Article 22: Automated individual decision-making, including profiling», en Kuner, Christopher; Bygrave, Lee A.; Docksey,...
  • Christofi, Athena; Breuer, Jonas; Wauters, Ellen; Valcke, Peggy y Pierson, Jo. «Data protection, control and participation beyond consent...
  • Cobbe, Jennifer, Seng Ah Lee, Michelle y Singh, Jatinder. «Reviewable Automated Decision-Making: A Framework for Accountable Algorithmic Systems»....
  • Comité Europeo de Protección de Datos. «Coordinated Enforcement Action, Designation and Position of Data Protection Officers», (17 de enero...
  • Crootof, Rebecca; Kaminski, Margot E. y Price II, William Nicholson. «Humans in the Loop». Vanderbilt Law Review, vol. 76, n.º 2 (2023), p....
  • Custers, Bart y Heijne, Anne-Sophie. «The Right of Access in Automated Decision-Making: The Scope of Article 15(1)(h) GDPR in theory and practice»....
  • Dreyer, Stephan y Schulz, Wolfgang. «The General Data Protection Regulation and Automated Decision-making: Will it deliver?». Discussion Paper...
  • Edwards, Lilian y Veale, Michael. «Enslaving the Algorithm: From a ‘Right to an Explanation’ to a ‘Right to Better Decisions’?». IEEE Security...
  • Enarsson, Therese; Enqvist, Lena y Naarttijärvi, Markus. «Approaching the human in the loop – legal perspectives on hybrid human/algorithmic...
  • Enqvist, Lena. «Human oversight in the EU artificial intelligence act: what, when and by whom?». Law, Innovation & Technology, vol. 15,...
  • Grant, David Gray; Behrends, Jeff y Basl, John. «What we owe to decision-subjects: beyond transparency and explanation in automated decision-making»....
  • Green, Ben. «The flaws of policies requiring human oversight of government algorithms». Computer Law & Security Review, vol. 45, (2022)....
  • Kaminski, Margot E. y Malgieri, Gianclaudio. «Algorithmic impact assessments under the GDPR: Producing multi-layered explanations». International...
  • Kern, Christoph; Gerdon, Frederic; Bach, Ruben L.; Keusch, Florian y Kreuter, Frauke. «Humans versus machines: Who is perceived to decide...
  • Koivisto, Ida; Koulu, Riikka y Larsson, Stefan. «User accounts: How technological concepts permeate public law through the EU’s AI Act». Maastricht
  • Journal of European and Comparative Law, vol. 0, n.º 0 (2024). DOI: https:// doi.org/10.1177/1023263X241248469 [Fecha de consulta: 01.09.2024]...
  • Koulu, Riikka. «Proceduralizing control and discretion: Human oversight in artificial intelligence policy». Maastricht Journal of European...
  • Kyriakou, Kyriakos y Otterbacher, Jahna. «In humans, we trust». Discover Artificial Intelligence, vol. 3, n.º 44 (2023), p. 1-18. DOI: https://doi.org/10.1007/...
  • Lazcoz, Guillermo y De Hert, Paul. «Humans in the GDPR and AIA governance of automated and algorithmic systems. Essential pre-requisites against...
  • Logg, Jennifer M.; Minson, Julia A. y Moore Don A. «Algorithm appreciation: people prefer algorithmic to human judgment». Organizational Behavior...
  • Lynskey, Orla. «Regulating for the Future: The Law’s Enforcement Deficit». Studies: An Irish Quarterly Review, vol. 112, n.º 445 (2023), p....
  • Mahieu, René L. P. y Ausloos, Jef. «Recognising and Enabling the Collective Dimension of the GDPR and the Right of Access». Law Archive Papers,...
  • Mahieu, René L. P. y Ausloos, Jef. «Harnessing the collective potential of GDPR access rights: towards an ecology of transparency». Internet...
  • Malgieri, Gianclaudio. «‘Just’ Algorithms: Justification (Beyond Explanation) of Automated Decisions Under the General Data Protection Regulation»....
  • Mantelero, Alexander. Beyond Data Human Rights, Ethical and Social Impact Assessment in AI. La Haya: T.M.C Asser Press, 2022.
  • Mendoza, Isak y Bygrave, Lee A. «The Right not to be Subject to Automated Decisions based on Profiling», en: Synodinou, Tatiana-Eleni; Jougleux,...
  • Misuraca, Gianluca y van Noordt, Colin. «AI Watch: Artificial Intelligence in public services, EUR 30255 EN». Publications Office of the European...
  • Novelli, Claudio; Taddeo, Mariarosaria y Floridi, Luciano. «Accountability in artificial intelligence: what it is and how it works». AI &...
  • Parlamento Europeo. «Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules...
  • Roig, Antoni. «Safeguards for the right not to be subject to a decision based solely on automated processing (Article 22 GDPR)». European...
  • Roig, Antoni. Las garantías frente a las decisiones automatizadas. Del Reglamento General de Protección de Datos a la gobernanza algorítmica....
  • Rovatsos, Michael; Mittelstadt, Brent y Koene, Ansgar. «Landscape Summary: Bias in Algorithmic Decision-Making: What is bias in algorithmic...
  • Sartor, Giovanni y Lagioia, Francesca. «The impact of the General Data Protection Regulation (GDPR) on artificial intelligence». Panel for...
  • Schmidt, Philipp; Biessmann, Felix y Teubner, Timm. «Transparency and trust in artificial intelligence systems». Journal of Decision Systems,...
  • Selbst, Andrew D. y Powles, Julia. «Meaningful information and the right to explanation». International Data Privacy Law, vol. 7, n.º 4 (2017),...
  • Sivan-Sevilla, Ido. «Varieties of enforcement strategies post-GDPR: a fuzzy-set qualitative comparative analysis (fsQCA) across data protection...
  • Journal of European Public Policy, vol. 31, n.º 2 (2024), p. 552-585. DOI: https://doi.org/10.1080/13501763.2022.2147578
  • Sterz, Sarah; Baum, Kevin; Biewer, Sebastian; Hermanns, Holger; Lauber-Rönsberg, Anne; Meinel, Philip y Langer, Markus. «On the quest for...
  • Tsamados, Andreas; Floridi, Luciano y Taddeo, Mariarosaria. «Human control of AI systems: from supervision to teaming». AI Ethics, (2024)....
  • Wagner, Ben. «Liable, but Not in Control? Ensuring Meaningful Human Agency in Automated Decision Making Systems». Policy and Internet, vol....
  • Wieringa Maranke. «“Hey SyRI, tell me about algorithmic accountability”: Lessons from a landmark case». Data & Policy, vol. 5, (2023),...
  • WP251, European Data Protection Board. «Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679»,...
  • Yeung, Karen. «Algorithmic Regulation: A Critical Interrogation». Regulation and Governance, vol. 12, n.º 4 (2018), p. 505-523. DOI: https://doi....