Tratamiento de categorías especiales de datos para la detección y corrección de sesgos en sistemas de IA de alto riesgo: ¿una medida de acción positiva?

• Capellà i Ricart, Anna ^[1]
  1. [1] Universitat Autònoma de Barcelona

     Universitat Autònoma de Barcelona

     Barcelona, España

     
• Localización: Derechos y libertades: Revista de Filosofía del Derecho y derechos humanos, ISSN 1133-0937, Nº 54, 2026, págs. 113-137
• Idioma: español
• DOI: 10.20318/dyl.2026.9974
• Títulos paralelos:
  • Processing special categories of personal data for the purpose of ensuring bias detection and correction in relation to the high-risk AI systems: an affirmative action measure?
• Enlaces
  • Texto completo
• Resumen
  • español

    El presente trabajo estudia si la medida planteada en el artículo 10(5) del Reglamento (UE) 2024/1689 por el que se establecen normas armonizadas en materia de inteligencia artificial, que implica la habilitación a proveedores de sistemas de IA de alto riesgo de tratar categorías especiales de datos para la corrección y detección de sesgos, es una medida de acción positiva. Se exploran las normativas que definen la acción positiva tanto en el ámbito de la UE como en el Estado español y se analiza cómo se encuadra la medida objeto de estudio según cada definición. También se estudia la circunscripción de la medida dentro de los límites establecidos a la acción positiva tanto por el Tribunal de Justicia de la Unión Europea como el Tribunal Constitucional en asuntos relativos a la igualdad por razón de sexo. Finalmente se presentan algunas conclusiones.

  • English

    This article explores whether the measure proposed in article 10(5) of Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence, which enables providers of high-risk AI systems to exceptionally process special categories of personal data for the purpose of ensuring bias detection and correction, is a positive action measure. We present the European Union and Spanish’ rules that define positive action and we analyse if the measure under study can be framed in the aforementioned definitions. Moreover, we study the measure in relation to the limits established for positive action by both theCourt of Justice of the European Union and the Spanish Constitutional Court in matters relating to gender equality. Finally, we present some conclusions.