Acceso usuarios
María Pilar Rivas Vallejo
Las decisiones automatizadas, es decir, producto de recomendaciones o predicciones fruto de la intervención de sistemas de inteligencia artificial alimentadas con datos masivos, se están utilizando para la gestión de las relaciones de trabajo. Pero su uso no está exento de riesgos, y el principal de ellos es el del impacto discriminatorio provocado por los sesgos que pueden incorporar en su diseño o aprendizaje y en su aplicación, ampliado como efecto de su intrínseca opacidad y escasa motivación, junto con su aparente neutralidad e infalibilidad. Su irrupción en la realidad de las relaciones de trabajo puede ocasionar problemas de discriminación de personas, colectivos y situaciones que tanto la ciencia de la inteligencia artificial como el derecho deben mitigar y evitar. Este trabajo se centra en analizar el impacto discriminatorio del uso de algoritmos o mecanismos automatizados de decisión para la gestión del trabajo y la selección de personal -llamada discriminación algorítmica- desde la perspectiva jurídica, para detectar los focos de dicho riesgo, identificar la discriminación y su calificación jurídica en cada caso, y analizar las respuestas correctoras desde el derecho y el plano de la responsabilidad por discriminación en el trabajo.
Automated decisions, that is, the product of recommendations or predictions resulting from the intervention of artificial intelligence data driven systems, are being used to manage work relationships. But their use is not free of risks: the main one is the discriminatory impact caused by the biases that can be incorporated in their design or machine learning and in their application, amplified as an effect of their opacity and low motivation, together with their apparent neutrality and infallibility. Its irruption in the reality of labour relations can cause problems of discrimination of people, groups and situations that both the science of artificial intelligence and the law must mitigate and avoid. This paper focuses on analyzing the discriminatory impact of the use of algorithms or automated decision-making mechanisms for work management and personnel selection -called algorithmic discrimination- from a legal perspective, to detect sources of that risk, identify discrimination and its legal qualification in each case, and also to analyze the corrective responses from the law and the responsibility for discrimination at work.
