Acceso usuarios
María Teresa Alameda Castillo
Las nuevas tecnologías manifiestan una extraordinaria capacidad de vulneración de los derechos fundamentales y ello tiene un impacto singular en el derecho de privacidad y en el derecho de no discriminación. Si, además, la inteligencia artificial lleva a cabo operaciones de clasificación personal con criterios algorítmicos y sin intervención humana significativa, también del derecho a la dignidad humana. En el contexto de una relación de trabajo tal situación de vulnerabilidad es evidente pero más aún en el proceso de acceso a un puesto de trabajo (reclutamiento por algoritmo).
Ante ello, es preciso fijar un completo diseño de garantías que incluya gobernanza de datos, seguridad y supervisión humana y deberes de transparencia. La dimensión preventiva se acompañaría de la reparadora y habría de implicar a actores públicos, privados y sujetos colectivos en la vigilancia previa y permanente de la implementación de sistemas de inteligencia artificial en el trabajo. En definitiva, avanzar hacia la gobernanza algorítmica.
En este contexto, la Unión Europea ya ha emprendido el camino hacia el desarrollo tecnológico ético y confiable, propio del modelo europeo y en abril de 2021 presenta la propuesta de Reglamento sobre inteligencia artificial
New technologies show an extraordinary capacity to violate fundamental rights and this has a unique impact on the right to privacy and the right to non-discrimination. If, in addition, artificial intelligence carries out personal classification operations with algorithmic criteria and without significant human intervention, also the right to human dignity. In the context of an employment relationship such a situation of vulnerability is evident but even more so in the process of accessing a job (recruitment by algorithm).
Given this, it is necessary to establish a complete design of guarantees that includes data governance, security and human supervision and transparency duties. The preventive dimension would be accompanied by the reparative one and would have to involve public, private and collective actors in the prior and permanent surveillance of the implementation of artificial intelligence systems at work. In short, move towards algorithmic governance.
