Resumen de Desafíos y retos que plantean las decisiones automatizadas y los perfilados para los derechos fundamentales

Josu Andoni Eguiluz Castañeira

• español

  En una sociedad eminentemente tecnológica, las decisiones automatizadas y los perfilados se presentan como auténticos desafíos para el Derecho. Potenciales sesgos, predicciones de comportamientos y efectos discriminatorios pueden suponer claros riesgos para los derechos fundamentales. En este contexto, se analiza la nueva realidad de la discriminación algorítmica en el marco de la Inteligencia Artificial, los algoritmos y el Machine Learning; y cómo el legislador y los tribunales están optando por aportar una visión garantista a este reto en la era del Big Data. En este trabajo se someten a estudio los déficits y puntos fuertes de la legislación vigente, atendiendo al examen de casos paradigmáticos que formarán los inicios de una construcción jurisprudencial pionera y adaptada a las amenazas latentes de los nuevos y algorítmicos tiempos.

  Recibido: 23.11.2020Aceptado: 14.12.2020

• English

  In an eminently technological society, automated decisions and profiling are presented as real challenges to Law. Potential biases, behavior predictions and discriminatory effects that pose clear risks for fundamental rights. In this context, this work analyzes the new reality of algorithmic discrimination in the framework of Artificial Intelligence, algorithms and Machine Learning, and how the lawmaker and the courts are choosing to provide a protective vision to this challenge in the era of Big Data. In this work, we study weaknesses and strengths of current legislation, taking into account and examinating some of the most paradigmatic cases that would form the foundations of a pioneering jurisprudential construction adapted to the latent threats of the new and algorithmic times.

  Received: 23.11.2020Accepted: 14.12.2020