Joaquín Delgado Martín
La aplicación de la IA puede aportar grandes beneficios para la calidad y la eficacia de la justicia, mejorando sus tiempos de respuesta; pero también introduce grandes riesgos para los derechos de las personas y las garantías del proceso. Frente a ello, debemos poner a la persona en el centro del sistema de justicia (humanización). Este trabajo reflexiona sobre los elementos necesarios para garantizar una aplicación «humana» de los sistemas IA, desarrollando un decálogo en torno a los siguientes principios: respeto a la dignidad humana; control por el usuario del sistema de justicia; respeto de los derechos fundamentales; garantía de acceso a justicia; respeto a la garantía jurisdiccional; no discriminación y ausencia de sesgos; transparencia; confianza; respeto a las garantías de proceso; y responsabilidad y rendición de cuentas.
The application of AI can bring great benefits for the quality and efficiency of justice, improving its response times; but it also introduces great risks for the rights of individuals and the guarantees of the process. In the face of this, we must put the person at the centre of the justice system (humanisation). This paper reflects on the elements necessary to guarantee a «humane» application of AI systems, developing a decalogue around the following principles: respect for human dignity; user control of the justice system; respect for fundamental rights; guaranteed access to justice; respect for jurisdictional guarantees; non-discrimination and absence of bias; transparency; trust; respect for due process; and responsibility and accountability.