Acceso usuarios
María Sánchez Vilanova
El presente estudio analiza los riesgos del uso de algoritmos predictivos en el Derecho penal, a propósito de la reciente resolución de la Corte de Justicia del Distrito de la Haya (Países Ba-jos), de 5 de febrero de 2020, que se pronunció sobre el uso de estos algoritmos por parte del Gobierno holandés (concretamente, de la herramienta SyRI) para rastrear posibles fraudes al Estado cometidos por la ciudadanía, estimando que el funcionamiento oculto de este instru-mento vulneraba el derecho a la privacidad consagrado por el TEDH. Esta decisión contrasta con la respuesta que los tribunales estadounidenses han ofrecido respecto del uso de herramientas actuariales para la determinación del riesgo de reincidencia en los procesos penales, que se han mostrado proclives a su introducción al entender que no se vulneraría con ellas el derecho al debido proceso. No obstante, como se concluirá, se entiende que, en España, el uso en el proce-so penal de herramientas que se sustenten en algoritmos secretos es contrario al derecho a la tutela judicial efectiva.
This paper reflects the risks of using predictive algorithms in criminal law, based on the recent resolution of the District Court of Justice of The Hague (Netherlands), of February 5, 2020, which stated on its use by the Dutch government (specifically, SyRI tool) to trace possible frauds to the State committed by its citizens, considering that the hidden operation of this instrument viola-tes the right to privacy enshrined by the ECHR. This decision contrasts with the response that the US courts have offered regarding the use of these actuarial tools to determine recidivism risk in criminal proceedings, showing a proclivity for their introduction on the understanding that the right to due process would not be violated with them. However, as will be concluded, it is understood that, in Spain, and with the support of the aforementioned resolution, the use in the criminal process of tools that are based on secret algorithms is contrary to the right to effective judicial protection.
