Acceso usuarios
Jaime Criado Enguix
Los sistemas de predicción y evaluación de riesgos, como herramientas de apoyo en la instrucción penal, pueden servir a diversos propósitos, entre otros: establecer hipótesis de hechos según las pruebas obtenidas por el juez (programa STEVIE); elaborar pronósticos del periculum para la toma de medidas cautelares, como los obtenidos por los sistemas de evaluación de riesgo, de los cuales COMPAS sería un ejemplo en el ámbito de la reincidencia; o predecir los resultados de sentencias (LexMachina), entre otros tantos. La IA representa utilidades muy significativas en Europa, pues no sólo aliviaría la carga de trabajo, sino que, por un lado, conformaría, como instrumento de cooperación internacional, una herramienta idónea para luchar contra la nueva forma digital de crimen organizado, y, por otro, ayudaría a reducir, si los datos son correctos y objetivos, los sesgos humanos. No obstante, tales objetivos, pueden verse dañados por una serie de riesgos, como la falta de transparencia, los fallos técnicos del sistema, o la vulneración de derechos fundamentales procesales. Por ello, procede hacer excurso sobre las utilidades y riesgos potenciales del uso de IA en la justicia predictiva a nivel europeo, como herramienta de apoyo en la instrucción penal, e instrumento necesario contra las nuevas formas de criminalidad digital, a fin de proporcionar un enfoque lo más ecuánime e imparcial del asunto, y determinar si jurídicamente es sugerible la implementación de algoritmos predictivos en el proceso penal.
Prediction and risk assessment systems, as support tools in criminal investigations, can serve various purposes, including: establishing hypotheses of facts according to the evidence obtained by the judge (STEVIE programme); drawing up periculum forecasts for taking precautionary measures, such as those obtained by risk assessment systems, of which COMPAS would be an example in the field of recidivism; or predicting the results of sentences (LexMachina), among others. AI represents very significant utilities in Europe, as it would not only ease the workload but, on the one hand, as an instrument of international cooperation, it would be an ideal tool to fight the new digital form of organised crime, and, on the other hand, it would help to reduce, if the data are correct and objective, human biases. However, these objectives may be undermined by a number of risks, such as lack of transparency, technical failures of the system, or infringement of fundamental procedural rights. It is therefore appropriate to discuss the potential benefits and risks of the use of AI in predictive justice at European level, as a support tool in criminal investigation, and a necessary instrument against new forms of digital criminality, in order to provide a more even-handed and impartial approach to the issue, and to determine whether the implementation of predictive algorithms in criminal proceedings is legally feasible.
