Acceso usuarios
Raquel Castillejo Manzanares
En la actualidad, la aplicación de la Inteligencia Artificial al proceso permite que se automaticen tareas que son mecánicas, tales como enviar notificaciones o comprobar que una demanda cumple los requisitos formales necesario para admitirla. La pregunta clave que nos hacemos es si es válida para cuestiones procesales más complejas.
En el marco de la investigación de los hechos delictivos funcionan en España VeriPol y VIOGEN, pero además hay otros como la tecnología del reconocimiento facial que presenta varios problemas relativos a protección de datos y posible vulneración de derechos fundamentales.
Fuera de este marco, hoy en día, las tecnologías de Inteligencia Artificial permiten asistir al Juez en su tarea, a través de ofrecerle nuevos medios de prueba o ayudarle en la valoración de la misma. La cuestión es si estamos preparados para admitirlo en nuestro proceso, en concreto, en el penal, ofreciendo todas las garantías a los justiciables. Para dar una respuesta hemos de recordar que todas estas tecnologías pueden suponer un peligro para el derecho a la intimidad o afectar al derecho de defensa dada la opacidad derivada del secreto público o privado. Sin embargo, hasta que extremos se debe exigir total transparencia y explicabilidad a los sistemas inteligentes. ¿Lo hemos hecho con la prueba introducida a través de mensajería instantánea? La fiabilidad predictiva es también una exigencia ineludible, se le ha de exigir un grado de probabilidad suficientemente alto como para lograr la certeza del hecho, como viene ocurriendo con la prueba de ADN. Actualmente, esto no es posible pues los algoritmos presentan sesgos y además, los métodos actualmente utilizados no están homologados por la comunidad científica.
El último cuestionamiento que nos hacemos es el relativo a si la Inteligencia Artificial sirve a la labor de calificación jurídica y, por tanto, si podría a través de ella dictarse sentencias que revistan complejidad, lo que se ha venido llamando de una manera muy grosera «sustituir al juez por un robot», labor es realmente compleja teniendo en cuenta la textura abierta del derecho.
Currently, the application of artificial intelligence to the process allows tasks that are mechanical to be automated, such as sending notifications or verifying that a claim meets the formal requirements necessary to admit it. The key question we ask ourselves is whether it is valid for more complex procedural issues.
Within the framework of the investigation of criminal acts, VeriPol and VIOGEN work in Spain, but there are also others such as facial recognition technology that presents several problems related to data protection and possible violation of fundamental rights.
Outside this framework, today, Artificial Intelligence technologies allow the Judge to be assisted in his task, by offering him new means of evidence or helping him in its assessment. The question is whether we are prepared to admit it in our process, specifically, in prison, offering all the guarantees to the defendants. To give an answer, we must remember that all these technologies can pose a danger to the right to privacy or affect the right of defense given the opacity derived from public or private secrecy. However, to what extent should full transparency and explainability be required of intelligent systems. Have we done it with the test introduced through instant messaging? Predictive reliability is also an unavoidable requirement, it must be required to have a degree of probability high enough to achieve certainty of the fact, as has been happening with the DNA test. Currently, this is not possible because the algorithms have biases and, furthermore, the methods currently used are not approved by the scientific community.
The last question we ask ourselves is whether Artificial Intelligence serves the task of legal qualification and, therefore, if sentences that are complex could be issued through it, what has been called in a very rude way «replace the judge with a robot», work is really complex considering the open texture of the law
