Resumen de El libro blanco sobre inteligencia artificial de la Comisión Europea: reflexiones desde las garantías esenciales del proceso penal como “sector de riesgo”

Montserrat de Hoyos Sancho

• español

  Se realiza en este trabajo un análisis crítico de los aspectos del Libro Blanco sobre Inteligencia Artificial de la Comisión Europea relacionados con los derechos y garantías esenciales en un proceso penal. Expuestas las características clave del que será el nuevo marco regulador y los potenciales riesgos a que se tendrá que hacer frente en este ámbito, se abordan algunas herramientas basadas en Inteligencia Artificial, en materia probatoria y para el análisis predictivo de comportamientos futuros. Se concluye exponiendo los que se consideran requisitos esenciales para que los sistemas IA puedan ser una valiosa herramienta de ayuda en el ejercicio de la función jurisdiccional, sin merma de las garantías procesales esenciales, en el contexto del “espacio de libertad, seguridad y justicia” de la Unión Europea.

• English

  This paper makes a critical analysis of the aspects of the White Paper on Artificial Intelligence launched by the European Commission that are in rela-tion with the essential rights and safeguards within criminal proceedings. After exposing the key features of the new legal framework and the potential risks that will have to be faced in this matter, several tools based on artificial intelligence, on issues of proof and on predictive analysis of future behaviour are addressed. It concludes by considering and exposing which essential requirements are deemed necessary for the AI systems to be a valuable tool to assist with the exercise of the jurisdictional function, without undermining the essential procedural safeguards, in the context of the “Area of Freedom, Security and Justice”.