La presencia en nuestra vida cotidiana de las más modernas tecnologías de la información y la comunicación, así como de la llamada inteligencia artificial (IA), es cada vez mayor a la par que más valiosa. Las Administraciones públicas no pueden permanecer inmóviles ante una nueva realidad social que ofrece también una brillante oportunidad para incrementar su eficiencia y eficacia en ámbitos muy concretos como, por ejemplo, la lucha contra el fraude y las irregularidades. Los retos y desafíos jurídicos que presenta la IA, empero, son muchos y muy significativos, cuya afectación se proyecta en ámbitos tan diversos como la protección de datos personales, la igualdad, la seguridad jurídica, la transparencia y la rendición de cuentas, entre otros. Los problemas se multiplican exponencialmente en el ámbito de la Administración de Justicia y, muy especialmente, para determinados usos en el marco del proceso penal. Aunque la justicia no es ni debe convertirse en un mero acto de predicción ni en un modelo matemático que pueda encerrarse en fórmulas, no es menos cierto que el empleo de la IA para fines concretos puede resultar muy útil en todos los órdenes jurisdiccionales. El presente artículo plantea en este complejo entramado los términos del debate analizando el marco legal europeo, los usos de la IA en el ámbito de la justicia penal y su impacto en los derechos fundamentales.
The presence in our daily life of Information and Communication Technologies is moving up at the same time the so-called Artificial Intelligence (AI) is increasing as well as being more valuable. Public administrations cannot remain passive in the face of a new social reality that also offers a brilliant opportunity to grow their efficiency and effectiveness in very specific areas such as, for example, the fight against fraud and irregularities. The legal challenges presented by AI, however, are many and very significant, whose impact is projected in very wide-ranging areas such as the protection of personal data, equality, legal certainty, transparency and accountability, among others. The troubles increase exponentially in the field of Justice and, especially, for certain uses in the framework of the criminal proceedings. Although justice is not and should not become a mere act of prediction neither a mathematical model that can be enclosed in formulas, the truth is that the use of AI in certain contexts can be very useful, in all sort of proceedings. The article sets out in this complex scenario the terms of the debate analyzing the European legal framework, the uses of AI in the field of criminal justice and its impact on fundamental rights.
La presència en la nostra vida quotidiana de les més modernes tecnologies de la informació i la comunicació, i també de l’anomenada intel·ligència artificial (IA), és cada vegada més gran, alhora que més valuosa. Les administracions públiques no poden romandre immòbils davant d’una nova realitat social que també ofereix una oportunitat brillant d'incrementar la seva eficiència i eficàcia en àmbits molt concrets com, per exemple, la lluita contra el frau i les irregularitats. Els reptes i desafiaments jurídics que presenta l’IA, però, són molts i molt significatius, l’afectació dels quals es projecta en àmbits molt diversos com la protecció de dades personals, la igualtat, la seguretat jurídica, la transparència i la rendició de comptes, entre d’altres. Els problemes es multipliquen exponencialment en l’àmbit de l’Administració de justícia i, molt especialment, per a determinats usos en el marc del procés penal. Encara que la justícia no és ni s’ha de convertir en un mer acte de predicció ni en un model matemàtic que es pugui tancar en fórmules, no és menys cert que l’ús de l’IA per a finalitats concretes pot resultar molt útil en tots els ordres jurisdiccionals. Aquest article planteja, en aquest complex entramat, els termes del debat i analitza el marc legal europeu, els usos de l’IA en l’àmbit de la justícia penal i el seu impacte en els drets fonamentals.