Acceso usuarios
Santiago Carretero Sánchez 
La justicia predictiva, basada en algoritmos y análisis de datos, está transformando el sistema judicial al permitir anticipar resultados y optimizar procesos. Sin embargo, esta innovación plantea interrogantes sobre la mercantilización de la justicia y la posible vulneración de derechos fundamentales. El artículo analiza cómo la inteligencia artificial (IA) aplicada al ámbito jurídico puede mejorar la eficiencia, pero también generar riesgos éticos y legales, especialmente cuando se utilizan datos históricos sesgados.
Se abordan los principales desafíos: la transparencia algorítmica, la supervisión humana y la mitigación del sesgo cultural, racial y socioeconómico. Casos como COMPAS en EE. UU. y VIOGÉN en España evidencian que los sistemas predictivos pueden reproducir discriminaciones preexistentes, afectando principios como la igualdad y la presunción de inocencia. El estudio destaca la necesidad de marcos regulatorios sólidos, auditorías independientes y formación interdisciplinar para garantizar decisiones justas y explicables.
Finalmente, se examina el caso español a través del Real Decreto-ley 6/2023, que introduce actuaciones automatizadas y asistidas en la justicia digital, bajo estrictos controles de transparencia y trazabilidad. Aunque la norma representa un avance hacia la modernización, persisten retos relacionados con la explicabilidad, la protección de datos y la inclusión digital. El artículo concluye que la IA debe ser una herramienta complementaria, nunca sustitutiva, para preservar la dignidad humana y los derechos fundamentales.
Predictive justice, driven by algorithms and data analysis, is reshaping judicial systems by anticipating outcomes and optimizing processes. However, this innovation raises concerns about the commodification of justice and potential violations of fundamental rights. The article examines how artificial intelligence (AI) applied to the legal field can enhance efficiency while posing ethical and legal risks, particularly when historical data biases are involved.
Key challenges include algorithmic transparency, human oversight, and mitigation of cultural, racial, and socioeconomic bias. Cases such as COMPAS in the U.S. and VIOGÉN in Spain demonstrate that predictive systems may perpetuate existing discrimination, undermining principles like equality and presumption of innocence. The study emphasizes the need for robust regulatory frameworks, independent audits, and interdisciplinary training to ensure fair and explainable decisions.
Finally, the Spanish case is analyzed through Royal Decree-Law 6/2023, which introduces automated and assisted actions in digital justice under strict transparency and traceability controls. While the regulation marks progress toward modernization, challenges remain regarding explainability, data protection, and digital inclusion. The article concludes that AI should serve as a complementary tool, never a substitute, to safeguard human dignity and fundamental rights.
