Acceso usuarios
Iván Miguel García López
La incorporación de inteligencia artificial generativa en el ecosistema jurídico ha transformado la producción, revisión y validación del trabajo legal, generando tensiones entre innovación tecnológica, protección de derechos, diligencia profesional y responsabilidad institucional. Este artículo analiza si la explicabilidad constituye un estándar suficiente para gobernar el uso de estas herramientas en contextos jurídicos. Se sostiene que, aunque necesaria, la explicabilidad resulta insuficiente como mecanismo autónomo, ya que no permite reconstruir el proceso de generación, verificar la corrección jurídica del contenido ni atribuir responsabilidad por errores o usos indebidos. Metodológicamente, el estudio adopta un enfoque jurídico-dogmático y propositivo. Para ello, examina la transformación del ecosistema jurídico, sistematiza el marco normativo aplicable, analiza críticamente los límites de la explicabilidad y desarrolla una matriz jurídica de uso legítimo de IA generativa. Como principal aportación, se propone una matriz operativa estructurada en seis dimensiones: delimitación del caso de uso, gobernanza de datos, trazabilidad documental, supervisión humana significativa, gestión del riesgo y responsabilidad documentable. A diferencia de marcos éticos generales, la matriz traduce principios normativos en indicadores, evidencias, responsables y ejemplos de aplicación práctica. Asimismo, el artículo incorpora objeciones doctrinales y límites prácticos relativos al coste de implementación, el secreto profesional, la confidencialidad y el riesgo de formalismo documental. Se concluye que la IA generativa solo puede considerarse jurídicamente legítima cuando su uso es trazable, supervisado, proporcional al riesgo y jurídicamente imputable.
The incorporation of generative artificial intelligence into the legal ecosystem has transformed the production, review, and validation of legal work, generating tensions between technological innovation, rights protection, professional diligence, and institutional accountability. This article examines whether explainability constitutes a sufficient standard for governing the use of these tools in legal contexts. It argues that, although necessary, explainability is insufficient as an autonomous mechanism, since it does not allow for reconstructing the generation process, verifying the legal correctness of the content, or attributing responsibility for errors or misuse. Methodologically, the study adopts a legal-dogmatic and propositional approach. It examines the transformation of the legal ecosystem, systematizes the applicable normative framework, critically analyzes the limits of explainability, and develops a legal matrix for the legitimate use of generative AI. As its main contribution, the article proposes an operational matrix structured around six dimensions: use case delimitation, data governance, document traceability, meaningful human oversight, risk management, and documentable accountability. Unlike general ethical frameworks, the matrix translates normative principles into indicators, evidence, responsible actors, and practical examples of application. The article also addresses doctrinal objections and practical limits related to implementation costs, professional secrecy, confidentiality, and the risk of documentary formalism. It concludes that generative AI can only be considered legally legitimate when its use is traceable, supervised, proportionate to risk, and legally accountable.
