Resumen de La carga de la prueba y la «caja negra»: inversión probatoria en daños por inteligencia artificial

Damián Tuset Varela

• español

  El presente artículo examina, desde una perspectiva de dogmática jurídica comparada, el problema estructural que la opacidad algorítmica de los sistemas de inteligencia artificial (IA) plantea al régimen ordinario de distribución de la carga de la prueba en los procedimientos de responsabilidad civil extracontractual por daños. Se analiza críticamente la insuficiencia de las reglas tradicionales onus probandi incumbit ei qui dicit ante la denominada «caja negra» (black box) de los modelos de aprendizaje automático (machine learning) y redes neuronales profundas (deep learning), cuya complejidad computacional impide tanto al demandante como, en ocasiones, al propio desarrollador, reconstruir la cadena causal específica entre el funcionamiento del sistema y el daño producido. El estudio profundiza en los mecanismos de inversión, aligeramiento y facilitación probatoria que el Derecho europeo, español, alemán, italiano y estadounidense han articulado o proponen articular, con especial atención a la Propuesta de Directiva europea sobre responsabilidad en materia de IA (COM(2022) 496 final), al Reglamento europeo de Inteligencia Artificial (UE) 2024/1689, y a la revisión de la Directiva sobre responsabilidad por productos defectuosos. Se formulan propuestas dogmáticas para la configuración de un estándar probatorio diferenciado que, sin eliminar las garantías procesales del demandado, permita una tutela efectiva de las víctimas de daños algorítmicos

• English

  This article examines, from a comparative legal-dogmatic perspective, the structural problem that algorithmic opacity in artificial intelligence (AI) systems poses to the ordinary rules governing the allocation of the burden of proof in non-contractual civil liability proceedings for damages. It critically analyzes the inadequacy of traditional rules (onus probandi incumbit ei qui dicit) when faced with the so-called «black box» of machine learning models and deep neural networks, whose computational complexity prevents both the claimant and, at times, the developer itself, from reconstructing the specific causal chain between the system’s functioning and the harm produced. The study delves into the mechanisms of reversal, alleviation, and facilitation of evidentiary burdens that European, Spanish, German, Italian, and US law have articulated or propose to articulate, with particular attention to the proposed EU Directive on AI Liability (COM(2022) 496 final), the EU AI Act (Regulation 2024/1689), and the revision of the Product Liability Directive