¿Serán sostenibles los principios del proceso social ante el uso negligente de la IA? ¿Disponemos de vías garantistas de detección e impugnación ante una praxis viciada por el juzgador o la contraparte?

• Nieto Garrote, Ainhoa ^[1]
  1. [1] Universidad de Deusto

     Universidad de Deusto

     Bilbao, España

     
• Localización: Revista crítica de relaciones de trabajo, Laborum, ISSN 2792-7962, ISSN-e 2792-7970, Nº. 20, 2026 (Ejemplar dedicado a: 3er trimestre 2026), págs. 155-175
• Idioma: español
• Títulos paralelos:
  • Will the principles of social process be sustainable face to a negligent use of AI? Do we have procedural safeguards to detect and contest vitiated practices by the court or the opposing party?
• Enlaces
  • Texto completo
• Resumen
  • español

    Motivado por la mala praxis emergente en torno al empleo negligente de la IA debido al sesgo de automatización y las ultrafalsificaciones, mediante el presente artículo se sostiene la necesidad de reflexionar sobre la sostenibilidad de los principios vertebradores del proceso social y las garantías para detectar e impugnar los vicios que este arrastre. A su vez, se exponen los que se consideran puntos de mejora de la Instrucción 2/2026 del CGPJ y se proponen algunas medidas preventivas.

  • English

    Motivated by the emerging malpractice surrounding the negligent use of AI driven by automation bias and deepfakes, this article argues for the need to critically reflect on the sustainability of the core principles of the social process and the safeguards to detect and challenge any procedural flaws. Furthermore, it outlines potential areas for improvement regarding Instruction 2/2026 of the General Council of the Judiciary and proposes some preventive measures.

• Referencias bibliográficas
  • Aradas García, A.: «La aportación de una prueba creada con inteligencia artificial en la jurisdicción social». Anuario da Facultade de Dereito...
  • Banks, I.: “Judges-in-the-loop? Judicial involvement in human oversight of high-risk decision support systems under the EU AI Act. International”...
  • Brenan-Márquez, K. Levy, K. y Susser, D.: «Strange Loops: Apparent versus actual human involvement in automated decision making». Berkeley...
  • Celebi, N., Liu, Q., Karatoprak, M.: «A survey of deep fake detection for trial courts». arXiv Cornell University preprint arXiv 2205.15792,...
  • Dantart, a.: «Inteligencia Artificial jurídica y el desafío de la veracidad: análisis de alucinaciones, optimización de RAG y principios para...
  • Deroy, A., Ghosh, K., Ghosh, S.: «How ready are pre-trained abstractive models and LLMs for legal case judgement summarization?». arXiv preprint...
  • Kalai, A.T., et al.: «Why language models hallucinate». arXiv preprint Cornell University, arXiv:2509.04664, 2025, pp. 1‑36.
  • Juliá Pijoan, M. (2024): «Las Sentencias actuales no son los mejores datos de entrenamiento para la Inteligencia Artificial». VV.AA.: La computarización...
  • Magesh, V., et al: “Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools”. Journal of empirical legal studies,...
  • Nores Torres, L.: «El orden social y el proceso laboral tras la LO 1/2025, de 2 de enero». Trabajo y Empresa. Revista de Derecho del Trabajo...
  • Olmos Parés, I.: La nulidad de actuaciones en el proceso social. Valencia: Tirant lo Blanch, 2018, pp. 1‑268.
  • Peralta Gutierrez, A.: «Impacto comparado de la IA en la Administración de Justicia. La Guía Práctica de la Inteligencia Artificial». Nº 5,...
  • Satterthwaite, M.: Informe sobre la Independencia de los magistrados y abogados. AGNU, 2025, pp. 1‑23.
  • Tascón López, R.: «Algunas reflexiones sobre la situación del proceso social tras la Ley Orgánica 1/2025, 2 de enero, de medidas en materia...