Es innegable el potencial de la Inteligencia Artificial (IA), que permite la automatización de procesos y la toma de decisiones basada en algoritmos avanzados, con importantes ventajas de precisión y personalización, pero también con riesgos en la transparencia y en la privacidad, así como en la perpetuación de sesgos discriminatorios. Uno de los escenarios donde se muestra el auge de la IA es en el de las decisiones automatizadas en la ejecución de contratos de consumo a través de asistentes digitales, que, a priori, mejoran la eficiencia en la gestión de la relación contractual. En el primer semestre de 2024 han proliferado recomendaciones y regulaciones sobre IA, manifestando el gran desafío al que se enfrentan todos los agentes implicados para generar un marco de referencia adecuado para el óptimo y seguro desarrollo de la IA.
The potential of Artificial Intelligence (AI) is undeniable, enabling the automation of processes and decision-making based on advanced algorithms, with significant advantages in terms of precision and personalization. However, it also presents risks concerning transparency and privacy, as well as the perpetuation of discriminatory biases. One of the scenarios where the rise of AI is evident is in automated decision-making (ADM) in the execution of consumer contracts through digital assistants, which, in principle, improve the efficiency of managing contractual relationships. In the first half of 2024, recommendations and regulations on AI have proliferated, highlighting the great challenge faced by all stakeholders in creating an adequate framework for the optimal and safe development of AI.