Acceso usuarios
Lorayne Finol Romero
La transparencia es un principio fundamental tanto para fortalecer la confianza ciudadana y salvaguardar el funcionamiento democrático, como para la integración responsable de la inteligencia artificial (IA) en la administración del Estado. A partir de esta premisa, en el artículo se examina el proyecto de ley chileno sobre regulación de la IA para dilucidar qué tipo de mecanismos de transparencia exige a los algoritmos del sector público. Los resultados muestran que el proyecto de ley no recoge la creciente demanda mundial por una mayor regulación de las normas aplicables a la IA para dar fin a una era de autorregulación, y se argumenta que la transparencia de la IA cuando el Estado es el responsable requiere más que una ley, porque amerita adaptar el estatuto administrativo vigente al marco de la gobernanza de los algoritmos incorporados en la administración pública. Se concluye que sigue habiendo lagunas en cuanto a las obligaciones legales cuya materia regulada es la explicabilidad de y mayor responsabilidad de los algoritmos, la supervisión eficaz y exigencia de los mecanismos de control para corregir posibles sesgos o decisiones arbitrarias especialmente en sistemas de aprendizaje automático.
Transparency is a fundamental principle both for strengthening citizen trust and safeguarding democratic functioning, as well as for the responsible integration of artificial intelligence (AI) in the administration of the State. Based on this premise, the article examines the Chilean draft law on AI regulation to elucidate what kind of transparency mechanisms it requires for public sector algorithms. The results show that the bill does not capture the growing global demand for greater regulation of the rules applicable to AI to end an era of self-regulation, and it is argued that AI transparency when the State is responsible requires more than a law, because it merits adapting the current administrative statute to the framework of governance of algorithms incorporated in public administration. It is concluded that there are still gaps in terms of legal obligations whose regulated matter is the explainability of and greater accountability of algorithms, effective supervision and requirement of control mechanisms to correct possible biases or arbitrary decisions especially in machine learning systems.
