Acceso usuarios
Cristina Más Zamora
El presente trabajo tiene como objetivo analizar la situación actual acerca del uso de los datos de los ciudadanos mediante sistemas de inteligencia artificial por parte de los poderes públicos y los posibles riesgos de desprotección de sus derechos fundamentales. En primer lugar, se realiza una aproximación al concepto de inteligencia artificial y se examina la regulación sobre la inteligencia artificial en Europa, así como los desafíos que plantea desde una perspectiva jurídica. Poniendo de manifiesto la necesidad de una mayor intervención regulatoria. Se alerta de los riesgos del tratamiento de los macrodatos de los ciudadanos mediante sistemas de inteligencia artificial en el sector público. Enfatizándose la importancia del principio de transparencia ante la problemática de la opacidad de los algoritmos. Asimismo, se abordan los peligros de la colisión entre los derechos de propiedad intelectual de los algoritmos de la inteligencia artificial frente al principio de transparencia. Por último, se identifican los principales riesgos generados por los sistemas algorítmicos de la IA en el sector público, con respecto a la protección de los derechos fundamentales de los ciudadanos. En particular, el derecho a la protección de datos de carácter personal, el derecho a la no discriminación y el derecho a la tutela judicial efectiva.
This paper aims to analyze the current situation regarding the use of citizens’ data through artificial intelligence systems by public authorities and the potential risks of undermining their fundamental rights. Firstly, an overview of the concept of artificial intelligence is provided, and the regulation of artificial intelligence in Europe is examined, as well as the challenges it presents from a legal perspective. The need for greater regulatory intervention is highlighted. The risks of processing citizens’ big data through artificial intelligence (hereinafter AI) systems in the public sector are discussed, with an emphasis on the importance of the principle of transparency in light of the opacity of algorithms. Furthermore, the dangers of the conflict between intellectual property rights of AI algorithms and the principle of transparency are addressed. Finally, the main risks generated by AI algorithmic systems in the public sector with respect to the protection of citizens’ fundamental rights are identified, particularly the right to personal data protection, the right to non-discrimination, and the right to effective judicial protection.
