Resumen de Hacia una gobernanza algorítmica transparente: auditoría de sesgo. Estudio de caso.

José Luis Bustelo Gracia

• español

  Este artículo explora la necesidad de implementar auditorías de sesgo en sistemas algorítmicos, particularmente en el contexto de la gobernanza pública. Con el incremento del uso de la inteligencia artificial (IA) en la toma de decisiones gubernamentales, surge la preocupación sobre la transparencia y equidad de estos sistemas. Se analizan diversas normativas europeas, como el Reglamento de Inteligencia Artificial (AI Act), y estudios de caso que evidencian la persistencia de sesgos en algoritmos, destacando la importancia de un enfoque proactivo en la regulación y la implementación de auditorías sistemáticas. Además, se discuten las implicaciones éticas y sociales de la gobernanza algorítmica y se proponen soluciones para mitigar los riesgos asociados.

    Palabras Clave Gobernanza algorítmica, transparencia, auditoría de sesgo, inteligencia artificial.

• English

  This article examines the necessity of implementing bias audits in algorithmic systems, particularly within the context of public governance. With the increasing use of artificial intelligence (AI) in governmental decision-making, concerns about the transparency and fairness of these systems have arisen. The paper analyzes various European regulations, such as the Artificial Intelligence Act (AI Act), and case studies that highlight the persistence of biases in algorithms, emphasizing the importance of a proactive regulatory approach and systematic audits. Additionally, it discusses the ethical and social implications of algorithmic governance and proposes solutions to mitigate associated risks.

    Keywords Algorithmic governance, transparency, bias audit, artificial intelligence.