Acceso usuarios
Erik Francesc Obiol Anaya, Axell Cervera
En los últimos años, la automatización de procesos a través de mecanismos algorítmicos ha experimentado un incremento significativo en sectores como la salud, la educación, el sistema crediticio, el entorno laboral, la vigilancia policial, entre otros. Aunque es evidente que dicha transformación ha traído importantes beneficios en términos de eficiencia y reducción de costos, la implementación de estos sistemas no está exenta de riesgos sociales, en tanto poseen la capacidad de generar dinámicas discriminatorias con un nivel de complejidad mayor a la observada en humanos, lo cual dificulta su comprensión técnica y abordaje analítico. Por este motivo, en el presente trabajo de investigación se examinaron cinco formas en las que puede configurarse la discriminación algorítmica; a saber, discriminación por correlaciones sesgadas, por variables sustitutas, por grupos algorítmicos, por desajuste algorítmico y por bucle de retroalimentación negativo. Posterior a ello, se estableció una propuesta de carácter descriptivo que, por un lado, permite explicar cómo se materializa este fenómeno en la realidad observable, y por el otro, plantea un punto de partida conceptual para futuras investigaciones sobre el tema.
