Algoritmos raciais e o pensamento de colonialidade como entrave aos direitos humanos: uma nova forma de estruturação das discriminações raciais

• Stephanny Resende de Melo ^[1] ; Clara Cardoso Machado Jaborandy ^[1]
  1. [1] Universidade Tiradentes de Sergipe
• Localización: Quaestio Iuris, ISSN-e 1516-0351, Vol. 16, Nº. 2, 2023, págs. 635-657
• Idioma: portugués
• DOI: 10.12957/rqi.2023.65152
• Títulos paralelos:
  • Racial algorithms and the thinking of coloniality as a barrier to human rights: a new form of structuring racial discriminations
• Enlaces
  • Texto completo
• Resumen
  • English

    The use of new technologies and the hyperconnectivity between people brought the need to speed up the data response, so that algorithms and artificial intelligence gained prominence, however, problems arose when racist biases were shown in the results and systems decisions. Thus, considering that they are used both in the public and private spheres, including in public security systems, there was a need to debate discourses on the neutrality of software. The idea of coloniality is also linked to this problem, generating selectivity and social nonsense. The objective is to analyze the reasons why racial biases occur, injuring human rights, in addition to verifying how and how much coloniality thinking is correlated with these postures. In the end, it is concluded that racial algorithms are not neutral as they only replicate what was trained by human beings, therefore, the worldviewof those who created them, making it necessary to regulate artificial intelligence, democratize technologies and debates about ethnic diversity. The methodology used was through a qualitative approach, of an exploratory nature, with a methodological procedure of documentary and bibliographic research.

  • português

    O uso de novas tecnologias e a hiperconectividadeentre as pessoas trouxe a necessidade de acelerar a resposta de dados, de modo que os algoritmos e a inteligência artificial tomaram destaque. No entanto, surgiram problemas ao serem demonstrados vieses de cunho racista nos resultados e tomadas de decisões dos sistemas. Dessa forma, considerando que são utilizadas tanto no âmbito público quanto no privado, inclusive em sistemas de segurança pública, viu-se a necessidade de debater sobre discursos de neutralidade dos softwares. A ideia de colonialidade também está atrelada a esse problema, gerando seletividade e disparates sociais. O objetivo é analisar os motivos pelos quais ocorrem os vieses raciais, ferindo os direitos humanos, além de verificar como e quanto o pensamento de colonialidade se correlaciona com essas posturas. Ao final, conclui-se que os algoritmos raciais não são neutros pois replicam somente o que foi treinado por seres humanos, portanto, a visão de mundo de quem as criou, fazendo ser necessário a regulamentação da inteligência artificial, a democratização das tecnologias e debates sobre diversidade étnica. A metodologia utilizada deu-se através da abordagem qualitativa, de natureza exploratória, com procedimento metodológico da pesquisa documental e bibliográfica