Acceso usuarios
Luis Malheiro, Fernando Bessa, João Reis, Luís Saraiva
The present study was developed to analyze the challenges of using gender-biased data for machine learning in security. The search for limitations of machine learning and the debate on contagion via unbalanced data in the training phase, namely in the gender dimension, were based on the Prisma protocol. After defining the keywords to be searched for and the exclusion criteria, the analysis of the 39 selected investigations was expanded using VOSviewer, Connected papers, and Treecloud. The combination of previous techniques and procedures made it possible to conclude that: (1) cognitive biases may exist in machine learning due to the use of unbalanced data for training; (2) providing data-balanced training (also on gender) to a network increases its resilience; (3) it is possible to introduce algorithms with gender-sensitive attributes to mitigate biases in machine learning;
(4) there is a gap on scientific investigations regarding gender biases in the security field.
O presente estudo foi desenvolvido com o propósito de analisar os desafios da utilização de dados com viés de género para a aprendizagem da máquina na segurança. A procura das limitações da aprendizagem máquina e o debate sobre o contágio por via de dados desequilibrados na fase do treino, nomeadamente na dimensão do género, foram baseados no protocolo Prisma. Depois de serem definidas as palavras-chave a procurar e os critérios de exclusão, a densificação da análise das 39 investigações selecionadas foi promovida por via da utilização do VOSviewer, do Connected papers e do Treecloud. A conjugação das técnicas e procedimentos anteriores possibilitou concluir que: (1) os vieses cognitivos podem existir na aprendizagem máquina devido ao recurso a dados desequilibrados para treino; (2) proporcionar um treino com dados equilibrados (também sobre o género) a uma rede aumenta a sua resiliência; (3) é possível introduzir algoritmos com atributos gender sensitive para mitigar vieses na aprendizagem máquina; (4) existe uma lacuna sobre investigações científicas relativamente a vieses de género no campo da segurança.
