O viés do algoritmo e a discriminação por motivos relacionados à sexualidade

Abstract

O presente trabalho tem por objetivo abordar aspectos relativos à discriminação através dos chamados vieses algorítmicos, tendo como recorte temático principal os impactos das decisões automatizadas sobre as minorias sexuais e grupos vulneráveis. Defende-se a ideia de que a transferência da capacidade decisória dos seres humanos para algoritmos de machine learning não é capaz de eliminar os preconceitos inerentes à subjetividade humana, pois os algoritmos podem trazer consigo os vieses sociais embutidos na programação ou “aprender” o preconceito através da interação com o big data. Assim, as decisões tomadas por algoritmos, embora aparentemente neutras, são potencialmente capazes de violar o princípio da igualdade e da não discriminação, impactando de forma negativa especialmente as mulheres, os homossexuais e os transgêneros. Partindo dessas premissas, os dois primeiros capítulos da dissertação são dedicados às interlocuções necessárias entre direito e sexualidade, na tentativa de demonstrar que o ordenamento jurídico brasileiro não tolera quaisquer formas de discriminação negativa por motivos relacionados a sexo (gênero), orientação sexual ou identidade de gênero. Em seguida, a partir do terceiro capítulo, busca-se investigar e compreender as bases filosóficas de uma sociedade cada vez mais regida por algoritmos e dados, momento no qual também são dissecados os termos e conceitos usualmente utilizados na descrição dos modernos fenômenos tecnológicos, como machine learning, internet das coisas (internet of things) e big data. Busca-se também compreender de que forma ocorrem os vieses dos algoritmos e as soluções para mitigar o seu potencial lesivo e evitar a ocorrência de discriminações. Ato contínuo, no quarto capítulo são analisadas as decisões tomadas por algoritmos à luz das normas de proteção aos dados pessoais, tendo por objetivo compreender e situar a problemática algorítmica no contexto da legislação pertinente. Por fim, o quinto capítulo é dedicado a investigar especificamente a discriminação algorítmica por motivos relacionados à sexualidade através da análise de casos concretos, onde tentar-se-á buscar possíveis soluções para evitar essa forma de discriminação.

This essay aims to address aspects related to discrimination through algorithmic biases, having as main thematic focus the impacts of automated decisions on sexual minorities. The defended idea is that the transfer of human beings' decision-making capacity to machine learning algorithms is not able to eliminate the prejudices inherent to human subjectivity, as the algorithms can bring with them the social biases embedded in the programming or “learn” the prejudice through interaction with big data. Thus, decisions made by algorithms, although apparently neutral, are capable of violating the principle of equality and non-discrimination, negatively impacting women, homosexuals, and, particularly, transgender people. Based on these premises, the first two chapters of this essay are dedicated to the necessary interlocutions between law and sexuality in an attempt to demonstrate that the Brazilian legal system does not tolerate any forms of negative discrimination for reasons related to sex (gender), sexual orientation or identity. genre. Then, from the third chapter, we seek to investigate and understand the philosophical bases of a society increasingly governed by algorithms and data. It is also where terms and concepts usually used in the description of modern technological phenomena, such as machine learning, internet of things and big data, will be discussed. It also seeks to understand how the biases of the algorithms and the solutions to mitigate their harmful potential and avoid the occurrence of discrimination occur. In a continuous act, in the fourth chapter, the decisions made by algorithms are analyzed in the light of the rules for the protection of personal data, aiming to understand and place the algorithmic problem in the context of the relevant legislation. Finally, the fifth chapter is dedicated to investigating specifically algorithmic discrimination for reasons related to sexuality through the legal analysis of specific cases, where an attempt will be made to seek possible solutions to avoid this form of discrimination.