Com o avanço da tecnologia e a crescente adoção da inteligência artificial (IA), um novo debate vem ganhando força: o impacto do racismo algorítmico na vida da população negra. Mas, antes de avançar na discussão, você sabe dizer o que significa esse termo?
Fruto do racismo estrutural, que reproduz em todos os sistemas institucionais, culturais e econômicos a violência contra pessoas negras, o racismo algorítmico, de acordo com o pesquisador sênior de Políticas de Tecnologia da Fundação Mozilla, Tarcízio Silva, é “uma espécie de atualização do racismo estrutural”, que irá perpetuar as desigualdades raciais por meio de ferramentas tecnológicas, como é o caso da inteligência artificial.
Continue o texto e saiba mais sobre:
- O que é o racismo estrutural.
- Como o racismo estrutural influencia o racismo algorítmico.
- Qual é o impacto disso sobre a população negra.
- Importância de regular o desenvolvimento da inteligência artificial para garantir maior justiça e equidade.
Boa leitura!
O que é o racismo estrutural
O racismo estrutural é o termo utilizado para se referir ao conjunto de práticas, políticas e normas que estruturam e reforçam as desigualdades raciais em uma sociedade. Portanto, ele está presente em todas as instituições: desde sistemas educacionais, de saúde, até o mercado de trabalho e sistema judiciário, promovendo barreiras sistemáticas a grupos raciais marginalizados, especialmente a população negra.
No contexto brasileiro, o racismo estrutural está profundamente enraizado e impacta violentamente a vida de negros e indígenas, enquanto privilegia brancos e pessoas de pele mais clara. Uma prova disso é que, em 2022, a proporção de brasileiros negros que viviam abaixo da linha da pobreza era de 70,3%, enquanto brancos representavam a fração de 28,7%, de acordo com os dados do Instituto Brasileiro de Geografia e Estatística (IBGE).
Desse modo, o racismo estrutural se manifesta em diferentes instituições, de maneiras distintas: Pode ser por meio de:
- Desigualdade econômica.
- Dificuldade de acesso a empregos de qualidade.
- Disparidades salariais.
- Taxas desproporcionalmente elevadas de encarceramento de negros.
- Sub-representação nos cargos de liderança e poder.
O fato é que essas desigualdades não são acidentais, nem tão pouco recentes. Mas, ao contrário: elas refletem séculos de opressão e exclusão sistemática. Mesmo quando não há a intenção de discriminar diretamente, os sistemas construídos sob essas bases continuam a prejudicar a população negra e indígena todo dia.
Como o racismo influencia no racismo algorítmico
Com o uso cada vez mais massivo da inteligência artificial, tem se evidenciado uma série de violências voltada aos grupos marginalizados no mundo virtual. E uma dessas violências está diretamente relacionada ao racismo algorítmico.
O termo, que é uma extensão do racismo estrutural, faz referência ao viés racial que pode estar presente nos algoritmos utilizados em diferentes áreas, como reconhecimento facial e até mesmo decisões judiciais. Especialistas explicam que isso ocorre porque algoritmos são baseados em dados e padrões preexistentes, o que significa que, se os dados refletem uma sociedade racista, os algoritmos, inevitavelmente, herdam esses vieses – e é justamente isso que acontece.
Portanto, o racismo estrutural influencia diretamente o racismo algorítmico, já que, quando os sistemas de inteligência artificial (IA) são treinados com dados históricos que refletem desigualdades raciais, esses sistemas vão reproduzir os mesmos preconceitos, perpetuando discriminações e violências, exatamente como opera o racismo estrutural.
De que forma isso afeta a população negra?
O racismo algorítmico impacta profundamente a vida da população negra, uma vez que:
- Reforça estereótipos negativos.
- Aumenta a desigualdade econômica.
- Intensifica o estigma social.
- Incita a violência e o ódio contra essas pessoas.
A seguir, entenda melhor como o racismo algorítmico se manifesta no ambiente virtual e afeta a vida do povo negro.
Algoritmos de contratação
Quando os algoritmos de contratação são alimentados com dados de empresas onde a maioria dos funcionários exerce cargo de liderança, é criada uma base de dados na qual prioriza majoritariamente a candidatura de perfis semelhantes, excluindo pessoas negras e indígenas de acessar tais oportunidades.
Algoritmos de segurança pública
Outra situação que ocorre é quando os algoritmos usados no setor de segurança pública são baseados em dados enviesados. Isso faz com que a vigilância sobre bairros majoritariamente negros aumente, perpetuando ciclos de criminalização e violência contra os corpos pretos.
Algoritmos de reconhecimento facial
Estudos apontam que os sistemas de reconhecimento facial têm maior precisão na hora de identificar rostos de pessoas brancas, enquanto, frequentemente, falham ao identificar pessoas negras. Isso é bastante preocupante, já que a dificuldade de gerar o reconhecimento facial pode ser utilizado para corroborar com falsas acusações e prisões injustas.
Algoritmo na saúde
Ao utilizar algoritmos para prever riscos de saúde com base em dados historicamente racistas (os quais levam em conta apenas informações de saúde da população branca), eles acabam subestimando as necessidades médicas de pessoas negras. E isso pode resultar em negligência com a saúde desses pacientes, através de diagnósticos equivocados e até mesmo indicação de tratamentos inadequados, por exemplo.
Importância da regulação das IAs
O racismo algorítmico reproduz e amplifica as violências e exclusões que a população negra enfrenta. Além disso, o fenômeno se mostra particularmente perigoso porque, ao ser incorporado em sistemas automatizados (como a inteligência artificial), o racismo se torna ainda mais difícil de identificar e combater. Diante disso, a regulação das inteligências artificiais representa um passo importante na luta antirracista.
Atualmente, muitas tecnologias de IA são desenvolvidas sem supervisão adequada, o que permite que padrões éticos sejam frágeis e vieses raciais se infiltrem nos sistemas. Portanto, regulamentar o desenvolvimento e a aplicação da inteligência artificial é essencial para garantir que essas ferramentas sejam usadas de forma justa e equitativa.
Para isso, a regulamentação precisa levar em conta o processo de criação de IA desde o início, a fim de garantir que os dados utilizados para treinar os algoritmos sejam diversificados e representem de forma justa todas as populações.
A regulamentação também deve exigir transparência nos processos de desenvolvimento dos algoritmos, para que os vieses racistas sejam identificados e corrigidos antes de causar danos. É importante também considerar:
- Criação de auditorias regulares.
- Que profissionais especializados em ética e direitos humanos estejam à frente nas equipes responsáveis pelo desenvolvimento das tecnologias.
- A responsabilidade judicial para empresas e governos que utilizem os sistemas de inteligência artificial para quaisquer práticas racistas.
O racismo estrutural está sempre se renovando, a fim de perpetuar as desigualdades e violências contra as pessoas marginalizadas, principalmente, as negras e indígenas. O racismo algorítmico é a prova disso e, portanto, precisa ser encarado como um problema social a ser combatido.
Mas, para que a inteligência artificial seja utilizada de forma benéfica para todos, é necessário garantir que seu desenvolvimento e aplicação sejam guiados por princípios éticos sólidos e por uma forte regulamentação.
O combate ao racismo, seja ele explícito ou velado, exige vigilância constante e o compromisso de construir sistemas que sejam verdadeiramente justos e inclusivos.
Como driblar o racismo algorítmico?
Além da regulação das IAs, é essencial adotar estratégias para driblar o racismo algorítmico e contribuir efetivamente com a luta antirracista, para que todos tenham uma experiência mais humana, mais diversa, longe do racismo e de qualquer outro tipo de crime e discriminação. Confira algumas ações que podem ajudar a minimizar esse tipo de viés e promover uma tecnologia mais inclusiva – tanto para empresas quanto para usuários:
- Promover um espaço com múltiplas perspectivas, com pessoas de diferentes origens, etnias e gêneros, pode contribuir para identificar padrões discriminatórios ou enviesados antes mesmo de o algoritmo ser implementado.
- Garantir qualidade e representatividades. Se a base de dados dos algoritmos estiver enviesada, o sistema provavelmente irá replicar esse padrão. Por isso, mais uma vez: é fundamental garantir diversidade de dados – para que sejam representativos e mais próximos à realidade, isto é, múltipla e diversa.
- Analisar e corrigir os dados constantemente. É essencial rever dados, identificar e corrigir problemas. Uma saída é realizar auditorias e testes regulares para detectar vieses racistas e discriminatórios e garantir a neutralidade do algoritmo.
- Uma boa estratégia, especialmente para os usuários, é alimentar a inteligência artificial com dados que promovam a diversidade e o respeito, ao invés de preconceito e discriminação.
- Utilizar plataformas de inteligência artificial que operam com transparência, isto é, que divulgam como seus dados são usados e como o sistema é treinado. Isso possibilita que o usuário entenda melhor o processo de tomada de decisão de uma empresa e questione suas ações, caso seja necessário.
- Apoiar iniciativas que estejam pautadas no compromisso ético, pois estas empresas costumam ter melhores mecanismos para reduzir o racismo algorítmico.
- Checar dados de plataformas de IA. Isso pode ser feito por meio de ferramentas que indicam a fonte dos dados utilizados por determinado conteúdo, por exemplo.
Agora que você já sabe o que é o racismo algorítmico, se quiser ler mais conteúdos para ver como a tecnologia pode ser usada para a construção de uma sociedade melhor, acesse o portal do Dialogando.
Até a próxima!
