Racismo Algorítmico

O racismo algorítmico e a continuidade e fortalecimento do racismo estrutural

Por Fabiana Conceição*

Mês passado, a deputada estadual do Rio de Janeiro Renata Souza que pediu a um aplicativo de inteligência artificial para criar a sua personagem no estilo Disney Pixar para entrar em uma trend e foi vítima de racismo pelo algoritmo, A deputada havia solicitado uma mulher negra em uma favela e com um blazer que tivesse estética africana. O que a Inteligência criou foi a imagem de uma mulher negra, com a favela ao fundo e uma arma de fogo na mão.

Com esse fato e as discussões geradas sobre racismo algorítmico, me lembrei que há anos, quando os shoppings substituíram as toalhas de papel por secadores automáticos, eu nunca conseguia secar minhas mãos, eles simplesmente não funcionavam para mim.

Um dia, no banheiro, estava com uma amiga de pele clara e ela conseguiu usar o secador enquanto eu ainda lutava para secar minhas mãos. Brincamos naquele momento, dizendo que eu simplesmente não sabia como usar.

Me lembrei desse exemplo porque na época me incomodou bastante e compartilhando com outras pessoas negras, elas também falavam que a o secador não funcionavam corretamente com elas.

Não era verdade que eu não sabia usar, a verdade era que o secador não conseguia identificar meu tom de pele porque provavelmente os testes realizados no protótipo, não incluíram todas as tonalidades de pele.

Anos se passaram, a tecnologia tem seguido um avanço progressivo e esses avanços trazem consigo a perpetuação do racismo estrutural. Às vezes, de forma dissimulada, como em um filtro de uma rede social, onde padrões de beleza eurocêntrico são reforçados com clareamento de pele e afilamento do nariz, ou nesse exemplo da deputada, que mostra o viés racista que relaciona pessoas negras e de comunidades periféricas à criminalidade.

Infelizmente, os algoritmos não têm reforçado apenas estereótipos, mas têm sido protagonistas em tomada de decisões importantes, determinando quem tem mais chances de sobreviver em emergências hospitalares e sendo fator de decisão para a prisão injusta de pessoas negras  inocentes.

Um estudo da Universidade de Chicago apresentou que os algoritmos em bancos de dados de hospitais estavam frequentemente privilegiando atendimento de pacientes brancos em detrimento de pessoas de outras etnias com problemas de saúde mais graves.

No documentário Coded Bias, a pesquisadora do MIT Joy Buolamwini, denuncia como os sistemas de reconhecimento facial tem dificuldade em identificar rostos de pessoas negras e mulheres, mostrando o quanto os algoritmos perpetuam preconceitos raciais e de gênero.

Além disso, o documentário destaca os riscos do uso da tecnologia de vigilância e do uso de algoritmos em processos de tomada de decisão, que vem impactando na contratação de pessoas, na análise de créditos e até na justiça criminal, levando à criminalização injusta de grupos sub representados, como a população negra.

Trazendo a discussão para nosso país, um estudo do Condege (Colégio Nacional de Defensores Públicos Gerais), em parceria com a Defensoria Pública do Rio de Janeiro, apresentou as falhas no reconhecimento facial de pessoas não brancas, onde 83% das pessoas presas injustamente eram negras.

As produções humanas não são neutras e acabam por refletir e reforçar padrões de comportamentos que vivemos em nossa sociedade, como somos estruturalmente racistas, o como e o POR QUEM  as tecnologias são desenvolvidas, pode continuar perpetuando e até amplificando  essa  estrutura racista para um futuro cada vez mais distante.

A diversidade e a inclusão são elementos essenciais em todos os espaços, e quando falamos de desenvolvimento tecnológico, a importância e impacto no nosso presente e a perspectiva como ferramenta indispensável e diretiva do nosso futuro como sociedade, é fundamental garantir que haja a inclusão de pessoas diversas, com experiência, vivencias e perspectiva de mundo diferentes para que na criação e aprimoramento de novas tecnologias, possamos trazer esses olhares diversos em suas criações. Caso contrário, vamos continuar perpetuando a exclusão, a discriminação e o genocídio da população negra, reverberando um futuro racista e excludente, como foi no passado e como é nosso presente.

*O texto produzido pelo autor não reflete, necessariamente, a opinião do Portal VSP

Fabiana Conceição
Colunista VSP

Baiana, mulher negra, mãe de Janaína e Dandara, Fabiana é pedagoga com especialização em psicologia organizacional e diversidade e inclusão e tem pós em Gestão de Projetos. Pesquisadora e palestrante sobre o tema Racismo e Preconceito, é educadora antirracista. É ainda especialista em desenvolvimento de talentos e diversidade, equidade e inclusão na Talento Incluir.

Imagem: Reprodução Documentário “Coded Bias“

Siga o Viver Sem Preconceitos nas Redes Soc1iais

Curta, comente, compartilhe…
Vamos fazer do mundo um lugar melhor para se viver,
um lugar com menos preconceitos!

O Portal Viver Sem Preconceitos autoriza a reprodução de seus conteúdos -total ou parcial- desde que citada a fonte e da notificação por escrito.
Para o uso de matérias e conteúdos de terceiros publicados aqui, deve-se observar as regras propostas por eles.