Para entender o que é o racismo algorítmico, precisamos antes entender qual é a real função da Inteligência Artificial. A IA é um conjunto de comandos que consegue desde identificar os gostos do usuário até realizar milhares de cálculos em segundos sem a intervenção humana.
Com a inteligência artificial, os conteúdos se tornam mais atrativos, pois ela identifica os gostos dos usuários com base no que consomem, e assim, as pessoas passam a consumir ainda mais.
Tarcizio Silva, autor do livro “Racismo algorítmico: inteligência artificial e discriminação nas redes digitais” define o racismo algorítmico como “o modo pelo qual a atual disposição de tecnologias, imaginários sociais e técnicos fortalece a ordenação racializada de conhecimentos, recursos, espaço e violência em detrimento de grupos não-brancos”.
Quer entender mais sobre inteligência artificial e sustentabilidade? Confira o conteúdo do Projeto Direito ao Desenvolvimento: Inteligência Artificial e sustentabilidade: o poder transformador da tecnologia!
Ou seja, trata-se de como estes algoritmos, cada vez mais presentes em nosso cotidiano, tomam decisões que reforçam padrões discriminatórios da sociedade.
- O incidente da câmera fotográfica
Um dos primeiros casos de racismo algorítmico foi apontado em janeiro de 2010, quando uma marca de câmeras fotográficas não reconhecia rostos asiáticos por um recurso que evita selfies com olhos fechados. A marca desenvolveu um recurso que avisava se as pessoas estavam com olhos fechados e rostos pessoas asiáticas acabavam recebendo o alerta também.
- O caso do Google Fotos
Em junho de 2015 o algoritmo do google categorizou pessoas negras como “gorilas”. A inteligência artificial do Google não era capaz de distinguir a pele de um ser humano da dos macacos, como gorilas e chimpanzés. O Google pediu desculpas pelo ocorrido e a solução foi a retirada de gorilas do buscador, dois anos depois.
- A polêmica das tranças
O caso ocorreu em 2019, quando resultados de buscas no google por “tranças bonitas” e “tranças feias” surpreendeu os usuários: na primeira pesquisa, foram exibidas imagens de mulheres brancas e de cabelo liso; na segunda, mulheres negras de cabelo cacheado e crespo.
A discussão iniciou no twitter e algumas pessoas ficaram desapontadas com esses resultados. O Google se manifestou depois da repercussão do caso, argumentando que tais resultados refletem os estereótipos existentes tanto na internet como na vida real, mas que iriam trabalhar para melhorar isso.
Esses são apenas alguns dos exemplos de como a problemática está presente no mundo digital, e de como as inteligências artificiais intensificam o racismo que já está enraizado em nossa sociedade.
Quais os impactos do racismo algorítmico em nossa sociedade?
O racismo estrutural não diz respeito a um ato discriminatório isolado, mas um processo histórico em que condições de desvantagens e privilégios a determinados grupos étnico-raciais são reproduzidos nos âmbitos políticos, econômicos, culturais e nas relações cotidianas.
O racismo algorítmico intensifica ainda mais como a estrutura que vivemos ainda é muito discriminatória e excludente. E isso traz diversas consequências negativas para a sociedade.
O Google é um dos sites de busca mais utilizado pelas pessoas em todo o mundo. Diversas pesquisas são feitas todos os dias, sendo uma das principais ferramentas de busca de acesso a informações. Os usuários que as buscam confiam na plataforma e são influenciados por ela.
Muitas vezes, as pessoas tomam decisões orientadas pelos primeiros resultados, e como já visto, nem sempre o algoritmo usa os dados de modo adequado. Por exemplo, a profissional de relações públicas Luana Daltro, 26 anos, que descobriu sua foto publicada entre os primeiros resultados de busca do Google para as palavras “cabelo feio”, juntamente com outras imagens de mulheres negras.
Essas informações podem ser utilizadas para pesquisas e levantamento de dados e, com certeza, reforçam preconceitos e estereótipos relacionados a população negra na sociedade.
Diante desse contexto, o racismo algorítmico torna constante as microagressões na internet. Estas se configuram como um comportamento verbal ou não verbal sutil, dirigido a um membro de um grupo marginalizado.
A medida em que pessoas que não estão dentro do padrão (negros, indígenas, pardos e mestiços) não são representadas nas mais diversas plataformas online, casos de racismo algorítmico como os já citados podem acontecer, trazendo constrangimento às pessoas afetadas.
Um exemplo disso ocorreu em 2022, em que um sistema de reconhecimento facial de um aplicativo bancário não reconheceu o rosto de um correntista negro. Essas falhas no sistema dizem muito sobre como o racismo está enraizado em nossa sociedade, e mais presente do que pensamos no meio digital.
Como combater o racismo algorítmico?
Ainda não existe uma regulação própria para algoritmos, e assim, casos com viés racista acontecem e irão continuar acontecendo. É certo que o racismo algorítmico não é produzido pelas máquinas, os seres humanos que criam e estimulam preconceito, e por isso, empresas e profissionais da computação tem um papel muito importante nessa luta.
É necessário que as empresas de tecnologia possam receber formações acerca do racismo algorítmico, um assunto que precisa ser discutido e combatido.
Além disso, o racismo algorítmico pode ser evitado através de uma maior diversidade na base de dados que alimentam o software. Portanto, a heterogeneidade de profissionais influencia muito em como as inteligências artificiais são desenvolvidas, sendo a pluralidade fundamental dentro de toda e qualquer empresa.
Outra forma de combater o racismo algorítmico é o desenvolvimento de testes prévios, observando se o sistema apresenta a tendência de tratar perfis étnicos e de gênero de forma diferente.
Ademais, promover grupos de pesquisa e organizações que mostrem o impacto do racismo algorítmico na sociedade, bem como os sistemas que amplificam essa forma de discriminação.
Com isso, teremos uma população mais crítica que possa pressionar empresas desenvolvedoras, assim como o governo.
No Brasil, já existem iniciativas que buscam diminuir dinâmicas e estereótipos racistas, como exemplo temos a Info Preta e Kilombo Tech, empresas do ramo tecnológico que incentivam a introdução de pessoas negras no mercado, dinamizando a atuação delas no meio digital e evitando a exclusão.
O racismo algorítmico é um assunto que merece atenção
Diante dessas informações, o racismo algorítmico é uma discussão que precisa ser mais reconhecida. A discriminação por meio de algoritmos em plataformas e softwares tem se tornado cada vez mais frequente, mostrando o quanto a sociedade ainda é influenciada pelo racismo estrutural existente.
As situações citadas durante o texto nos mostram o quanto ainda há desigualdade racial no Brasil, sendo as minorias e grupos racializados as principais vítimas.
Saiba mais: O que são as minorias?
E aí, conseguiu entender o que é o racismo algorítmico e a importância do combate a esse tipo de discriminação? Deixe suas dúvidas e sugestões nos comentários.
Referências:
PUC Minas – Racismo algorítmico: o preconceito na programação
Insper – As máquinas podem ser racistas? Como evitar a discriminação algorítmica
Joana Josiane Andriotte Oliveira Lima Nyland – Racismo algorítmico: uma revisão de literatura
