O que é racismo algorítmico e por que ele precisa ser discutido na escola?

Você já ouviu falar de racismo algorítmico? O termo ainda é novo, mas já faz alguns anos que pesquisadores da área de tecnologias digitais estão mapeando como os algoritmos, cada vez mais presentes em nosso cotidiano, tomam decisões que reforçam padrões discriminatórios da sociedade. O primeiro caso foi apontado em janeiro de 2010, quando câmeras fotográficas da Nikon não reconheciam rostos asiáticos por causa de um recurso para evitar selfies com olhos fechados. Em 2016, um estudo apontou que um software de análise de reincidência de crimes prejudicava réus negros e favorecia réus brancos. Era setembro de 2019 quando o Google lançou um algoritmo para identificação de discursos de ódio, mas que discriminava gírias de afro-americanos. Recentemente, o sistema de reconhecimento facial de um aplicativo bancário não reconheceu o rosto de um correntista negro.

Esses e muitos outros exemplos explicitam a forma como plataformas digitais, mídias sociais, aplicativos e recursos de inteligência artificial intensificam o racismo que estrutura as sociedades. Eles estão organizados numa linha do tempo interativa criada pelo pesquisador Tarcízio Silva, autor do livro Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. “Democracia racial e neutralidade na tecnologia são dois conceitos aparentemente distantes, mas se irmanam no propósito de ocultar relações de poder que constroem interpretações de mundo, naturalizam e aprofundam explorações e desigualdades”, descreve Silva, na introdução do livro. No podcast Comunicando em Preto, o autor explica que falar sobre racismo algorítmico não é apenas debater sobre como os sistemas computacionais tomam decisões, mas refletir sobre como as tecnologias digitais são construídas por poucos grupos, majoritariamente brancos e ricos, beneficiários do racismo estrutural.

Levar essa discussão recente para o espaço escolar, dentro de uma perspectiva da educação antirracista, é uma oportunidade para que educadores, gestão escolar e estudantes trabalhem questões centrais para a construção de uma escola para todas e todos, como letramento racial e letramento digital.

Racismo algorítmico e educação antirracista

Os algoritmos são alimentados por centenas de dados que nós fornecemos às plataformas e redes sociais, muitas vezes em busca de experiências digitais. Por exemplo, a indicação de um filme alinhado às suas preferências, a interação com um quiz, um filtro divertido ou um super desconto no produto que você pesquisa há meses. Desenvolver senso crítico sobre a nossa relação com os dados é essencial para o entendimento de como os algoritmos interferem na forma como vemos o mundo, em quais tipos de conteúdos consumimos e até mesmo nas emoções que sentimos.

Além disso, a compreensão de como o racismo estrutural se manifesta em diferentes vertentes do cotidiano é ponto de partida trabalhar uma educação antirracista. Refletir sobre racismo algorítmico e seus impactos sociais, através da perspectivaantirracista, se relaciona com conceitos de uma educação do século 21, como aprendizagem significativa, autonomia e educação para a cidadania. É o que defende a pesquisadora Soraya Roberta, mestre em Inovação em Tecnologias Educacionais e doutoranda em Computação na área de Inteligência Artificial pela Universidade Federal de Pernambuco. Em seu mestrado, ela relacionou a aprendizagem crítica proposta pelo Pensamento Computacional aos conceitos de Paulo Freire para a formação docente na Educação de Jovens e Adultos (EJA). Agora com o doutorado, está se debruçando sobre os vieses algorítmicos e os impactos para a educação.

“Se uma pessoa compreende o que é o racismo por meio de uma alfabetização e de um letramento baseado em uma pedagogia libertadora, então, ela conseguirá pensar na resolução de problemas ou na criação de perguntas que questionem práticas racistas, e não que engajem mais atitudes racistas. Estou trabalhando no doutorado com vieses algorítmicos, criando propostas para tentar mitigar discurso de ódio nas redes sociais por meio da computação. Meu doutorado não precisaria existir se as pessoas tivessem sido ensinadas que ser racista, sexista, homofóbica ou xenofóbica é errado”, diz.

Racismo, tecnologia e relações históricas de dominação e poder

A professora da Universidade Federal do Rio de Janeiro (UFRJ) Fernanda Carreira, que coordena o Laboratório de Identidades Digitais e Diversidade da instituição, defende que a compreensão do racismo algorítmico passa pelo entendimento da lógica colonial, segundo a qual mais do que discriminar alguns grupos sociais, é um sistema de manutenção de poder e dominação.

“Esses códigos algoritmos, mecanismos de inteligência artificial, aprendizado de máquina são definidos por padrões matemáticos, mas são também utilizados como artefatos de ameaças à princípios democráticos, discriminação e injustiça social. Não somente estão inviabilizando determinados sujeitos, como estão explorando corpos, histórias e indivíduos em prol de narrativas de soberania e de segregação. É uma lógica tecnológica de fato atrelada à colonização”, explicou durante a live O Impacto da Inteligência Artificial e dos Algoritmos no Racismo Estrutural, promovida pelo Vale do Dendê.

Ela propõe duas saídas para essa questão. A primeira é o combate à ideia consolidada de neutralidade e objetividade da tecnologia. “O viés é um direcionador da tecnologia e a gente nunca vai fugir dele. É por isso que diversificar o olhar, a problemática e as soluções talvez faça com que tenhamos uma produção mais democrática da tecnologia”. A segunda forma é a reinvidicação dos domínios sobre as narrativas, como propõe o movimento do afrofuturismo. “A reinvidicação pela ressignificação não só nos discursos, mas também dos espaços, a partir, sobretudo, da substituição dos sujeitos que estão pensando esse futuro”.