Algoritmos Racistas: Fronteiras entre Tecnologia e Inovação

Palestrante: Adriana Marques Data: 30 de Abril de 2025

O que eu aprendi

A palestra teve um caráter mais de ¨roda de conversa¨ e foi muito rico através do incômodo gerado sobre a pergunta ¨Pode um algoritmo ser racista?¨. Muitos exemplos logo surgiram, como o fato dos algoritmos identificarem rostos de pessoas negras de maneira discriminatória. Algumas pessoas concordaram inicialmente ou parcialmente. Parcialmente porque acreditam que ¨somente¨ o banco de dados pode ser racista e o código acaba somente por revelar isso quando esses dados são lidos. Outras pessoas se incomodaram por achar que o fato de o algoritmo ser racista é devido a uma sociedade racista. Esses dois pensamentos são muito perigosos, pois dão a entender que a tecnologia é neutra, e não é. A tecnologia é carregada de significados e tendências sociais. E sim se a sociedade é racista, o código transparece isso, é o nosso dever enquanto desenvolvedores de tecnologia acabar com isso na inovação e desenvolvimento de tecnologia.

Para que serve

Esse conhecimento serve para nos atentarmos a um problema enraizado na sociedade que é o racismo e se não fizermos nada estaremos propagando o racismo via tecnologia, principalmente via software. Se estamos na sociedade do software deve ser pelo software que o racismo deve ser combatido.

Como se aplica ao meu trabalho

No meu trabalho devo utilizar alguma coleta de dados sobre as pessoas que necessitam de algum desenvolvimento de tecnologia. Entendo que devo ficar atento para ter uma leitura cuidadosa se algum caso de racismo estrutural possa estar vindo embutido nesse desenvolvimento. E para além disso como trabalho com desenvolvimento de software pensar em sempre que for escrever uma interface ou um banco de dados colocar linhas de código explicita que identifiquem algum viés racista no algoritmo.