Algorítimos racistas e uma oportunidade de mudar o mundo

 

Descrição de imagem: Captura de tela onde se podem ver lado a lado uma figura de um homem branco idoso e o ex presidente dos estados unidos Barack Obama com a pele clareada numa montagem.

No último fim de semana as redes sociais foram tomadas por uma onda de indignação quando alguns usuários do Twitter descobriram que o algoritmo das miniaturas das fotos que é programado pra mostrar a parte mais relevante de uma imagem quando ela não está sendo completamente exibida na tela prioriza rostos brancos em detrimento de faces negras.

Os usuários demonstraram que quando você coloca numa mesma imagem uma pessoa branca e uma pessoa negra numa imagem vertical, independente da posição delas, o algoritmo sempre vai dar prioridade pro rosto da pessoa branca e esse teste foi repetido à exaustão por usuários nas plataformas, apesar de haver alegações de pesquisadores que isso não acontece em outras situações (vide fonte).

A discussão sobre o cyber racismo nas redes sociais não surgiu agora, 

muito se contesta sobre a priorização de pessoas brancas em detrimento das demais em plataformas como Instagram, YouTube e outros. Porém a gente pode se questionar se essas plataformas não estão apenas reproduzindo o racismo estrutural.

Independente disso, diante das constatações feitas por esses usuários e das reclamações que já vêm sendo feitas há muitos anos, penso que as redes sociais têm uma ferramenta de modelação comportamental nas mãos e que podem usar essas algoritmos de forma ativa para corrigir injustiças sociais que são cada vez mais provadas de forma estatística.

Precisamos também falar sobre a responsabilidade social dessas empresas, 

pois eles não estão apenas refletindo a sociedade, tendo em vista a grande recentes evidências de que eles manipulam o comportamento dos usuários tendo em vista fortalecer o engajamento das redes e vender propagandas.

A sociedade precisa se mobilizar e cobrar para que atitudes sejam tomadas para pensar em redes sociais que sejam socialmente sustentáveis e não reproduzam e/ou incentivem comportamentos danosos em detrimento do lucro.

Além disso, podemos destacar que uma posição ativa dos detentores dessas ferramentas no combate a discriminação pode ser uma grande vantagem contra esta forma de violência, e por que não, uma oportunidade de criarmos um mundo mais justo.