Por: Wagner Silva e Nathalia Levy Fotos: Getty Images e Divulgação
Máquinas e robôs não estão imunes a reproduzir discriminação e racismo. Afinal, os sistemas seguem as agendas de quem os constrói, de como eles são desenvolvidos e por quem eles são usados.
ELLE.COM.BR
Separamos exemplos que, por mais absurdos que possam soar, provam que o racismo algorítmico está presente e ativo em muitas tecnologias do nosso dia a dia.
ELLE.COM.BR
Na fotografia, a mulher branca foi padrão de calibração de cores durante muito tempo graças ao cartão de padronização da Kodak dos anos 1950, chamado Shirley. Shirley era uma mulher branca de olhos claros e cabelos castanhos.
ELLE.COM.BR
ELLE.COM.BR
A ideia era que, se Shirley saísse bem na foto, então a calibração das cores estaria correta. Demorou décadas para criarem cartões mais diversos, e isso só aconteceu pela pressão de empresas de chocolates e móveis.
ELLE.COM.BR
A cientista da computação Joy Buolamwini estava trabalhando em um software de análise facial quando percebeu que ele não detectava o seu rosto, mas o de seus colegas brancos do MIT, sim.
ELLE.COM.BR
Ela precisou usar uma máscara branca para concluir o projeto e, por causa disso, criou a Algorithmic Justice League para debater a urgência de vieses racistas na tecnologia.
ELLE.COM.BR
Em 2016, foi criado um concurso de beleza internacional online, em que os jurados foram substituídos por máquinas. Mais de 6 mil pessoas de 100 diferentes países se inscreveram, mas quase 100% das escolhidas como as pessoas mais bonitas do mundo eram brancas.
ELLE.COM.BR
O algoritmo não havia sido programado para entender a pele branca como um sinal de beleza, mas a falta de diversidade no seu banco de dados fez com que isso acontecesse.
ELLE.COM.BR
Aplicativos de fotos são campeões em classificar pessoas negras de forma racista. A tecnologia de reconhecimento facial do Google costumava dizer que os cabelos de mulheres negras eram perucas. Em um caso ainda mais grave e disseminado, ele associou o rosto de pessoas negras a gorilas.
ELLE.COM.BR
Mais recentemente, fotos de pessoas usando uma ferramenta de medição de temperatura foram classificadas como armas quando seguradas por mãos negras, mas como "tools" (ferramentas) quando utilizadas por mãos brancas.
ELLE.COM.BR
Para ver mais exemplos, confira a matéria "Parece bug, mas é racismo mesmo", da ELLE View.