Racismo Algorítmico e Ética

Prévia do material em texto

Av1 - Ciência de dados – mínimo 15 linhas
 A partir da reflexão sobre como o algoritmo pode ferir a ética, pesquise uma reportagem a respeito deste tema e escreva um texto de 15 linhas analisando como as organizações e os indivíduos podem contribuir para a construção de uma ética algorítmica.
Comentário base: Com o avanço das tecnologias e das redes sociais, vemos uma gama de informações e discursos sobre ética e cidadania dentro dessa teia. O racismo algorítmico surge juntamente com a criação de tecnologias que visam reconhecer rostos e identificar indivíduos através da inteligência artificial e uso de dados. Essa problemática se torna preocupante principalmente por conta da quantidade de erros que afetam os usuários negros quando o algoritmo mantém, em sua maioria, a predominância de rostos brancos nos bancos de dados. Na matéria produzida pela Folha de São Paulo, podemos ver que a iniciativa para a modificação desse desenvolvimento errôneo da tecnologia de dados parte de uma mulher negra que percebeu o quão prejudicial pode ser.
Em argumento, esse tipo de tecnologia afeta diretamente a quantidade de pessoas negras julgadas por crimes que não cometeram ou sendo confundidas com primatas em programação de reconhecimento facial na internet. É preocupante também a utilização desses algoritmos para a venda de beleza ideal em filtros de fotografia, já que a maioria detém características que afinam e clareiam os traços das pessoas. Assim como essa iniciativa de incluir mais diversidade no mercado da ciência de dados, é importante existir uma conscientização desse processo entre os usuários e o entendimento desse impacto na sociedade atual.
Resposta: O mundo de hoje é dominado pelas redes sociais. As vidas das pessoas, o dia a dia delas, muitas vezes, é regido por essas redes. Sendo feita por pessoas para pessoas, infelizmente, os preconceitos – e crimes, são refletidos no desenvolver e no utilizar delas. Em outubro de 2020, foi denunciado por “influencers” o racismo algorítmico no Instagram. A youtuber Sá Ollebar criou um experimento ao perceber a crescente queda nos seus índices de alcance digital, que consistiu na troca de sua foto de perfil por a de uma mulher branca. “O Instagram só entrega meu conteúdo para quem me segue, se uso foto de mulher branca! Esse assunto me pegou de jeito”. 
Esse relato infelizmente não é um caso isolado: é muito comum no twitter por exemplo, ao postar uma foto de uma pessoa branca ao lado de uma pessoa negra, a pessoa negra ser cortada da publicação. Tarcízio Silva, pesquisador, mestre em Comunicação e Cultura Contemporâneas pela UFBA e doutorando em Ciências Humanas e Sociais na UFABC, onde estuda racismo algorítmico e imaginários sociotécnicos de resistência, explica o racismo algorítmico, em uma de suas análises, como “uma camada adicional do racismo estrutural”, ou seja, o que acontece na internet nada mais é que um reflexo de toda a construção culturalmente racista não só do Brasil, mas do mundo inteiro. Ele destaca ainda a falta de interseccionalidade questionando quem produz essas tecnologias, quem escreve os códigos e qual o usuário-padrão imaginado por essas pessoas, querendo trazer atenção ao problema que é a falta de pessoas não brancas no desenvolvimento base.
Existem inúmeras instituições voltadas para o combate do racismo na internet como um todo. O Instituto Aqualtune Lab através de cartilhas, cursos, ciclos formativos, postagens, entre outras coisas, pauta o Direito, a tecnologia e a raça e como os três devem existir em comum acordo. Além da existência de coletivos como esse, a denúncia é uma chave importante para a construção de ambientes minimamente decentes para todos.
Referências:
SILVA, Tarcízio. (2019). Teoria Racial Crítica e a Comunicação Digital: conexões contra a dupla opacidade. Disponível em: https://www.researchgate.net/publication/338127347_Teoria_Racial_Critica_e_a_Comunicacao_Digital_conexoes_contra_a_dupla_opacidade/citation/download. Acesso em: 04 de abril de 2023
SILVA, Tarcízio. Linha do Tempo do Racismo Algorítmico. Blog do Tarcizio Silva, 2022. Disponível em: https://tarciziosilva.com.br/blog/posts/racismo-algoritmico-linha-do-tempo. Acesso em: 04 de abril de 2023
MORAIS, Yasmin. Digital Influencers denunciam racismo algorítmico do Instagram. Negrê, 2020. Disponível em: https://negre.com.br/digital-influencers-denunciam-racismo-algoritmico-do-instagram/. Acesso em: 04 de abril de 2023.