Racismo algorítmico em plataformas digitais: microagressões e discriminação em código - Tarcízio Silva

Prévia do material em texto

Racismo algorítmico em
plataformas digitais:
microagressões e discriminação em código
foto: suyane Ynaya (instagram)
Tarcízio Silva
 Não tem consenso entre os autores sobre o impacto da
internet nos grupos identitário; 
 Mas estes já apontam que os processos da construção das
tecnologias digitais de comunicação e da ideologia do Vale do
Silício são racializadas, fundamentado na lógica da supremacia
branca.
 O foco em casos pontuais de práticas ou modalidades
específicas e explícitas de discurso racista só abarcam parte da
questão, pois o racismo nas tecnologias digitais está, muitas
vezes, em processos “invisíveis” nos recursos automatizados
como recomendação de conteúdo, reconhecimento facial e
processamento de imagens.
Racismo Algorítmico em
 Plataformas Digitais
...O racismo online é um “sistema
de práticas contra pessoas
racializadas que privilegiam e
mantem poder político, econômico e
cultural para os brancos no espaço
digital” 
Tynes, Lozada, Smith &
Stewart, 2019, p.195
Através da “plataformização” uma espécie de integração
que priorizou a concentração de dados e valor – inclusive
financeiro – em poucas empresas. Que permitiu o
investimento estratégico contínuo de análise e otimização 
 fluxos de monetização da audiência, publicidade e
comportamento de seus usuários. 
Apesar de manter no discurso ideais de liberdade e
horizontalização das relações, a plataformização da
comunicação e economia significa concentração
internacional de fluxos de dados e capital.
Plataformização, algoritmos e raça online
“uma sequência finita de
instruções precisas que
são implementáveis em
sistemas de computação” 
Osoba & Welser IV, 2017, p.5
Os sistemas algorítmicos tomam decisões pelas pessoas cada
vez mais frequente e automatizada, muitas vezes sem os
usuários perceberem, decisões que vinham da reflexão
humana.
Estas decisões impactam em diferentes níveis, podendo
influenciar o comportamento e condutas de seus usuários de
forma silenciosa, na maioria dos casos que perpetuam as
relações de poder e opressão existentes na sociedade.
Este é um dos grandes desafios e problemas da lógica do
aprendizado de máquina.
Presente na forma como historicamente os processos
algorítmicos foram sendo constituídos que resultaram
no enviesado de sistemas que intensificam
discriminações e opressões. 
Os algoritmos foram feitos por pessoas, que mesmo de
maneira inconsciente, os enviesaram e por isso tem
responsabilidade nisso.
Pensando na sutileza das algorítmicas o texto trata das
“microagressões” digitais para o estudo do racismo
algorítmico. 
Os casos de racismo algorítmico aparecem à
medida que são gerados relatórios, reportagens e
guias de auditoria e ação sobre aspectos
discriminatórios em diversos dispositivos
midiáticos como análise de recomendação de
conteúdo, anúncios, reconhecimento facial e visão
computacional, buscadores. 
Racismo como sistema
sociopolítico global 
O conceito de microagressão é do psiquiatra Chester
Pierce (1969;1970) ...que afirma que aparatos da
educação e mídia criam um ambiente que tem ações
ofensivas sutis, violentas (não fisicamente) e que seus
efeitos só podem ser percebidos se considerar o
processo contínuo.
As microagressões raciais são “ofensas verbais,
comportamentais e ambientais comuns, sejam
intencionais ou não intencionais, que comunicam
desrespeito e insultos hostis, depreciativos ou negativos
contra pessoas de cor” (Sue, 2010a, p. 29).
microinsultos
mensagens rudez,
insensíveis, que
desprezam a
herança racial de
um indivíduo;
microinvalidações
mensagens que
excluem, negam ou
anulam as reflexões
psicológicas,
sentimentos ou
realidades
experienciais
microataques
mensagens com
ataque violento verbal,
não-verbal ou violento
com intenção de
machucar a vítima.
Existem três tipos de microagressões (SUE, 2010a, p.29):
Suposição de Criminalidade
Este é o mais conhecido no Brasil, principalmente na forma presencial, trata de supor que
uma pessoa racializada tem mais chance de ser criminosa por causa de sua raça.
Negação de Realidades Raciais / Democracia Racial
Outro tipo de microagressão comum na realidade brasileira, a defesa equivocada – talvez
estratégica para a branquitude – que é ideia de “democracia racial”.
Patologização de Valores Culturais
Considerar manifestações, como as religiões afrobrasileiras e africana, a beira de patologias.
Suposição de Inferioridade Intelectual
Especialmente relevante no contexto educacional, onde a distribuição de oportunidades,
reprimendas ou atenção por agentes educacionais não é igualitária. Também ocorrem no ambiente
de trabalho.
Exotização
A patologização se une com a exotização das populações racializadas, nas opressões
interseccionais. Por exemplo, a exotização de mulheres racializadas soma-se à misoginia o
que resultam em hipersexualização.
Estrangeiro na Própria Terra / Negação de Cidadania
Os grupos minorizados quantitativamente, são não são considerados cidadãos efetivos da seu
próprio local de origem, acontece com os povos indígenas.
Exclusão ou Isolamento
Comportamentos que geram exclusão ou isolamento dos indivíduos racializados, de modo a não se
sentirem pertencentes de um determinado grupo nas relações interpessoais, educacionais ou
laborais.
Suposição de
Criminalidade
Sistema do Google
permite empresas
exibirem anúncios
sobre crime especifica-
mente a
afroamericanos
(Sweeney, 2013)
Ca
so
s d
e r
ac
ism
o a
lgo
rít
mi
co Negação de
Cidadania
Google Photos
marca fotos de
jovens negros com
a tag “Gorila”
Negação de
Realidades
Raciais
Facebook esconde
manifestações
contra violência
policial racista
(Tufekci, 2014)
Microinsulto Microinvalidação Micoinsulto
OPRESSÕES
ALGORÍTMICAS
COMO
MICROAGRESSÕES
A capacidade de editorialização dos algoritmos e interfaces
das plataformas geram ou moldam informação e
desinformação. 
 O grupo minorizadose depara com esta incoerência na
cobertura e citação dos temas que os afetam.
A forma como as decisão algorítmica de visibilidade e
invisibilidade e a maneira como buscadores selecionam
resultados não é apresentado de maneira transparente.
Os tecnoliberais argumentam que os resultados apenas refletem a produção disponibilizada na internet. 
Noble para os perigos da hipervisibilidade negativa, hipersexualizada e a invisibilidade nos resultados de
exemplos positivos como “família” ou “bebês”, no caso dos bancos de imagens, pode causar um efeito em
cascata
Nomeando, identificando e reagindo
“proteções contra microagressões ou racismo
encoberto são mais elusivas, uma vez que é
frequentemente difícil detectar e abordar as
microagressões devido a sua natureza intricada
e insidiosa"
Levchak, 2018, p.15
conhecimento intelectual de como o racismo opera em algoritmos,
plataformas e afins; 
inteligência emocional para agir em situações racialmente
problemáticas em organizações;*
compromisso de tomada de ações para deduzir o dano a
comunidades. 
Para os grupos minorizados, a identificação das microagressões e suas
taxonomias podem ajudar “a ‘nomear suas dores” e engajar-se em
estratégias anti-opressivas;
Daniels, Nkonde e Mir (2019) apontam três fundamentos essenciais
para a compreensão midiática sobre a relação entre raça e tecnologia: 
Uma perspectiva tanto interdisciplinar quanto interinstitucional de
atuação e reflexão sobre os algoritmos é urgente.
Nomeando, identificando e reagindo