Prévia do material em texto
LETÍCIA OLIVEIRA • TATIANA AZEVEDO MASSACRES NO TIKTOK APOIO: Letícia Oliveira Tatiana Azevedo Aviso de gatilho: este documento contém imagens e assuntos extremos que envolvem transtornos alimentares, automutilação e violência. Sugerimos cuidado ao manusear e compartilhar. outubro de 2023 Conteúdos extremos nas redes sociais 3 Massacres no Tiktok 23 de outubro de 2023, 7h30. Um adolescente de 16 anos adentra a Escola Estadual Sapopemba - de onde é aluno - e dispara uma arma de fogo contra colegas da escola, vitimando fatalmente uma jovem de 17 anos e ferindo outras duas jovens. Pouco depois, imagens do atentado são vazadas e inundam as redes sociais. As imagens dos disparos são compartilhadas milhões de vezes no WhatsApp, Telegram, Twitter, Discord e Tiktok. O atirador, um tiktoker obcecado por fama e relativamente conhecido entre os jovens por divulgar conteúdo se envolvendo em situações controversas, rapidamente é reconhecido e vídeos seus são compartilhados à exaustão. Entre acalorados vídeos sobre as motivações para o atentado e homenagens emocionadas para a vítima, surgem vídeos onde o homenageado é o atirador. O Tiktok abriga a subcomunidade que faz apologia e idolatra autores de massacres escolares, supremacistas brancos e atiradores em série. Em março e abril de 2023, o Brasil assistiu a uma assustadora onda de ataques a escolas organizada por esta mesma subcomunidade. A pedido do Ministério da Justiça e Segurança Pública, o Twitter acabou por banir quase na totalidade as contas relacionadas a esta subcomunidade à época, desmantelando boa parte do grupo. No Tiktok, onde são compartilhadas as “edits”, vídeos de imagens dos massacres com homenagens aos seus autores, o grupo seguiu interagindo e se expandindo. Viciados em violência, movidos pelo sentimento de revolta contra a sociedade e contaminados por discurso de ódio, os jovens desta subcomunidade influenciam, recrutam e incentivam novos atentados a escolas. O Tiktok alega acolher uma comunidade diversa e se compromete com o combate ao ódio1. Na prática, o que se observa é o crescimento exponencial de conteúdos extremos, com apitos de cachorro e relacionados a discurso de ódio, protegidos pela invisibilidade aos usuários comuns. Se o conteúdo não é visto, não é denunciado, logo, permanece disponível. 1 https://www.tiktok.com/safety/pt-pt/countering-hate/ 4 Especializada em vídeos curtos, a plataforma Tiktok foi desenvolvida na China em 2016 e rapidamente se popularizou no mundo todo. Preferida dos jovens, a plataforma espelha a urgência de consumir entretenimento e informação em pouco tempo. Através do Tiktok, jovens se conectam, se exibem, se divertem, se informam e também desinformam. E muito. Ao contrário do que se poderia esperar de uma geração que já nasceu conectada à Internet, uma pesquisa recente evidenciou que os jovens podem estar mais sujeitos a teorias conspiratórias e desinformação que os adultos, o que é ainda mais agravado quando há uso de uma única rede social. Realizada nos Estados Unidos em 2022 e publicada2 em 2023 pelo Center for Countering Digital Hate - uma organização sem fins lucrativos dedicada à proteção dos direitos humanos e liberdades civis na internet - com cerca de mil adultos e mil adolescentes, a pesquisa apontou que 60% da população entre 13 e 17 anos naquele país acredita em desinformação. Ao mesmo tempo, a confiança e preferência por fontes jornalísticas diretas vem caindo neste mesmo grupo. A edição 2023 do Digital News Report3, um levantamento realizado pelo Reuters Institute e pela Universidade de Oxford apontou, entre os jovens, o uso crescente de intermediários para obtenção de notícias, além da ascensão do Tiktok e outras redes baseadas em vídeos curtos em detrimento de redes sociais tradicionais, como o Facebook. Os jovens, cada vez mais, preferem obter informação através de influenciadores ou celebridades e através das redes sociais, sites de buscas ou agregadores. Paralelamente, a confiança no jornalismo decresce quando em comparação com anos anteriores. ² https://counterhate.com/blog/belief-in-conspiracy-theories-higher-among-teenagers-than-adults-as-majority-of-americans-support- social-media-reform-new-polling-finds/ ³ https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2023 Contas brasileiras fazendo apologia a um dos autores de massacre Conta brasileira fazendo apologia à realização de massacre e usando bullying como justificativa 5 Este conteúdo mastigado, filtrado, processado e possivelmente enviesado por um intermediário pode colocar os jovens à mercê de desinformação contra assuntos vitais para a saúde e para a formação social deste grupo, como vacinação, migração, aquecimento global e supremacia branca. Há cinco anos, logo após o Tiktok ser classificado pela The New York Times como o “único bom app”, a Motherboard, seção especializada em tecnologia da revista Vice, denunciou a presença de conteúdo neonazista4 no Tiktok. Em 2021, o Tiktok foi acusado de reduzir o engajamento de usuários que mencionassem “Black Lives Matter” em seus perfis e ter banido termos ou assinalado como impróprios conteúdo que contivessem a palavra “black” - o que foi justificado pela plataforma como um erro de treino do algoritmo - enquanto vídeos de conteúdo neonazista e supremacista continuavam disponíveis na plataforma.5 No mesmo ano, a associação britânica Hope not Hate em conjunto com a fundação alemã Amadeu Antonio Foundation e o grupo sueco Expo Foundation publicaram um relatório6 sobre antissemitismo nas redes sociais. Foi constatado que apenas três hashtags relacionadas ao antissemitismo já haviam sido vistas mais de 25 milhões de vezes na plataforma. Em 2022, uma trend entre os usuários do Tiktok, onde pessoas fingiam se passar por vítimas do Holocausto7, foi classificada pelo diretor do Museu de Auschwitz como “dolorosa e ofensiva”. Muitos dos vídeos da perturbadora trend não tinham o intuito de homenagear as vítimas. Apesar de colecionar polêmicas há anos em relação a conteúdos extremos, o Tiktok permanece um ambiente acolhedor para adeptos do neonazismo e suas vertentes. Comumente conhecidos como “apitos de cachorro” - referência ao apito canino inventado por Francis Galton, inaudível para humanos e frequentemente usado para cães de caça - expressões e símbolos com significado secundário compreendido apenas por um determinado grupo8 proliferam no Tiktok e produzem um efeito de comunicação transversal, visto que ao menos para esse tipo de conteúdo, a barreira linguística entre os usuários é praticamente inexistente. Contas neonazistas identificadas como brasileiras no TikTok são vistas seguindo contas de uma variedade de outros países, como Polônia, Alemanha, Argentina, Indonésia, Estados Unidos, Ucrânia, França, Itália, Portugal, etc. 4 https://www.vice.com/en/article/yw74gy/tiktok-neo-nazis-white-supremacy 5 https://canaltech.com.br/apps/tiktok-e-acusado-de-censurar-termos-antirracismo-mas-permitir-conteudo-racista-189767/ 6 https://noticias.uol.com.br/ultimas-noticias/rfi/2021/10/13/antissemitismo-para-jovens-prospera-em-redes-sociais-como-tik-tok-e- instagram-diz-estudo.htm 7 https://olhardigital.com.br/2020/08/28/noticias/usuarios-do-tiktok-gravam-videos-imitando-vitimas-do-holocausto/ 8 https://www.scielo.br/j/man/a/vktmMPLqW4PSWHJhHKmLCfh/ 6 Seguidores de múltiplos países de uma conta brasileira neonazista Homem faz saudação nazista Imagem do sol negro9 em vídeo do Tiktok Conta da subcomunidade que cultua e faz apologia a massacres escolares demonstrando sua intenção em interagir com falantes de outras línguas Referências neonazistas As contas neonazistas do Tiktok usam uma grande variedade de referências ao nazismo em seus nicknames, fotos de perfil, em suas biografias e nos vídeos e imagens postados. 7 9 Simbologia nazista que consiste em 12 runas Sig radiais representando a roda solar. https://ponte.org/analise-hitlerismo-esoterico-a-ideologia-do-brasileiro-que-tentou-matar-cristina-kirchner/ 10 https://setentaequatro.pt/simbolos 11 Também conhecida como “skull mask”. Máscara que faz referência ao jogo Call of Duty: Ghosts adotada por simpatizantes do neonazismo no Brasil e no exterior, popularizada pelo grupo Atomwaffen Division https://ctc.westpoint.edu/the-iron-march-forum-and-the- evolution-of-the-skull-mask-neo-fascist-network/ 12 https://tab.uol.com.br/noticias/redacao/2023/01/13/mascara-usada-por-golpista-em-brasilia-e-simbolo-da-extrema-direita.htm Estética aceleracionista Totenkopf é o nome dado ao símbolo da caveira com ossos cruzados. Em alemão, significa “cabeça da morte”. Foi um dos símbolos das Waffen Schutzstaffel (SS) de Hitler. É ainda hoje usado por neonazistas em todo o mundo, como a Atomwaffen Division e a Misanthropic Division10. Imagem do sol negro e garota usando siege mask11/12 em vídeo do Tiktok Conta brasileira neonazista do Tiktok faz live com a siege mask Propaganda neonazista aceleracionista em vídeo do Tiktok 8 13 https://www.adl.org/resources/hate-symbol/totenkopf 14 https://www.middlebury.edu/institute/academics/centers-initiatives/ctec/ctec-publications/dangerous-organizations-and-bad- actors-4 15 https://www.brasildefato.com.br/2021/12/17/apos-investigacao-com-policia-russa-neonazista-brasileiro-e-condenado-a-quatro-anos- de-prisao A expressão “never lose your smile” em conjunto com a imagem do Totenkopf13 , faz referência ao sorriso da caveira e é usada como apito de cachorro para neonazistas. A organização neonazista aceleracionista Atomwaffen Division, um dos grupos neonazistas mais violentos do mundo, popularizou o uso do Totenkopf no lugar de rostos nas fotos de seus membros14. Embora considerada extinta, a estética e a filosofia aceleracionista da Atomwaffen Division inspirou e continua a inspirar diversos outros grupos neonazistas pelo mundo todo. O Totenkopf também é um dos símbolos da Misanthropic Division, integrando a bandeira do grupo15. Propaganda neonazista aceleracionista em vídeo do Tiktok Bandeira da Misanthropic Division composta por um par de armas, um par de totenkopf e a frase de um “Töten für Wotan” (Matando por Wotan). Wotan é nome germânico do deus Odin 9 Conta brasileira do Tiktok expondo propaganda neonazista aceleracionista Propaganda da Atomwaffen Division no Tiktok Membros da Atomwaffen Division com James Mason, ideólogo do grupo e autor de Siege16 16 https://www.counterextremism.com/james-masons-siege-ties-to-extremists 17 https://ponte.org/analise-hitlerismo-esoterico-a-ideologia-do-brasileiro-que-tentou-matar-cristina-kirchner/ 18 Junção de duas ou mais runas em um só simbolo. Simbologia pagã germânica/nórdica O Sonnenrad (Sol Negro) é uma espécie de roda solar formada por 12 runas Sig - os raios símbolos das SS - dispostas em forma de círculo. Apesar dos neonazistas alegarem que o símbolo seria parte da simbologia ancestral germânica, sua primeira representação conhecida é um mosaico que está no castelo de Wewelsburg, na Alemanha. O castelo era um tipo de quartel-general das SS17. Também é comum o uso de runas, e elas podem aparecer na forma de bindrune18 ou solitárias. As runas que mais aparecem são Odal, Sig e Algiz. 10 Antissemitismo A expressão “well well well” tem sido usada frequentemente em comentários, hashtags e nomes de vídeos referenciando judeus e em comentários de vídeos de pessoas judias. A expressão parece ser usada em tom de ironia, algo como “ora, ora, ora, veja o que temos aqui”19. Um vídeo em particular, onde o usuário Berel Solomon descreve o que ele chama de “segredo dos negócios judeus”, recebeu um volume especialmente grande de comentários “well well well”. Aparentemente, a expressão é usada como indicativo de que o usuário que posta esta expressão está de acordo com um estereótipo antissemita perpetuado20, como por exemplo o de que judeus dominam o sistema bancário, de que dominam narrativas na mídia, etc. Rapidamente, “well well well” se tornou um apito de cachorro para neonazistas na plataforma. Conta do Tiktok posta conteúdo relacionando judeus à conspiração antissemita de que judeus dominam o sistema bancário 19 https://www.distractify.com/p/well-well-well-meaning-tiktok 20 https://www.google.com/url?q=https://www.downtimebros.com/what-does-well-well-well-mean-on-tiktok- explained/&usg=AOvVaw3ele_jZm69LQ3N4lrhP33T 11 21 https://piaui.folha.uol.com.br/materia/de-bazuca-em-buchenwald/ A expressão “Jedem das Seine”, tradução literal alemã de uma frase em latim com significado “a cada um aquilo que merece”, foi usada pelos nazistas como um lema estampado na entrada do campo de concentração de Buchenwald21. Esta expressão é vista como biografia de usuários que apoiam o neonazismo, em combinação com outros apitos de cachorro. Conta do Tiktok com a expressão “jedem das seine” na biografia 12 22 https://gnet-research.org/2023/06/09/how-gnome-hunting-became-tiktoks-latest-antisemitic-dog-whistle/ 23 https://ponte.org/analise-hitlerismo-esoterico-a-ideologia-do-brasileiro-que-tentou-matar-cristina-kirchner/ Denunciada pela GNET (Global Network on Extremism and Technology) em junho de 202322, a trend “caça aos gnomos” do Tiktok é uma referência velada à “caça aos judeus”. Nos posts da hashtag, além de contas neonazistas fazendo postagens sobre gnomos encontra- se também postagens abertamente neonazistas, expondo símbolos e discurso de ódio antissemita. Conta brasileira do Tiktok participando da trend “gnome hunting” com símbolos nazistas e a expressão “millions must hide”, uma paródia da frase “millions must die”, muito usada por neonazistas em referência ao Holocausto. Postagem neonazista no Tiktok usando a hashtag “gnomehunter” Postagem neonazista do Tiktok fazendo referências antissemitas e ao nazismo esotérico22 usando a hashtag “gnomehunter” 13 23 https://www.latimes.com/archives/la-xpm-1987-11-18-mn-14825-story.html 24 https://setentaequatro.pt/simbolos Símbolos numéricos de ódio Os números 14 e 88 são usados com muita frequência em nicknames. O número 14 é uma referência ao slogan composto por uma sequência de 14 palavras “We must secure the existence of our people and a future for white children” Criado por David Lane, fundador da organização terrorista supremacista branca The Order24, o lema se popularizou entre supremacistas brancos e neonazistas do mundo todo. O número 88, por sua vez, é uma referência a duas letras H (Heil Hitler), a oitava letra do alfabeto25. Conta do Tiktok usando o código 88 em seu nickname Conta do Tiktok usando oa códigos 14 e 88 em seu nickname. Em seu avatar, vemos o Sonnenrad/Sol Negro com um bindrune Conta do Tiktok usando oa códigos 14 e 88 em seu nickname 14 26 CALDEIRA NETO, Odilon. Sob o Signo do Sigma: Integralismo, Neointegralismo e o Antissemitismo. Maringá: EDUEM, 2014. 27 https://projetocolabora.com.br/ods16/na-internet-um-mundo-de-extremismo-2/ 28 https://brasil.elpais.com/brasil/2020-01-01/policia-do-rio-identifica-integralista-como-autor-de-ataque-ao-porta-dos-fundos.html 29 https://noticias.uol.com.br/cotidiano/ultimas-noticias/2019/12/26/quem-sao-os-integralistas-que-afirmam-ter-atacado-sede-do- porta-dos-fundos.htm Outras vertentes neofascistas Integralismo O Integralismo foi uma ideologia política de extrema direita baseado no cristianismo católico, de caráter fascista e nacionalista, anticomunista, antidemocrática, antiliberal e antissemita. Foi fundado no Brasil em 1932 pela Ação Integralista Brasileira (AIB) e tornou-se o maior movimento fascista fora da Europa. Em 1937, AIB foi extinta por Getúlio Vargas, assim como todos os demais partidos políticos. A bandeira integralista é composta por um círculo branco com a letra sigma do alfabeto grego sobreposto à cor azul. Outro símbolo muito usado pelos integralistas é um círculo azul em um fundo branco com o mapa do brasil em azul ao centroe o sigma em branco sobrepondo o mapa26. Neointegralistas buscam reviver o Integralismo da década de 30 em uma versão mais radical. Em 2019, o líder do grupo integralista ACCALE (Associação Cívica e Cultural Arcy Lopes Estrella)27 atacou com coquetéis molotov a sede da produtora Porta dos Fundos28 , na véspera do Natal. Ele faria parte de um suposto “Comando de Insurgência Popular Nacionalista”29, que assumiu, dois dias depois, o ataque. No Tiktok, uma infinidade de hashtags integralistas prolifera e acumula milhões de visualizações. São frequentes as referências ao falecido político brasileiro Enéas Carneiro e seu partido, o PRONA. São também frequentes as postagens homofóbicas e antissemitas usando hashtags integralistas. Exemplos de hashtags integralistas e nazistas do Tiktok 15 Enéas Carneiro e o PRONA em postagem de integralista no Tiktok Postagem homofóbica e capacitista em hashtags integralista do Tiktok Conta brasileira do Tiktok fazendo propaganda integralista Conta brasileira do Tiktok fazendo propaganda integralista e nazista Postagem homofóbica em hashtags integralista do Tiktok Postagem antissemita em hashtags integralistas do Tiktok 16 Separatismo Fundado em 1991, o movimento “O Sul é o Meu País” surgiu com o objetivo de separar os 3 estados da região sul do resto do Brasil. Há outros movimentos separatistas que pretendem separar o estado de São Paulo do resto do país, como o “Movimento São Paulo Livre” e o “Movimento São Paulo Independente”30. Os movimentos separatistas recorrem a justificativas econômicas, sociais e políticas para embasar uma pretensa “superioridade” do estado ou da região em detrimento dos demais. Esse discurso surge permeado por supremacismo branco e exaltação da “raça europeia”31. 30 https://tab.uol.com.br/noticias/redacao/2020/07/09/por-que-a-revolucao-de-1932-pode-ser-lida-como-um-simbolo-conservador.htm 31 LUVIZOTTO, CK. Cultura gaúcha e separatismo no Rio Grande do Sul [online]. São Paulo: Editora UNESP; São Paulo: Cultura Acadêmica, 2009. 93 p. ISBN 978-85-7983-008-2. Available from SciELO Books Conta brasileira do Tiktok faz propaganda separatista e nazista incluindo a cruz celta, símbolo supremacista do orgulho branco Conta brasileira do Tiktok faz propaganda pela separação de São Paulo do restante do país Conta brasileira do Tiktok adepta do separatismo faz referência ao nazismo e frase “iremos ser seu terror [sic]” 17 Shadowban De acordo com as diretrizes da plataforma, o Tiktok coloca temporariamente ou permanentemente criadores em shadowban caso violem repetidamente as regras da plataforma. Ou seja, um shadowban pode ser causado pelo compartilhamento de conteúdo inadequado e que viole as diretrizes da comunidade. Os motivos mais proeminentes para shadowban são32: - Discurso de ódio - Cyberbullying - Nudez e conteúdo para adultos - Promoção de qualquer tipo de violência ou crime - Promoção da droga e da toxicodependência - Notícias falsas e desinformação - Racismo - Utilização de sons protegidos por direitos de autor nos vídeos - Todas as formas de spam (seguir/não seguir, mensagens não controladas e publicação de vídeos) - Utilizar aplicações de terceiros - Comprar seguidores falsos e números de envolvimento falsos - Utilizar hashtags proibidas - Receber uma denúncia de outros utilizadores do TikTok por roubo ou cópia de conteúdos - Abuso de menores para vídeos do TikTok - Spoilers de filmes ou séries A plataforma é responsável por banir constantemente as hashtags que violem as diretrizes e propaguem conteúdo inadequado para os visitantes. Nota-se que uma alternativa utilizada pelos usuários nestes casos é criar hashtags com nomes similares aos banidos, o que funciona temporariamente até que a plataforma detecte a nova hashtag. 32 https://embedsocial.com/pt/blog/tiktok-shadow-ban/ 18 Embora eventualmente seja possível encontrar conteúdo neonazista circulando com hashtags, é comum observar contas postando conteúdo de ódio sem qualquer hashtag. Conta brasileira do Tiktok faz referência ao nazismo sem o uso de qualquer hashtag 19 Tanto a fuga das hashtags observada nas postagens, como banimento ativo de hashtags pelo Tiktok atrapalha ou impossibilita a indexação do conteúdo pelo mecanismo de busca da plataforma. Porém, como as contas permanecem ativas, assim como muitas vezes o conteúdo tem seu engajamento reduzido mas não é excluído, a não indexação faz com que as contas e o conteúdo permaneçam sob um efeito de semi-invisibilidade - os motores de busca externos à plataforma, como o Google, por exemplo, seguem indexando o conteúdo. Busca pela palavra “atomwaffen” retorna resposta sobre a palavra ter sido banida da plataforma por violar as Diretrizes da Comunidade Busca no Google por “atomwaffen tiktok.com” retorna os resultados presentes no Tiktok e permite acessar os conteúdos banidos Hashtags similares à palavra “Atomwaffen” na plataforma 20 Algoritmo Para a finalidade desta pesquisa foi criado um perfil novo no Tiktok, que passou a seguir e dar like em vídeos perfis de adeptos do neonazismo e de perfis que fazem parte da subcomunidade que cultua autores de massacres escolares. O algoritmo do Tiktok reconheceu o conteúdo preferido deste perfil e passou a fazer recomendações de vídeos e contas deste conteúdo na aba “Para você”. As contas são recomendadas pelo algoritmo do Tiktok por afinidade a outras contas já seguidas, ampliando a subcomunidade dentro do Tiktok sem qualquer necessidade de busca ativa e sem prejuízo da não indexação do conteúdo. Como resultado, as contas neonazistas e as que cultuam autores de massacres passam a conhecer umas às outras não através da ferramenta de busca de vídeos do aplicativo, mas através do auxílio do próprio algoritmo do Tiktok, que oferece sugestões de amizade se baseando nos seguidores/seguindo das contas que o usuário já segue. Assim, indetectável à boa parte dos usuários da plataforma, uma subcomunidade de usuários adeptos de extremismos cresce, posta e compartilha seus conteúdos com assustadora liberdade. Recomendação de postagem neonazista de conta brasileira do Tiktok na aba “Para você” Recomendação de postagem de conta brasileira do Tiktok em homenagem a um autor de massacre escolar na aba “Para você” 21 Recomendação de amizade de conta brasileira neonazista do Tiktok na aba “Para você” Seria esperado que com a tecnologia disponível, o Tiktok fizesse investimento em um algoritmo que fizesse a leitura das imagens contidas nos vídeos e fosse capaz de banir o conteúdo e as contas responsáveis por propagar discurso de ódio, já que o shadowban tem se mostrado ineficiente para conter o alastramento deste conteúdo, enquanto o algoritmo da aba “Para Você” ainda presta serviço a estas subcomunidades alargando-as cada vez mais.