Algoritmos preconceituosos

Prévia do material em texto

<p>Andressa Freires</p><p>CIÊNCIA DE DADOS</p><p>ALGORITMOS</p><p>PRECONCEITUOSOS</p><p>&</p><p>O QUE É</p><p>CIÊNCIA DE</p><p>DADOS?</p><p>Ciência de dados é o</p><p>processo de</p><p>transformação de dados</p><p>em conhecimento!</p><p>COMO É O DIA A</p><p>DIA DE UM</p><p>CIENTISTA DE</p><p>DADOS?</p><p>Nós podemos fazer várias coisas, como:</p><p>// Conduzimos pesquisas e formulamos problemas;</p><p>// Fazemos coleta e análise de dados;</p><p>// Transformamos e tratamos os dados;</p><p>// Tiramos ideias/insights dos dados (com modelagem ou não);</p><p>// Traduzimos o conhecimento técnico em conhecimento comum;</p><p>// Ajudamos o negócio a tomar as melhores decisões.</p><p>COMO SE</p><p>TORNAR UM</p><p>CIENTISTA DE</p><p>DADOS?</p><p>O que você precisa ter?</p><p>// Coragem para começar;</p><p>// Base forte em matemática, programação, banco de dados e estatística para gerar</p><p>informações relevantes, boas visualizações e modelos quando necessário;</p><p>// Ter soft skills (boa comunicação, por exemplo) que te ajudem a traduzir seu</p><p>conhecimento técnico;</p><p>VAMOS FALAR DE</p><p>ALGORITMOS</p><p>PRECONCEITUOSOS?</p><p>O CASO DO</p><p>TWITTER</p><p>o Twitter foi acusado de utilizar um algoritmo racista para definir os</p><p>cortes de imagens na rede social. Em diversos testes realizados</p><p>pelos usuários, independentemente da quantidade de pessoas</p><p>negras e brancas em uma imagem, a inteligência artificial da</p><p>plataforma insiste em criar a miniatura da foto a partir de um rosto</p><p>branco.</p><p>Fonte: iG</p><p>O que aconteceu?</p><p>Por que isso aconteceu?</p><p>Isso acontece porque o algoritmo define que essa é a</p><p>parte mais importante da imagem. Apesar do assunto ter</p><p>ganhado a internet, algoritmos enviesados, como são</p><p>chamados, não são novidade - e muito menos</p><p>exclusividade do Twitter.</p><p>INTELIGÊNCIA</p><p>ARTIFICIAL</p><p>Inteligência artificial é o nome dado a qualquer sistema</p><p>computacional ensinado a simular comportamentos humanos.</p><p>Esse conceito tem muitas aplicações, como programas que</p><p>aprendem jogos de tabuleiro, softwares de tradução e sistemas</p><p>complexos que conversam de modo semelhante às pessoas,</p><p>analisam o mercado de ações ou ajudam a diagnosticar</p><p>problemas de saúde.</p><p>As IAs precisam ser explicitamente ensinadas a fazer analisar</p><p>um amplo espectro de informações, na forma de dados</p><p>organizados, a fim de ganhar experiência. Existem limites e</p><p>restrições para o que eles podem aprender, que são</p><p>determinados pelos parâmetros que as equipes de</p><p>desenvolvimento de IA estabelecem</p><p>ALGORITMO</p><p>ENVIESADO</p><p>Normalmente, a IA forma um viés quando os dados de</p><p>aprendizado fornecidos não são abrangentes e começam a ser</p><p>tendenciosos para determinados resultados. Como os dados</p><p>são o único meio de aprendizado dos sistemas de IA, eles</p><p>podem reproduzir todos os desequilíbrios ou vieses</p><p>encontrados nas informações originais.</p><p>Ao ensinar uma IA a reconhecer sapatos, se você só mostrar ao</p><p>sistema imagens de tênis, ele não aprenderá a reconhecer</p><p>sapatos de salto alto, sandálias ou botas como tipos de sapatos.</p><p>Por causa do viés, o desenvolvimento de uma IA que funcione</p><p>para todos é desafiador.</p><p>Nenhum sistema de IA é complexo o suficiente e nenhum</p><p>conjunto de dados é profundo o bastante para representar e</p><p>entender toda a diversidade da humanidade. Isso pode gerar</p><p>grandes desafios ao considerarmos o potencial que a IA tem</p><p>para influenciar as experiências das pessoas.</p><p>Uma IA que seleciona candidatos para uma vaga pode</p><p>aprender a favorecer os homens porque foi ensinada a</p><p>selecionar currículos de sucesso, e, historicamente, existe um</p><p>viés social que beneficia candidatos homens.</p><p>Para garantir que os sistemas de IA sejam éticos e reduzir o</p><p>risco de viés, os programadores devem projetar os sistemas e</p><p>selecionam os dados com cuidado. Essa é a única maneira de</p><p>garantir que os sistemas funcionem bem para todos.</p><p>// EXEMPLO</p><p>https://docs.google.com/file/d/1JjSULx2yp7oF__6UoQV6iTR6cpAa3MFv/preview</p><p>// EXEMPLO</p><p>https://docs.google.com/file/d/1y1x6jHxzGrLbFfqDrEqCVHjJye59vIC7/preview</p><p>ÉTICA</p><p>EM IA</p><p>Assim como as legislações e os códigos éticos que governam a</p><p>sociedade, as diretrizes éticas ajudam a moldar o</p><p>desenvolvimento da IA.</p><p>Toda tecnologia avançada gera dúvidas em relação ao uso.</p><p>Além de considerar como uma tecnologia é usada para resolver</p><p>problemas, a sociedade também avalia como ela pode ser mal</p><p>utilizada. Os códigos de conduta e diretrizes ajudam a nos</p><p>proteger em relação a isso.</p><p>A IA gerou diversas considerações éticas.</p><p>Os sistemas que funcionam com o mínimo de orientação</p><p>humana geram debates sobre o nível de restrição necessário.</p><p>Além disso, alguns sistemas de IA fazem cálculos tão</p><p>complexos que as pessoas têm dificuldade de entender como</p><p>os resultados foram alcançados. Por isso, a sociedade pode não</p><p>se sentir à vontade em atribuir determinadas tarefas à IA sem</p><p>testes extensivos.</p><p>QUEM É PREJUDICADO</p><p>COM IAS ENVIESADAS?</p><p>Fonte:https://www.uol.com.br/tilt/noticias/redacao/2020/06/25/homem-e-preso-apos-erro-de-tecnologia-de-reconhecimento-facial-nos-eua.htm</p><p>Fonte:https://tecnologia.ig.com.br/2020-09-22/algoritmos-racistas-entenda-como-funciona-o-problema-que-atingiu-o-twitter.html</p><p>COMO COMBATER</p><p>IAS ENVIESADAS?</p><p>TRABALHO SOBRE</p><p>IAS JUSTAS</p><p>Algorithmic Justice League</p><p>INCLUSÃO &</p><p>DIVERSIDADE</p><p>Estamos falando da mesma coisa?</p><p>DIVERSIDADE</p><p>INCLUSÃO&</p><p>Diversidade é um</p><p>conjunto de</p><p>características</p><p>biológicas, culturais,</p><p>sociais, econômicas</p><p>que faz com que</p><p>todas as pessoas</p><p>sejam únicas.</p><p>Inclusão é a</p><p>valorização e inserção</p><p>de populações que,</p><p>por questões</p><p>históricas e sociais,</p><p>enfrentam barreiras</p><p>na sociedade.</p><p>Por que falar de</p><p>inclusão e diversidade?</p><p>ENGAJAMENTO | PERFORMANCE | CRESCIMENTO</p><p>A IMPORTÂNCIA DA</p><p>REPRESENTATIVIDADE</p><p>substantivo feminino</p><p>1. Caráter do que é representativo.</p><p>2. Qualidade reconhecida a um homem, a um organismo,</p><p>mandatado oficialmente por um grupo de pessoas para</p><p>defender os seus interesses.</p><p>re·pre·sen·ta·ti·vi·da·de</p><p>Fonte: Dicionário Priberam de Língua Portuguesa.</p><p>e quando falta?</p><p>re·pre·sen·ta·ti·vi·da·de</p><p>e quando falta?</p><p>re·pre·sen·ta·ti·vi·da·de</p><p>e quando falta?</p><p>re·pre·sen·ta·ti·vi·da·de</p><p>e quando falta?</p><p>re·pre·sen·ta·ti·vi·da·de</p><p>CONHEÇA</p><p>AS LUTAS</p><p>DAS MULHERES</p><p>51,7 % 44%</p><p>2,8% 9,1%</p><p>POR QUE AS</p><p>MULHERES</p><p>LUTAM?</p><p>Fonte: https://lp.xpi.com.br/mlhr3-b2b</p><p>Percentual de mulheres</p><p>na população brasileira</p><p>Percentual de mulheres no</p><p>mercado de trabalho.</p><p>Mulheres que ocupam</p><p>cargos de CEO no Brasil.</p><p>Diferença de salário entre</p><p>homens e mulheres com os</p><p>mesmos cargos no Brasil.</p><p>// Dados relevantes</p><p>// Relatos de mulheres no mercado de trabalho</p><p>“Eu já cheguei a ouvir que deveria ser mais</p><p>legal, mais doce, se quisesse ser</p><p>promovida, pois os colegas não gostavam</p><p>do meu jeito. Se eu fosse homem, seria</p><p>considerada exigente, alguém em busca</p><p>da melhor performance. Mas, como sou</p><p>mulher, sou grossa, direta demais. É difícil</p><p>precisar se impor constantemente, mostrar</p><p>que é capaz, mas, ao mesmo tempo,</p><p>precisar ser doce e fofa”, Paula M.</p><p>“Já ouvi que não dava pra me imaginarem</p><p>como gerente porque os caras ‘não iriam</p><p>se submeter a uma mulher’ e fui</p><p>direcionada a tarefas em que era preciso</p><p>colaboração”, Tatiane Fernandes.</p><p>"Já descobri que um colega de equipe com</p><p>a mesma qualificação e cargo ganhava o</p><p>dobro do meu salário", Vanessa Galli.</p><p>“Ao falar mal da prova de um candidato a</p><p>estágio, ele disse ‘até as meninas ali</p><p>conseguem fazer essa prova’, referindo-se a</p><p>mim e mais uma colega.”, Tamara Mendes.</p><p>Fonte: Por que o machismo cria barreiras para as mulheres na tecnologia, Programaria.</p><p>QUAL A LUTA DO</p><p>POVO NEGRO?</p><p>54 % 63,2% 10%</p><p>75% 50,3% 67% POR QUE</p><p>LUTAMOS?</p><p>Fonte: https://epocanegocios.globo.com/Carreira/noticia/2019/10/trabalhador-branco-recebe-75-mais-que-pretos-e-pardos-no-brasil-aponta-ibge.html</p><p>Percentual de negros</p><p>na população brasileira</p><p>Percentual médio de</p><p>pessoas negras</p><p>ocupando as posições</p><p>com menores</p><p>remunerações.</p><p>Dos líderes das 500</p><p>maiores empresas do</p><p>Brasil são negros.</p><p>Diferença de salário</p><p>entre pessoas brancas e</p><p>negras com os mesmos</p><p>cargos no Brasil</p><p>Percentual</p><p>de pessoas</p><p>negras nas</p><p>Universidades Públicas</p><p>no Brasil em 2019.</p><p>Dos desempregados no</p><p>Brasil são negros.</p><p>POR QUE</p><p>LUTAMOS?</p><p>POR QUE</p><p>LUTAMOS?</p><p>POR QUE</p><p>LUTAMOS?</p><p>POR QUE</p><p>LUTAMOS?</p><p>// Relatos de negros no mercado de trabalho</p><p>"Eles comparavam meus cachos a pelo de</p><p>cachorro e assobiavam, como se</p><p>chamassem um cão. Tentava ignorar, até</p><p>que um deles começou a gritar comigo,</p><p>disse que eu não fazia nada direito,</p><p>ofendeu meu cabelo, meu nariz, meu rosto</p><p>e disse que eu era estranha", Thayná</p><p>Nicácio.</p><p>"O que me deixa indignada e entristecida é</p><p>perceber o quanto as pessoas são</p><p>entorpecidas pela ideologia racista. Sim. A</p><p>senhora só perguntou se eu faço faxina</p><p>porque carrego no corpo a pele escura",</p><p>Luana Tolentino.</p><p>Fonte:</p><p>http://www.metodista.br/rronline/negros-tem-menos-acesso-ao-mercado-de-trabalho-e-s</p><p>ofrem-com-a-discriminacao-diz-pesquisa</p><p>Andressa Freires</p><p>//Data Scientist, Cultura e Diversidade & Inclusão na PicPay</p><p>//Palestrante de Data Science, Inclusão Racial e Inclusão de Gênero</p><p>//Coordenadora da UneAfro</p><p>//Voluntária do Afropython, Pyladies e AI Girls</p><p>whatsapp: (11) 94382-6870</p><p>linkedin: https://www.linkedin.com/in/andressafreires/</p><p>instagram: @dessafreires</p><p>https://www.linkedin.com/in/andressafreires/</p>