DESCRIMINAÇÃO ALGORITMA E O DIREITO

Prévia do material em texto

A DISCRIMINAÇÃO
ALGORÍTMICA 
E AS NOVAS PERSPECTIVAS SOBRE
O TRATAMENTO DE DADOS
PESSOAIS
O VIÉS DO ALGORITMO 
E A DISCRIMINAÇÃO
Algoritmo (algorithm) - Algoritmos são compreendidos como um conjunto de informações complexas que regulam a
forma como computadores resolvem determinados problemas.
A Inteligência Artificial (IA) - em definição bem resumida e simples, é a possibilidade das máquinas (computadores,
robôs e demais dispositivos e sistemas com a utilização de eletrônica, informática, telemática e avançadas tecnologias)
executarem tarefas que são características da inteligência humana, tais como planejamento, compreensão de
linguagens, reconhecimento de objetos e sons, aprendizado, raciocínio, solução de problemas, etc. Em outras
palavras, é a teoria e desenvolvimento de sistemas de computadores capazes de executar tarefas normalmente
exigindo inteligência humana, como a percepção visual, reconhecimento de voz, tomada de decisão e tradução entre
idiomas, por exemplo.
Conceitos
Conceitos
O aprendizado de máquina (Machine Learning) - É um ramo da inteligência artificial que envolve a criação de
algoritmos que podem aprender automaticamente a partir de dados. Neste treinamento, há o envolvimento de
grandes quantidades de dados que precisam ser alimentadas para o algoritmo (ou aos algoritmos envolvidos),
permitindo que ele (o algoritmo) se ajuste e melhore cada vez mais os seus resultados. 
O deep learning ou aprendizagem - profunda baseia-se no machine learning para, a partir de uma grande
quantidade de dados e após inúmeras camadas de processamento com algoritmos, conseguir que um
computador aprenda por si mesmo e execute tarefas semelhantes às dos seres humanos, tais como a
identificação de imagens, o reconhecimento de voz ou a realização de predições, de forma progressiva.
https://www.iberdrola.com/inovacao/o-que-e-machine-learning
PROTEÇÃO DE DADOS
PESSOAIS
Referência Normativa - Regulamento Geral de Proteção de Ddados da
União Europeia 2016/679 (General Data Protection Regulation -
GDPR);
Resolução do Parlamento Europeu, de 14 de março de 2017;
a Lei nº 13.709/2018, a Lei Geral de Proteção de Dados (LGPD)
 Princípios trazidos pela LGPD e que regem as atividades de tratamento de dados pessoais, tais como: 
Princípio do livre acesso aos dados (art. 6º, inciso IV), que é a garantia, aos titulares, de consulta facilitada e gratuita
sobre a forma e a duração do tratamento, bem como sobre a integralidade de seus dados pessoais; 
Princípio da qualidade dos dados (art. 6º, inciso V), que garante aos titulares a exatidão, clareza, relevância e atualização
dos dados pessoais, de acordo com a necessidade e para o cumprimento da finalidade de seu tratamento; 
Princípio da transparência (art. 6º, inciso VI), que traz a garantia, aos titulares, de informações claras, precisas e
facilmente cessíveis sobre a realização do tratamento e os respectivos agentes de tratamento, observados os segredos
comercial e industrial; 
Princípio da não discriminação, que trata da impossibilidade de realização do tratamento de dados para fins
discriminatórios ilícitos ou abusivos; 
Princípio da responsabilização e prestação de contas (art. 6º X), que traz a obrigatoriedade de demonstração, pelo
agente, da adoção de medidas eficazes e capazes de comprovar a observância e o cumprimento das normas de proteção
de dados pessoais e, inclusive, da eficácia dessas medidas.
 CONSENTIMENTO 
NA LGPD 
Direito à autodeterminação
afirmativa 
É uma faculdade ou escolha de um individuo de
determinar e controlar a utilização de seus dados.
 Banco de Dados:
Centralização
Descentralização
 TRATAMENTO SENSÍVEL DE
DADOS PESSOAIS
LGPD
Art. 5º Para os fins desta Lei, considera-se:
II - dado pessoal sensível: dado pessoal sobre
origem racial ou étnica, convicção religiosa,
opinião política, filiação a sindicato ou a
organização de caráter religioso, filosófico ou
político, dado referente à saúde ou à vida sexual,
dado genético ou biométrico, quando vinculado a
uma pessoa natural;
TRATAMENTO SENSÍVEL
DADOS PESSOAIS
"COMUNS"
DADOS PESSOAIS
SENSÍVEIS
Exemplo
John Smith - 1.333 libras
Muhammed Ali - 2.252 libras
 
Art. 11, § 1º, LGPD
Casos de
discriminação
algorítimica
DISCRIMINAÇÃO ALGORÍTMICA DIANTE DOS ASPECTOS RACIAIS
- Caso COMPAS (Correctiomal Offender Management Profiling for Alternative Sanctions): a
influência do algoritmo na avaliação da reincidência dos réus.
DISCRIMINAÇÃO ALGORÍTMICA E O RECONHECIMENTO FACIAL
- Câmera Nilkon Coolpix S6360: banco de dados faciais discriminatório. 
- "HP computers are racist” testou a webcam que, ao detectar feições humanas, deveria
acompanhar o movimento realizado pelos usuário.
DISCRIMINAÇÃO ALGORÍTMICA E O PERÍODO ELEITORAL
- Cambridge Analytica: PRIVACIDADE HACKEADA.
ALGORITMOS E A DISCRIMINAÇÃO DE CONSUMIDORES, PELO E-
COMMERCE
- Empresa Decolar: práticas de geo pricing e geo blocking, ao beneficiar turistas argentinos em
detrimento de brasileiros nas ocupações das Olimpíadas do Rio de Janeiro.
O DILEMA DAS REDES
- Apresentações são ferramentas que podem ser usadas como palestras.