EXISTEM RISCOS NA TOMADADE DECISÕES POR ALGORITMOS

Prévia do material em texto

EXISTEM RISCOS NA TOMADADE DECISÕES POR ALGORITMOS? 
 INTELIGÊNCIA ARTIFICIAL É UMA REALIDADE 
 Maior rapidez, precisão e qualidade na realização de trabalhos maçantes e repetitivos 
Aumento da velocidade de tramitação
 APRENDIZADO DE MAQUINA 
(machine learning) 
“ Um algoritmo é tão bom quanto os dados que o alimentam”
PROBLEMAS FUNDAMENTAIS DA TOMADA DE DECISÃO POR ALGORITIMOS 
Vieses Algoritmos
Data sets viciados
Discriminação
Exclusão
OPACIDADE 
No sistema processual brasileiro, tendo em vista a perspectiva do devido processo constitucional, a utilização de mecanismos ocultos para as partes do processo na tomada de decisões viola garantias processuais constitucionais, como o contraditório e a ampla defesa.
mecanismos de governança de algoritmos 
Projeto de Lei Nº 5051 - Princípios para o uso da Inteligência Artificial no Brasil. 
 Art. 4º Os sistemas decisórios baseados em Inteligência Artificial serão, sempre, auxiliares à tomada de decisão humana. 
 § 1º A forma de supervisão humana exigida será compatível com o tipo, a gravidade e as implicações da decisão submetida aos sistemas de Inteligência Artificial. 
 § 2º A responsabilidade civil por danos decorrentes da utilização de sistemas de Inteligência Artificial será de seu supervisor. 
REFLEXÕES
Como defender-se de um “índice” sem saber o método de seu cálculo? 
Como submeter o “índice” ao controle do devido processo constitucional? 
Quem seria responsabilizado por possíveis danos causados por decisões tomadas por Inteligência Artificial? 
Qual o limite da utilização de algoritmos em decisões?