Prévia do material em texto
APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 1 GUSTAVO MASCARENHAS LACERDA PEDRINA APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 2 INTRODUÇÃO ............................................................................. .3 1. ANÁLISE DA APLICAÇÃO DE AI NOS EUA .................... .4 2. COMO A AI VEM SENDO UTILIZADA NO JUDICIÁRIO BRASILEIRO ................................................................................. .8 2.1 A AI NO STF ................................................................ .9 2.2 COMO OUTROS TRIBUNAIS NO BRASIL TÊM ABORDADO A QUESTÃO? .......................................... 13 CONCLUSÃO ............................................................................... 14 REFERÊNCIAS ............................................................................ 15 APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 3 INTRODUÇÃO Olá, voltamos! Para começar, gostaria de te mostrar o quanto já aprendemos até aqui: identificamos o que é e o que não é exatamente inteligência artificial; entendemos as origens da AI e o que é o Teste de Turing; navegamos pelas ondas de evolução desse tipo de tecnologia desde a década de 1950; compreendemos, por fim, o que é big data e machine learning. Com tais conceitos, restou evidente que mesmo os robôs-algorítmicos que utilizam aprendizado de máquina precisam de parâmetros (os dados de treinamento), e que, ainda que possam replicar o que aprendem autonomamente, partem do que diz um programador. Ufa! Após consolidados esses conhecimentos, podemos ver como esse tipo de inteligência artificial tem sido aplicada ao direito, nosso foco de estudo. Para tanto, é importante ter em mente que nem tudo o que entendemos como inteligência artificial é mesmo inteligente ou pode ser considerado como inteligência artificial (para isso é razoável cobrarmos que a máquina seja capaz de passar ao menos no Teste de Turing) e que não há nesse apontamento uma crítica ao trabalho dos competentes cientistas da computação que trabalham arduamente no desenvolvimento da tecnologia, mas trata-se apenas de uma rigorosa constatação, sempre tendo como primazia a busca da singularidade, o ponto-ótimo de desenvolvimento no qual a tecnologia seria capaz de mimetizar redes neurais humanas (o que é difícil de prever até se será possível um dia), ao qual se possa chamar efetivamente de inteligência artificial. Com essas observações em pauta, nesta aula analisaremos como a inteligência artificial vem sendo utilizada no campo do direito. Partiremos de dois casos práticos que, a par de demonstrarem o uso de AI no estágio estatístico, não são iguais. O primeiro deles versa a respeito do uso de AI para sugestão de sentenças penais e fianças nos EUA. No segundo, discutiremos como tem se desenvolvido o uso da AI aqui no STF, com a aplicação do robô algorítmico Víctor. Está pronto? Vamos começar? APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 4 1. ANÁLISE DA APLICAÇÃO DE AI NOS EUA É notável o dado de que mais de 30 Estados norte-americanos utilizam atualmente programas de inteligência artificial para sugerir aos juízes sentenças e fianças. Todos esses programas utilizados hoje são baseados em computação estatística (STARR, 2013). Recentemente, o caso Wisconsin vs. Loomis levou a questão até a Suprema Corte estadunidense, quando Eric Loomis questionou o uso de um programa de inteligência artificial (o Compas – Correction Offender Management Profiling for Alternative Sanctions) por parte do Juízo para determinar a sua condenação a seis anos em regime fechado. A defesa de Loomis queria ter acesso aos critérios que levaram o robô algorítmico a recomendar sua pena – a Suprema Corte negou o recurso, assentando tratar-se de segredo industrial o caminho desenvolvido pelo referido robô. Veja o artigo e as notícias veiculadas a respeito do caso: • O Supremo Tribunal de Wisconsin exige aviso antes do uso de avaliações de risco algorítmicas em sentenças • Condenação pelos números • Em Wisconsin, uma reação contra o uso de dados para prever o futuro dos réus • Enviado para a prisão pelos algoritmos secretos de um programa de software Como vimos, a aprendizagem de máquinas envolve um estágio de pré- processamento e treinamento de dados de entrada (KOTSIANTIS et al, 2006). Esse pré-processamento, também chamado de rotulagem, pode ser automático, de caráter meramente estatístico, ou humano – o que é mais comum, mas que No Estado da Virgínia, a utilização de algoritmos para estabelecer condenações já acontece há mais de dez anos. Caliskan-islam, Byron e Narayaan (2016) já demonstraram o perigo no seu uso com tal fim: algoritmos são necessariamente programados e essa programação pode conter um erro de viés ideológico. Os pesquisadores demonstraram que sentenças produzidas por robôs algorítmicos, em relação a nomes geralmente atribuídos a pessoas de ascendência africana, são comumente mais duras do que aquelas que contêm nomes tradicionalmente europeus (MONAHAN, J. & SKEEM, J., 2019). https://www.supremecourt.gov/Search.aspx?FileName=/docketfiles/16-6387.htm https://harvardlawreview.org/2017/03/state-v-loomis/ https://harvardlawreview.org/2017/03/state-v-loomis/ https://www.nytimes.com/2005/01/02/magazine/sentencing-by-the-numbers.html https://www.nytimes.com/2016/06/23/us/backlash-in-wisconsin-against-using-data-to-foretell-defendants-futures.html https://www.nytimes.com/2016/06/23/us/backlash-in-wisconsin-against-using-data-to-foretell-defendants-futures.html https://www.nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-software-programs-secret-algorithms.html https://www.nytimes.com/2017/05/01/us/politics/sent-to-prison-by-a-software-programs-secret-algorithms.html APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 5 justamente leva ao estabelecimento de vieses, já que a máquina será programada e passará a buscar resultados de acordo com parâmetros estabelecidos por um programador. Observe que o que esse tipo de programa faz não difere em nada daqueles de análise de risco geralmente empregados em operações financeiras, por exemplo. De acordo com dados atuariais, fornece-se uma sugestão de sentença para o Juízo que, em última análise, (i) aplica superficialmente a prevenção geral e (ii) busca inibir a reincidência (STARR, 2013). Ambos os resultados, no longo prazo, tornam-se verdadeira profecia aos sujeitos-objeto da análise, já que não é comum que mudem, por exemplo, de gênero (e se o risco de homens adultos for maior para a reincidência em um determinado delito, o programa recomendará maior tempo de pena). Ainda conforme Starr (2013), esses programas são baseados em análise atuarial de risco, mais precisamente em um esquema chamado de EBS (evidence- based sentencing, sentenciando por base em evidências, em tradução livre). O exemplo mais famoso de programa desse tipo é o Compas, mas há outros como o Ohio Risk Assessment System (Oras), o Correctional Assessment and Intervention System (Cais) e o Wisconsin Risk and Needs Tool (WRN). A abordagem atuarial representa um modelo de avaliação de riscos focado em critérios históricos ou imutáveis do indivíduo. Eles “pontuam” o indivíduo e cruzam essa pontuação com uma tabela atuarial do sistema, resultando em uma estimativa de risco por um período específico (a chance de X reincidir em 10 anos é Z, por exemplo). Essa estimativa representa a porcentagem de participantes no estudo de desenvolvimento do instrumento que recebeu essa pontuação e reincidiu. Por exemplo, se um infrator recebe uma pontuação de +5 em um instrumento traduzido em uma estimativa de risco de 60% em 10 anos, isso significa que60% dos indivíduos que receberam uma pontuação de +5 no estudo original do instrumento passaram a reincidir nesse período. Perceba: isso não significa que o criminoso alvo da aplicação do programa tenha 60% de chance de reincidência por um período de 10 anos, mas sim que outras pessoas, na mesma situação, reincidiram em 60% dos casos – ou seja, em aplicação de norma penal toma-se como régua o “outro”, o que não é recomendável do ponto de vista dogmático e sociológico, mas é o que esse tipo de programa faz. Certo? APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 6 Podemos notar que os instrumentos são mecânicos: cada valor possível de cada variável corresponde a um aumento ou redução específica da estimativa de risco em todos os casos. Os pesos das variáveis não são determinados com base nas circunstâncias de cada caso – por exemplo, os homens sempre receberão escores de risco mais altos do que mulheres em situações idênticas (porque, no geral, em média, os homens têm reincidência maior), mesmo que o contexto específico seja aquele em que homens e mulheres tendem a ter riscos de reincidência próximos ou em que as mulheres têm riscos mais altos. Além disso, na prática, os instrumentos usam sistemas de pontos ainda mais simples, nos quais o “alto risco” responde a um sim ou não. Vamos examinar algumas situações concretas em que foram utilizados esses sistemas para que você comece a ter uma noção acerca das lógicas que estão por trás das suas operações. No sistema utilizado no Estado do Missouri, por exemplo, os relatórios incluem uma pontuação para cada indivíduo em avaliação, com uma escala de -8 a 7. De tal maneira, de 7 a 4 é classificado como “bom”, de 3 a 2 é “acima da média”, de 1 a 0 é “média”, de -1 a -2 é “abaixo média” e de -3 a -8 é “ruim”. Diferentemente da maioria dos instrumentos em uso, o Missouri não inclui gênero. No entanto, um abandono escolar seguido de desemprego gerará uma pontuação três pontos abaixo do que um empregado com ensino médio concluído – fazendo a diferença substancial no resultado final da avaliação de risco. Da mesma forma, um acusado com menos de 22 anos terá pontuação três pontos pior do que um com idade acima de 45, simplesmente por sua idade. Em comparação, ter cumprido anteriormente prisão vale menos um ponto; ter quatro ou mais condenações prévias por contravenção que resultou em prisão retira mais um ponto (possuir três ou menos condenações não retira nenhum); ter cumprido liberdade condicional vale um ponto; e uma fuga da prisão vale menos outro ponto. -8 a -3 -2 a -1 0 a 1 2 a 3 4 a 7 BomAbaixo da média Acima da médiaRuim Média APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 7 Veja que se tem literalmente uma conta de pontos a partir de condições do sujeito – em algumas ele contribuiu (ter sido preso mais de três vezes, por exemplo), mas outras são inerentes (como a idade). Aqui valem as perguntas: alguém tem culpa da idade que tem? Esse sistema é justo? Qual a sua opinião? Em outro contexto, o Compas, aplicado no caso Loomis, leva em consideração 137 itens, não necessariamente ligados a questões atinentes ao delito possivelmente praticado, como (i) se há antecedentes penais na família do réu ou (ii) se há ocorrências relacionadas a álcool e drogas envolvendo a pessoa em julgamento (FENOLL, 2018). Os critérios incluem atitudes do indivíduo, de amigos e familiares, histórico de comportamento antissocial, possíveis problemas de personalidade, dados acerca da escolaridade, problemas de saúde e uso de drogas. Em todas as situações apontadas, por tratar-se de segredo industrial, é impossível saber com precisão como os itens levados em consideração são combinados (em que ordem e proporção, por exemplo) para sugerir sentenças ou fianças. Você há de concordar comigo que isso viola ao menos dois princípios caros ao direito penal e processual penal: o devido processo legal, já que é impossível contraditar dados sem que se saiba nem mesmo quais são, e a proporcionalidade, porque não se pode garantir que sejam realizadas sempre as mesmas operações. Há ainda o problema da fidelidade dos dados: se um dos dados levados em consideração em qualquer dos critérios estiver equivocado, a sugestão do sistema será necessariamente injusta. Para que mecanismos desse tipo sejam efetivos no propósito de ao menos evitar a reincidência, é necessário que se utilize um algoritmo sempre atualizável e com critérios claros, que levem em consideração os princípios que regem a preservação dos direitos humanos. De qualquer forma, essa é a realidade hoje, nos EUA, de programas de inteligência artificial: a aplicação de critérios atuariais sistematicamente para sugerir aos juízes o valor de fianças (quanto maior a “chance” do indivíduo reincidir, maior a fiança) e para recomendar penas (da mesma forma, quanto maior o “risco” de reincidência, maior deverá ser a pena). SAIBA MAIS Leia o artigo “NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition Software” (em inglês), um texto bastante interessante sobre os vieses racial, de sexo e idade na IA. https://www.nist.gov/news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software https://www.nist.gov/news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 8 Tudo bem até aqui? Está claro como os sistemas estão sendo utilizados nos EUA? Qual a sua percepção a respeito? Agora, é chegado o momento de abordarmos o assunto em nosso país. Acompanhe comigo no próximo tópico. 2. COMO A AI VEM SENDO UTILIZADA NO JUDICIÁRIO BRASILEIRO Vamos ao que afeta mais diretamente o nosso trabalho enquanto operadores do direito? Mesmo que recente, já há no mercado brasileiro programas com ferramentas de inteligência estatística para a análise de dados e o oferecimento de respostas tanto ao advogado quanto ao magistrado. Confira matéria a seguir “Justiça Federal discute inteligência artificial no Judiciário e escritórios”. No primeiro caso, o robô pode analisar os dados fornecidos e adaptá-los a uma petição padrão – por exemplo, escolhendo qual é o melhor contrato para ser oferecido por uma empresa a um determinado cliente (exemplos de empresas que trabalham com soluções de TI: Softplan e LawGeex). Há ainda aplicações que comparam contratos comerciais com a jurisprudência das autoridades antitrust (Kira) e robôs algorítmicos que separam peças de um processo que julgam serem as principais. SAIBA MAIS Ficou curioso a respeito do funcionamento desses sistemas? No link a seguir você pode fazer o download do “Manual do Compas” fornecido pela produtora do programa, a Equivant. Além disso, tenho outra sugestão. Você tem 15 minutinhos? Se tiver, aqui está uma palestra no Tedx sobre a aplicação de programas atuariais a casos penais nos EUA e as suas consequências. Vale a pena conferir! (exemplos de empresas que trabalham com soluções de TI: Softplan e LawGeex) https://drive.google.com/file/d/1LtQ4eVCfxl3nCjobyWRglXUzuV2UUgy_/view?usp=sharing https://drive.google.com/file/d/1LtQ4eVCfxl3nCjobyWRglXUzuV2UUgy_/view?usp=sharing https://www.softplan.com.br/ https://www.lawgeex.com/ https://kirasystems.com/ http://www.equivant.com/wp-content/uploads/Practitioners-Guide-to-COMPAS-Core-040419.pdf https://www.youtube.com/watch?v=jNasDy2OqAE&feature=youtu.be APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 9 No segundo, já estão disponíveis programas que selecionam o que lhes parecem ser as páginas mais importantes de um processo, a jurisprudência que se assemelha à discussão, bem como as leis em debate, e que oferecem até uma proposta de decisão ao magistrado. Esses robôs-algorítmos agem, portanto, estruturando volumes enormes de dados (big data) para ofereceranálises preditivas com base na identificação de padrões nas petições. De maneira simples, “veem” se uma determinada tese se “encaixa” ao caso. E qual é o potencial e a importância da tecnologia hoje para o judiciário brasileiro na prática? Desde 2009, o CNJ analisa os números do nosso judiciário e edita o relatório “Justiça em números” (você pode ver todos eles aqui, são bastante interessantes). Em 2018, o judiciário brasileiro encerrou o ano com 78,7 milhões de processos (CNJ, 2019). Esse número – um dos maiores do mundo – leva à necessidade da busca de soluções para otimizar o tempo de tramitação dos processos. 2.1 A AI no STF Diante dos alarmantes números da pesquisa do CNJ, podemos dizer que o Supremo Tribunal Federal (STF) não se encontra inerte. Pelo contrário, tem empreendido esforços importantes na aplicação de AI. Desde 2018, está em funcionamento o robô algorítmico VICTOR, que envolve uma equipe multidisciplinar composta por três principais organismos em seu desenvolvimento, isto é, os colaboradores do próprio demandante (STF) e três setores da Universidade de Brasília (UnB): a Faculdade de Direito (FD), o Grupo de Pesquisa em Aprendizado de Máquina (GPAM) da Faculdade de Engenharias do Gama (FGA) e o Departamento de Ciência da Computação (CIC) (SILVA, 2018). CURIOSIDADE Por que o robô se chama VICTOR? De acordo com o site de notícias do STF, O nome do projeto, VICTOR, é uma clara e merecida homenagem a Victor Nunes Leal, ministro do STF de 1960 a 1969, autor da obra Coronelismo, Enxada e Voto e principal responsável pela sistematização da jurisprudência do STF em Súmula, o que facilitou a aplicação dos precedentes judiciais aos recursos, basicamente o que será feito por VICTOR. https://www.cnj.jus.br/pesquisas-judiciarias/justica-em-numeros/ http://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=471331&ori=1 APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 10 Segundo MAIA FILHO (2018, p. 228), o início do projeto ocorreu da seguinte forma: Trabalhando com cerca de 14 mil processos, a equipe do projeto centrou- se, inicialmente, na tarefa de separação e classificação de peças – aquelas mais importantes, segundo a equipe do STF, para a identificação dos temas de repercussão geral de maior incidência: acórdão, recurso extraordinário, agravo em recurso extraordinário, despacho de admissibilidade e sentença. Visando ao treinamento dos modelos de aprendizado de máquina, a equipe do Curso de Direito da UnB criou um conjunto confiável de dados, extraídos dos processos analisados, com a conversão de imagens em textos no processo digital, separação do começo e do fim dos documentos, com a identificação do conteúdo de cada peça jurídica, além das similaridades e das discrepâncias existentes entre elas. Para “ler” as peças de um processo, o VICTOR atua com técnica de “OCR” (optical character recognition, na sigla em inglês para reconhecimento ótico de caracteres: as páginas do processo, transformadas em imagem, são “lidas” pela máquina). Dessa forma, o sistema indica por machine learning (esse conceito você conhece bem!) se os recursos extraordinários e agravos se “encaixam” em uma das 27 principais teses (que correspondem a 46% dos processos devolvidos pela barreira da repercussão geral) cuja repercussão geral tenha sido reconhecida pelo STF. O VICTOR é um robô algorítmico, não é algo físico ou humanoide como somos levados a crer pelo nome “robô”. Ele fica abrigado em uma rede de computadores. No trabalho diário do Tribunal, o Victor faz a separação das cinco principais peças dos processos, sem que ninguém precise dar o comando. Se o Victor não existisse, os servidores do órgão precisariam achar essas peças no processo para, só então, começarem o trabalho. Com isso, a análise de um processo e a separação de peças que, por um servidor, levariam, em média, 15 minutos, são realizadas pelo VICTOR em 5 segundos. Tal fato resulta numa economia de 22 mil horas de trabalho em um ano, o que custaria 3 milhões de reais ao Tribunal. APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 11 O VICTOR ainda é capaz de aprender com os erros e ter um nível crescente de acertos – atualmente ele acerta em 91% dos casos (esse número é chamado de acuidade ou acurácia, indicando a assertividade da máquina). Não é incrível? Veja a imagem de um teste de acuidade do sistema (teste “f1-score”: o dado de 91% pode ser visualizado no total, na última linha da quarta coluna): APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 12 Esquematicamente, o VICTOR funciona da seguinte maneira: É importante sempre ressaltarmos, contudo, que aplicações como o VICTOR agem a partir do aprendizado com parâmetros definidos pelo programador humano (chamados de inputs). Há a necessidade de supervisão constante. E não é só isso: imagine o volume de dados digitalizados... Para se ter uma ideia, o VICTOR recebeu uma quantidade enorme de dados de treinamento: 4 terabites! A equipe que trabalha no robô passou todo o conteúdo que não era originalmente digital por OCR. Manter essa quantidade de arquivos segura é um desafio constante e requer contínua evolução dos mecanismos de proteção. Com o natural crescimento do volume de dados fornecidos ao algoritmo, o VICTOR melhorará seus resultados ao longo do tempo, já que a classificação dos novos dados dos processos que chegam leva ao aprendizado pela máquina – o próprio algoritmo passa a analisar o processo em busca de padrões distintos. Tem- se então o ponto de aprendizado supervisionado e não supervisionado. Recurso extraordinário ou agravo em recurso extraordinário aporta no Tribunal VICTOR verifica a qualidade das imagens, se o processo não for digital, aplica OCR VICTOR grava o conteúdo do processo no banco de dados VICTOR classifica as peças processuais, separando acórdão, recurso extraordinário, agravo em recurso extraordinário, despacho de admissibilidade e sentença VICTOR classifica o processo em um ou mais temas de repercussão geral APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 13 É importante ressaltar um dado aqui antes de concluirmos: o VICTOR não realiza juízo de mérito. Ele indica onde estão as cinco principais peças do processo e diz, com 91% de chances de acerto, se há ou não um dos 27 temas de repercussão geral mais recorrentes. A utilização de um mecanismo como o VICTOR implicará, no longo prazo, a melhoria do aproveitamento dos servidores que trabalham no Tribunal, que poderão exercer outras tarefas, ao passo que o robô separa as peças e indica se são temas de repercussão reconhecida. Além disso, permitirá o acúmulo de dados por parte do Tribunal, sendo possível ao Supremo reconhecer melhor quem são os litigantes e quais temas são os mais debatidos. 2.2 COMO OUTROS TRIBUNAIS NO BRASIL TÊM ABORDADO A QUESTÃO? Em Minas Gerais está em funcionamento a aplicação Radar, que lê os processos por OCR e separa os casos similares para julgamento conjunto. Em Pernambuco, o sistema Elis promove a triagem de execuções fiscais (veja o artigo “Inteligência Artificial no TJPE agiliza Processos de Execução Fiscal”). No Rio Grande do Norte, uma parceria entre a Universidade Federal do Rio Grande do Norte e o Tribunal de Justiça do Estado levou à criação do Poti. A aplicação promove automaticamente a penhora de valores nas contas bancárias de devedores. Além disso, o Poti atualiza o valor da execução fiscal e transfere o montante para as contas oficiais indicadas. Se não existir dinheiro na conta, o sistema é programado para realizar novas buscas em períodos consecutivos de 15, 30 e 60 dias. SAIBA MAIS Gostaria que você assitisse à reportagem sobre o laboratório da UnB que criou o VICTOR: https://blog.juriscorrespondente.com.br/inteligencia-artificial-no-tjpe-agiliza-processos-de-execucao-fiscal/https://blog.juriscorrespondente.com.br/tribunais-de-todo-o-pais-investem-em-inteligencia-artificial-para-reduzir-acoes/ https://globoplay.globo.com/v/8008962/ APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 14 Para finalizar nossa discussão, quero propor uma reflexão: Será que algum dia um robô algorítmico será capaz de realizar um julgamento? O que acha disso? Esse ponto parece bastante distante da realidade, mas na Estônia há um projeto nesse sentido. Leia as reportagens a respeito: • Estônia quer substituir os juízes por robôs • Estônia está desenvolvendo o primeiro “juiz robô” do mundo CONCLUSÃO E o que podemos concluir disso tudo? Aparentemente a tecnologia não substituirá os operadores do direito. Trata-se de um conjunto de ferramentas voltadas à otimização do tempo e do trabalho no nosso ramo de atuação. A máquina até é capaz de “ler” documentos por OCR como vimos, mas, ao menos no atual estágio de desenvolvimento da tecnologia, não é capaz de emular a inteligência humana. A inteligência artificial, no atual ponto de desenvolvimento ou no que esperamos alcançar (assunto da nossa próxima aula), certamente impactará na prática do direito e nos sistemas de justiça. Se já discutimos atualmente temas como fake news, bloqueio de conteúdo e criptografia (todos esses temas da aula 4), em pouco tempo os assuntos evoluirão para, por exemplo, se temos o direito de ver nossos casos judiciais julgados por um robô algorítmico ou por um ser humano. Aguardo você na aula 3! https://epocanegocios.globo.com/Tecnologia/noticia/2019/04/estonia-quer-substituir-os-juizes-por-robos.html https://epocanegocios.globo.com/Tecnologia/noticia/2019/04/estonia-quer-substituir-os-juizes-por-robos.html https://canaltech.com.br/inteligencia-artificial/estonia-esta-desenvolvendo-o-primeiro-juiz-robo-do-mundo-136099/ https://canaltech.com.br/inteligencia-artificial/estonia-esta-desenvolvendo-o-primeiro-juiz-robo-do-mundo-136099/ APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 15 REFERÊNCIAS BARROSO, Luís Roberto. Vinte anos da Constituição de 1988: a reconstrução democrática do Brasil. Revista de Informação Legislativa, n. 179, jul./set. 2008. BRAZ, N. et al. Document classification using a Bi-LSTM to unclog Brazil’s supreme court. NIPS 2018 Workshop on Machine Learning for the Developing World (ML4D). CALISKAN-ISLAM, A.; BRYSON, J.J.; NARAYAAN, A. Semantics derived automatically from language corpora necessarily contain human biases. 2016. Princeton: Princeton University. Disponível em: http://randomwalker.info/ publications/language-bias.pdf. Acesso em: 9 nov. 2019. CONSELHO NACIONAL DE JUSTIÇA. Justiça em números. Disponível em: https:// www.cnj.jus.br/wp-content/uploads/conteudo/arquivo/2019/08/justica_em_ numeros20190919.pdf. Acesso em: 10 nov. 2019. p. 79. FUX, Luiz. Inteligência artificial. Palestra, 2019. Disponível em: https://www.conjur. com.br/dl/palestra-fux-inteligencia-artificial.pdf. KOTSIANTIS, S. B.; KANELLOPOULOS, D.; PINTELAS, P. E. Data preprocessing for supervised learning. International Journal of Computer Science. Jornal digital. vol. 1, n. 2, 2006, p. 111-117. Kira Systems Machine Learning Contract Search, Review and Analysis. Disponível em: https://kirasystems.com/. Acesso em: 10 nov. 2019. Law Geex Contract Review Automation. Disponível em: www.lawgeex.com. Acesso em: 10 nov. 2019. MAIA FILHO, Mamede Said; JUNQUILHO, Tainá Aguiar. Projeto VICTOR: perspectivas de aplicação da Inteligência Artificial ao Direito. Revista de Direitos e Garantias Fundamentais, Vitória, v. 19, n. 3, set./dez. 2018. p. 228. MONAHAN, J.; SKEEM, J. Risk Assessment in Criminal Sentencing. Virginia Public Law and Legal Theory Research Paper, n. 53. Disponível em: https://papers.ssrn. com/sol3/papers.cfm?abstract_id=2662082. Acesso em 6 nov. 2019. SILVA, N. et al. Document type classification for Brazil’s supreme court using a Convolutional Neural Network. THE INTERNATIONAL CONFERENCE ON FORENSIC COMPUTER SCIENCE AND CYBER LAW (ICoFCS). 2018. http://randomwalker.info/publications/language-bias.pdf http://randomwalker.info/publications/language-bias.pdf https://www.cnj.jus.br/wp-content/uploads/conteudo/arquivo/2019/08/justica_em_numeros20190919.pdf https://www.cnj.jus.br/wp-content/uploads/conteudo/arquivo/2019/08/justica_em_numeros20190919.pdf https://www.cnj.jus.br/wp-content/uploads/conteudo/arquivo/2019/08/justica_em_numeros20190919.pdf https://www.conjur.com.br/dl/palestra-fux-inteligencia-artificial.pdf https://www.conjur.com.br/dl/palestra-fux-inteligencia-artificial.pdf https://kirasystems.com/ http://www.lawgeex.com https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2662082 https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2662082 APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 16 SILVA, N. Notas Iniciais Sobre a Evolução dos Algoritmos do Victor: O Primeiro Projeto de Inteligência Artificial em Supremas Cortes do Mundo. II Congresso Internacional de Direito, Governo e Tecnologia. 2018. Softplan. Disponível em: https://www.softplan.com.br/. Acesso em: 10 nov. 2019. STARR, S. Evidence-based sentencing and the scientific racionalization of discrimination. Stanford Law Review, set. 2013, p. 2. Disponível em: https://ssrn. com/abstract=2318940. Acesso em: 6 nov. 2019. U.S. Supreme Court. Wisconsin vs. Loomis. Disponível em: https://www. supremecourt.gov/Search.aspx?FileName=/docketfiles/16-6387.htm. Acesso em 9.11.2019. https://www.softplan.com.br/ https://ssrn.com/abstract=2318940 https://ssrn.com/abstract=2318940 https://www.supremecourt.gov/Search.aspx?FileName=/docketfiles/16-6387.htm%20Acesso%20em%209.11.2019 https://www.supremecourt.gov/Search.aspx?FileName=/docketfiles/16-6387.htm%20Acesso%20em%209.11.2019 APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 2 – APLICAÇÃO ATUAL DA AI AO DIREITO 17 INTRODUÇÃO 1. ANÁLISE DA APLICAÇÃO DE AI NOS EUA 2. COMO A AI VEM SENDO UTILIZADA NO JUDICIÁRIO BRASILEIRO 2.1 A AI no STF 2.2 Como outros Tribunais no Brasil têm abordado a questão? CONCLUSÃO Referências