G-5 Nathalia MEDEIROS Uso da inteligencia artificial no processo de tomada de decisoes

Prévia do material em texto

Organização: DIERLE NUNES PAULO HENRIQUE DOS SANTOS LUCON ERIK NAVARRO WOLKART INTELIGENCIA ARTIFICIAL E DIREITO PROCESSUAL Os impactos AUTORES: ADRIANA JACOTO UNGER ALEXANDRE BAHIA da virada ALEXANDRE MORAIS DA ROSA ANA LUIZA PINTO COELHO MARQUES ANTÔNIO AURÉLIO DE SOUZA VIANA BARBARA GUASQUE tecnológica BERNARDO DE AZEVEDO E SOUZA BRÁULIO GUSMÃO CAMILLA MATTOS PAOLINELLI no direito CESAR CURY DANIEL BECKER DIERLE NUNES processual ERIK NAVARRO WOLKART FERNANDA AMARAL DUARTE FERNANDA BRAGANÇA FLAVIANE DE MAGALHÃES BARROS FLÁVIO QUINAUD PEDRON FRANCISCO DE MESQUITA LAUX FREDIE DIDIER JR. GUILHERME HENRIQUE LAGE FARIA HUGO MALONE ISABELA FERRARI edição ISADORA WERNECK revista, atualizada ÍTALO MENEZES DE CASTRO JEAN CARLOS DE ALBUQUERQUE GOMES e ampliada SÉRGIO DOS SANTOS SOARES PEREIRA JOSÉ EDUARDO DE RESENDE CHAVES JOSÉ LUIZ BOLZAN DE MORAIS JULIANA LOSS LARISSA HOLANDA ANDRADE RODRIGUES LETÍCIA MARCELE DO NASCIMENTO MELO LUIS MANOEL BORGES DO VALE MARCELO MAZZOLA MARCELO ORNELLAS MARCHIORI MARCO ANTONIO RODRIGUES NACLE SAFAR AZIZ ANTÔNIO NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS NURIA BELLOSO MARTIN PATRÍCIA SEKHON PAULO DE TARSO SANSEVERINO 2022 PAULO HENRIQUE DOS SANTOS LUCON PEDRO PETIZ VIANA RAFAEL ALEXANDRIA DE OLIVEIRA RENATA BRAGA RICARDO VILLAS CUEVA EDITORA ROMULO SOARES VALENTINI JusPODIVM TAINÁ AGUIAR JUNQUILHO TATIANE COSTA DE ANDRADE WALTER ROSATI VEGAS WILSON ENGELMANNEDITORA Rua Canuto Saraiva, 131 - Mooca CEP: 03113-010 - São Paulo - São Paulo Tel: (11) 3582.5757 Contato: Copyright: Edições JusPODIVM Ideia Impressa (ideiaimpresadesign@gmail.com) Capa: Ana Caquetti Para Gabriel, minha maior e mais importante inovação. (Dierle Nunes) Artificial e Direito Processual: Os Impactos da Virada Tecnológica no Direito 161 Processual / coordenadores Nunes, Paulo Henrique dos Santos Lucon, Erik Navarro Wolkart Salvador: Editora JusPodivm, 2022. 960 p. Para Thaís, Laura, Maria Fernanda, Henrique e Maria Clara, amores da minha vida. Vários autores. (Paulo Henrique dos Santos Lucon) Bibliografia. ISBN 978-85-442-3810-3. 1. Direito Processual Civil. 2. Impactos da inteligência artificial. Nunes, II. Lucon, Paulo Henrique dos III. Wolkart, Erik Navarro. IV. Dedico esta obra ao estudo da complexidade, tema que será o futuro do direito CDD 341.46 impactado pela tecnologia. (Erik Navarro Wolkart) Todos os direitos desta edição reservados a Edições JusPODIVM. É terminantemente proibida a reprodução total ou parcial desta obra, por qualquer meio ou processo, sem a expressa autorização do autor e das Edições JusPODIVM. A violação dos direitos autorais caracteriza crime descrito na legislação em vigor, sem prejuízo das sanções civis cabíveis.DIERLE NUNES E ANA LUIZA PINTO COELHO MARQUES REINHOUDT, Jurgen. AUDIER, Serge. The Walter Lippmann Colloquium: The Birth of -Liberalism. Palgrave Macmillan: 2017. 30 SILVA, Nilton Correia da. Notas iniciais sobre a evolução dos algoritmos do VICTOR: pri- meiro projeto de inteligência artificial em supremas cortes do mundo. In: FERNANDES USO DA INTELIGÊNCIA ARTIFICIAL Ricardo Vieira de Carvalho; CARVALHO, Angelo Gamba Prata de (Coord.). Tecnologia jurídica & direito digital: II Congresso Internacional de Direito, Governo e Tecnologia NO PROCESSO DE TOMADA DE DECISÕES 2018. Belo Horizonte: Fórum, 2018. SURDEN, Harry. What to Teach Law Students About Artificial Intelligence and Law? (De- JURISDICIONAIS: POTENCIAIS RISCOS cember 18, 2017). Northwestern Law Review Online (Bridges II), (2017). vel em: Data de acesso: E POSSÍVEIS CONSEQUÊNCIAS SUSSKIND, Richard E. Tomorrow's lawyer: an introduction to your future. ed. Oxford: Oxford University Press, 2017. SUSSKIND, Richard. SUSSKIND, Daniel. The Future of the Professions: how technology will transform the work of human experts. Nova York: Oxford University Press, 2015. Nathália Roberta Fett Viana de The Royal Society. Machine learning: the power and promise of computers that learn by example. 2017. Disponível em: . Data de aces- so: 09.11.2019. Vivenciamos um momento no qual tecnologias, como a Inteligência ZIMMERMANN, Annette. DI ROSA, Elena. KIM, Hochan. Technology Can't Fix Algorithmic Artificial, vêm revolucionando diversas esferas do conhecimento, já estan- Injustice. Boston Review, jan 2020. Disponível em: http://bostonreview.net/scien do presente em nosso cotidiano, modificando radicalmente o modelo atual Data de acesso: 20.01.2020. da sociedade, nossa rotina, nossa forma de interagir uns com os outros e, ZUBOFF, Shoshana. Age of Surveillance Capitalism: The Fight for a Human Future at the principalmente, a forma como trabalhamos. No atual estágio de desenvol- New Frontier of Power. New York: Public Affairs, 2019 (ebook). vimento dessas tecnologias, as capacidades da inteligência artificial se tor- nam cada vez mais poderosas e difundidas, com potencial de automação de tarefas que antes somente poderiam ser executadas por seres humanos, se mostrando como um movimento irrefreável para diversos setores, inclusi- para o Direito. Os dilemas que o sistema jurídico padece nos últimos anos vêm indu- zindo a todos na procura de novos horizontes que promovam um movi- mento disruptivo, ou seja, de ruptura com os padrões tradicionais e adoção Mestre em Direito Processual pela Pontifícia Universidade Católica de Minas Gerais. Pós-Gra- duanda em Direito Tributário pela Pontifícia Universidade Católica de Minas Gerais. Pós-Gradua- da em Direito Processual Civil pela Pontifícia Universidade Católica de Minas Gerais. 780 781NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS de tecnologias que até se acreditava não serem passíveis de utilização 2 INTELIGÊNCIA ARTIFICIAL: DEFINIÇÕES, CONCEITOS BÁSICOS E por um setor tão formal e tão apegado às tradições como o direito. APLICAÇÕES Contudo, como bem ressaltam Dierle Nunes e Ana Luiza Marques: A base de toda inteligência artificial se encontra nos algoritmos, que podem ser definidos como "uma descrição das etapas de resolução de um [...] todo esse movimento irrefreável aludido, ao qual se nomina de virada tecno- problema ou a indicação ordenada de uma sequência de ações bem defini- lógica no direito, vem se impondo sem que os juristas se preocupem adequada- das". Sendo "a maneira mais elementar de se escrever uma mente com o mesmo ou com geração apenas de um encantamento com os ganhos de eficiência e produtividade nas atividades a serem realizadas, em especial por 0 aprimoramento dos algoritmos permitiu que as máquinas desem- suas virtudes serem apresentadas ("vendidas") por fornecedores de produtos e penhassem tarefas cada vez mais complexas, possibilitando o desenvol- serviços (Legal Techs) que evitam divulgar os riscos no uso dessas tecnologias para a correção e (grifos dos autores) vimento de uma tecnologia baseada na capacidade de emular comporta- mentos considerados Daí surge a Inteligência Artificial (ou Mostra-se essencial, então, a necessidade de nos adaptarmos a nova simplesmente IA): racionalidade que essa virada tecnológica acarreta, principalmente em ra- À medida em que se exigiu das máquinas a execução de tarefas cada vez mais zão da natureza dual do uso da inteligência artificial, que pode trazer bene- inteligentes, a Ciência da Computação passou a buscar inspiração no estudo da fícios, mas também pode trazer sérios riscos. inteligência humana. Acredita-se que, compreendendo o raciocínio da mente, poderíamos projetar algoritmos que imitassem tais processos, transferindo esta A compreensão dos fundamentos e modo de funcionamento das tec- capacidade para as máquinas. Como resultado, surge a Inteligência Artificial, dis- nologias embasadas na inteligência artificial mostra-se essencial para o ciplina que se apoia fortemente em pesquisas das áreas da psicologia, biologia e entendimento de como seu uso e aprimoramento irão modificar significa- lingüística tivamente cotidiano dos tribunais e dos práticos do direito. E essa com- 0 conceito de inteligência artificial ainda é alvo de dissenso entre os preensão se mostra necessária antes mesmo que ela venha a ser ampla- especialistas, na medida em que ainda não há uma definição unânime do mente utilizada no processo jurisdicional. que é a própria inteligência biológica ou natural: Da forma como a inteligência artificial vem sendo paulatinamente o problema de definir o campo inteiro da inteligência artificial é semelhante ao inserida no processo de tomada de decisões jurisdicionais, sem a devida de definir a própria inteligência: ela é uma única faculdade ou é apenas um nome identificação dos potenciais riscos que seu uso acarreta e sem a devida ten- para uma coleção de capacidades distintas e não relacionadas? (grifo do autor)6 tativa de sua mitigação, poderá haver uma perigosa redução da participa- As definições de inteligência artificial podem ser segmentadas confor- ção dos sujeitos processuais na formação impedindo a exis- me a abordagem dos especialistas e os objetivos para sua aplicação. Tal tência de uma estrutura procedimental na qual as partes possam exercer, como pontua Erick Navarro Wolkart, de forma comparticipada, o debate em contraditório (direito de influên- [h]á muitas definições possíveis para inteligência artificial (IA). Algumas enfatizam cia na decisão e garantia de não surpresa) e que resulte em uma decisão similitudes com a forma de pensar humana (reasoning), enquanto outras focam se- fundamentada que leve em consideração os argumentos produzidos pelas partes durante o processo. Em razão disso, também se apresenta o risco de Fernando de Castro. Informática: conceitos básicos. ed. rev. e atualizada. Rio de que a utilização dessas ferramentas, com objetivos finalísticos de celerida- Janeiro: Elsevier, p. 108. de e aumento de produtividade, tem o potencial de impedir que o processo "É por meio desta capacidade de captar e transferir inteligência mediante os algoritmos que são de tomada de decisões jurisdicionais seja pautado pela possibilidade do construídas máquinas que exibem comportamento inteligente. Por conseguinte, o nível de inteli- exercício do controle e fiscalidade (accountability) dos atos processuais gência demonstrado pelas máquinas fica limitado pela inteligência que um algoritmo é capaz de transportar." BROOKSHEAR Glenn. Ciência da computação: uma visão abrangente. Tradução pelos jurisdicionados. Cheng Mei Lee. ed. Porto Alegre: Bookman, 2005, p. 19. J. Glenn. Ciência da computação: uma visão abrangente. Tradução Cheng Mei 2. NUNES. Dierle; MARQUES, Ana Luiza Pinto Coelho. INTELIGÊNCIA ARTIFICIAL E DIREITO PRO- Lee. ed. Porto Alegre: Bookman, 2005, p. 20. CESSUAL: vieses e os riscos de atribuição-de furição decisória às máquinas. Revista George Inteligência artificial. Tradução: Daniel Vieira. ed. São Paulo: Pearson Edu- de Processo. Vol. 285/2018. Nov. de 2018. p.4. cation do Brasil, 2013, p. 1. 782 783NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES melhanças comportamentais (behavior). Para alguns, a IA deve ser medida por pacidade de treinamento de sistemas que aprendessem a partir dos da- fidelidade ao comportamento humano, enquanto, para outros, a qualidade está na dos que lhes são fornecidos sem serem programados para realizar tarefas precisão das decisões tomadas pelo sistema (rationality).7 (grifos do autor) específicas. Tal processo de aprendizagem é denominado aprendizado de Não obstante a dificuldade de conceituação da inteligência máquina (machine learning), no qual os dados fornecidos aos algoritmos a abordagem apresentada por Luis Álvarez Munárriz parece ser bastante permitem que o sistema analise as informações e aprenda por conta pró- acertada: pria através de treinamento e experiências anteriores, evitando, assim, que os desenvolvedores tenham que elaborar códigos que preceituem ins- Em uma primeira aproximação podemos definir a IA como uma ciência que tem como objetivo o desenvolvimento e construção de máquinas capazes de imitar truções específicas. Por consequência, é possível que o algoritmo execute comportamento inteligente das pessoas. (grifo do autor) tarefas ou alcance resultados que sequer foram imaginados por seus de- senvolvedores, pois, quanto maior a quantidade de dados disponibilizado Um ramo especializado da informática que investiga e produz raciocínio por meio de máquinas automáticas e que pretende fabricar artefatos dotados da ca- para o treinamento, maior será o aprendizado e capacidade de resposta pacidade de pensar. (soluções) para as questões Para que tal aprendizado se torne possível, o treinamento envolve uma Podemos, portanto, ver a IA como um ramo da informática dedicado a criação quantidade expressiva de dados (big data) para alimentar o sistema e pos- artificial do conhecimento, ou seja, uma ciência que tem como aspiração fun- sibilitar seu constante aprimoramento. avanço e aperfeiçoamento das damental o desenvolvimento e produção de artefatos computacionalmente inte- de treinamento do machine learning culminaram no desenvolvi- ligentes. É um saber positivo que tem como objetivo final a criação de sistemas mento do chamado deep learning, que é uma das várias formas de abor- especializados na manipulação inteligente do conhecimento. (grifo dagem do aprendizado de máquina. Erick Navarro Wolkart define o deep Assim, a Inteligência Artificial é, a nosso ver, uma tecnologia baseada learning como: na reprodução e aplicação, pelas máquinas computacionais, de processos [...] uma técnica avançada de machine learning, cujos algoritmos não dependem análogos ao raciocínio humano com o objetivo de execução e automatiza- de dados previamente escolhidos e lapidados por seres humanos (dados super- ção de tarefas que até então somente poderiam ser desempenhadas pelos visionados) para criar ou reconhecer padrões. Isso significa que esses algoritmos próprios seres humanos, resultando na produção de conhecimento de for- aprendem com uma imensa quantidade de dados crus, disponíveis de imediato ma artificial, ou "criação sintética de na Internet ou em outra fonte (big (grifos do autor) É justamente a possibilidade de produção de conhecimento de forma Um dos métodos de aprendizado profundo (deep learning) que teve artificial que abriu os caminhos para que pudesse ser desenvolvida a ca- um destacado progresso nos últimos anos é o de redes neurais artificiais (artificial neural networks), que são algoritmos estruturados de forma não WOLKART, Erick Navarro. Análise econômica e comportamental do processo civil: como pro- linear, em camadas "hierarquicamente organizadas, que codificam a infor- 7. a cooperação para enfrentar a tragédia da Justiça no processo civil brasileiro. 2018. 815 mação de maneira global, a processa em paralelo e são capazes de genera- f. Tese (Doutorado) Programa de Pós-graduação em Direito, Universidade do Estado do Rio de lizar, associar e Janeiro UERJ, Rio de Janeiro, 2018. p. 673. A abordagem da inteligência artificial à inteligência humana foi "adotada por Alan Turing em 1950, quando propôs um teste (agora conhecido como teste de Turing) para avaliar o comportamento inteligente de uma máquina. A As redes neurais artificiais são construídas de forma similar ao arranjo proposta de Turing era permitir que um ser humano, a quem chamamos de interrogador, se do cérebro humano e seu processo sináptico, sendo que seus "neurônios" munique com um objeto de teste, por meio de uma máquina de escrever, sem saber se o objeto é uma pessoa ou uma máquina. Nesse ambiente, declarar-se-ia que a máquina tem comportamen- to inteligente naquela situação se o interrogador não conseguisse distingui-la de um ser humano. 10. Para uma visão mais completa do aprendizado de máquina, conferir LUGER. George Inteligência Assim, o teste de Turing mede a capacidade da máquina se assemelhar ao ser humano." (grifo do artificial. Tradução: Daniel Vieira. ed. São Paulo: Pearson Education do Brasil, 2013. p. 319-471. autor) Glenn. Ciência da computação: uma visão abrangente. Tradução Cheng 11. WOLKART, Erick Navarro. Análise econômica e comportamental do processo civil: como Mei Lee. ed. Porto Alegre: Bookman, 2005, p. 369. promover a cooperação para enfrentar a tragédia da Justiça no processo civil brasileiro. 8. ÁLVAREZ MUNÁRRIZ, Luis. Fundamentos de inteligencia artificial. Universidade de Murcia, 2018.815 f. Tese (Doutorado) Programa de Pós-graduação em Direito, Universidade do Estado do Rio de Janeiro UERJ, Rio de Janeiro, 2018. p. 674. 1994, p. 19-20. 9. ÁLVAREZ MUNÁRRIZ, Luis. Fundamentos de inteligencia artificial. Universidade de Murcia, 12. ÁLVAREZ MUNÁRRIZ, Luis. Fundamentos de inteligencia artificial. Universidade de Murcia, 1994, 21. 1994, p. 221. 785 784NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS são, na verdade, unidades de processamento dispostas em camadas te aos que os especialistas humanos fariam. Mas, para que seja possível o sivas (layers) que se conectam entre si, e se relacionam por meio de entra- treinamento do sistema é necessário que os conhecimentos e informações das e saídas (cada camada utiliza a entrada da anterior e repassando sua sejam fornecidos por especialistas humanos em um domínio particular. saída para a camada posterior). 0 aprimoramento da IA possibilitou que fosse possível a superação Os neurônios de entrada são responsáveis pela captação das informa- dos primeiros sistemas especialistas criados, os quais eram baseados em ções do meio ou de outra rede, transmitindo-as às demais camadas (de- texto o método de aprendizado não era baseado na experiência, mas sim nominadas camadas ocultas ou internas) às quais são associados valores pela alimentação de muitos dados obtidos de forma manual possibilitan- denominados pesos ou parâmetros a serem aplicados aos dados. Desse do que hoje, aprendizado seja realizado utilizando o machine learning modo, os neurônios de saída conseguem produzir uma resposta ao pro- através da análise de uma expressiva quantidade de dados sem que seja blema proposto à rede neural. À medida que o problema é resolvido cor- necessária a transcrição de regras específicas para o algoritmo. retamente, atribui-se um peso adicional às saídas dos neurônios que in- dicaram a resposta correta, fazendo com a rede consiga aprender através As pesquisas no ramo da inteligência artificial não são recentes, no da experiência. entanto, somente com a invenção dos computadores eletrônicos é que se tornou possível seu desenvolvimento. Os autores especializados definem o desenvolvimento de "máquinas inteligentes" está diretamente re- como marco do surgimento da inteligência artificial a publicação do artigo lacionado com o desenvolvimento das redes neurais artificiais, principal- Computing Machinery and Intelligence de Alan Turing: mente no que tange às habilidades de reconhecimento e "classificação de o padrões, controle e processamento de Nesse sentido, Simon Hay- desejo de construir máquinas que o comportamento humano possui uma longa história, mas muitos concordam que o campo moderno da inteligência arti- kin ressalta que: ficial teve suas origens em 1950, com a publicação do Computing Machinery and A propriedade que é de importância primordial para uma rede neural é sua habi- Intelligence, de Alan Turing. Foi aí que Turing propôs que as máquinas poderiam lidade de aprender a partir de seu ambiente e melhorar seu desempenho atra- ser programadas para exibir um comportamento inteligente. (grifo do vés da aprendizagem. A melhoria do desempenho ocorre com o tempo de acordo com alguma medida preestabelecida. Uma rede neural aprende acerca do seu Em seu revolucionário Turing aventou a possibilidade de que ambiente através de um processo interativo de ajustes aplicados a seus pesos as máquinas poderiam pensar e mimetizar o comportamento de forma sinápticos e níveis de bias. Idealmente, a rede se torna mais instruída sobre seu muito semelhante a um computador humano. Mais do que isso, Turing, já ambiente após cada iteração do processo de aprendizagem. em 1950, afirmou que podíamos esperar que as máquinas acabassem por [...] competir com os homens em todos os campos puramente intelectuais, fato este que provou ser verdadeiro, conforme se demonstrará adiante. Definimos aprendizagem no contexto de redes neurais como: Aprendizagem é um processo pelo qual os parâmetros livres de uma rede neural 3. INTELIGÊNCIA ARTIFICIAL APLICADA AO DIREITO são adaptados através de um processo de estimulação pelo ambiente no qual a rede está inserida. o tipo de aprendizagem é determinado pela maneira pela qual A Inteligência Artificial tem se mostrado aplicável em diversas esfe- a modificação dos parâmetros (grifos do autor) ras da atividade humana, em razão de sua capacidade de sistematizar e Um ramo de desenvolvimento da inteligência artificial que tem bas- automatizar tarefas E o campo do direito também não ficou tante relevância para o direito é aquele voltado para o desenvolvimento de incólume às transformações e inovações disruptivas causadas pelo uso da inteligência artificial. sistemas especialistas, os quais são projetados para emular método de resolução de problemas ou diagnóstico de situações de forma semelhan- 15. J. Glenn. Ciência da computação: uma visão abrangente. Tradução Cheng Mei Lee. ed. Porto Alegre: Bookman, 2005, p. 368. 13. Simon. Redes neurais: princípios e prática. Tradução: Paulo Martins Engel. ed. Porto 16. Alan M. Computing machinery and intelligence. In Mind, n. 49. p. Disponível Alegre: Bookman, 2001. p. 850. em: Acesso em: 05 de set de 2019. 14. Simon. Redes neurais: princípios e prática. Tradução: Paulo Martins Engel. ed. Porto 17. Stuart NORVIG, Peter Inteligência artificial. Tradução: PubliCare Consultoria. ed. Alegre: Bookman, 2001. p. 75. Rio de Janeiro: Elsevier, 2004. p. 3. 786 787NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS o fato de parte das atividades relacionadas à prática jurídica serem Ross: Baseado na computação cognitiva Watson da IBM, a aplicação padronizadas e repetitivas; o crescimento das demandas de massa (litigio- abrange pesquisa sobre as decisões dos tribunais dos EUA (publicadas e sidade repetitiva) e a crescente necessidade do aumento da produtividade publicadas) e de órgãos administrativos, legislações e regulamentos tornaram a área do direito uma candidata ideal para sofrer as fortes trans- federais e estaduais. sistema ainda monitora as novidades e alterações formações decorrentes da aplicação de tecnologias disruptivas como a in- na jurisprudência e produção legislativa, objetivando a redução do tempo teligência artificial, permitindo a automação de tarefas que antes somente gasto em pesquisa e a otimização dos diferencial do siste- poderiam ser desempenhadas por profissionais do direito. ma está no fato de que o usuário não necessita formular questionamentos de forma estruturada e elaborada. Basta formular uma pergunta em lin- Como bem pontua Erick Navarro Wolkart, guagem natural, que o software é capaz de compreender o significado do [t]arefas mais complexas, como a previsão do resultado de um processo, a pes- questionamento, relacionando-o com o conteúdo de leis e decisões, classi- quisa estruturada de jurisprudência, a busca de orientação jurídica através de ficando as informações e indicando aquelas que são relevantes, chegando linguagem coloquial e até mesmo a elaboração de peças e sentenças de forma formular hipóteses e soluções (respostas) para o caso sustentadas por automática, exigem tecnologia mais elaborada e menos disponível. Ainda assim. como já sabemos, a cada ano os custos tecnológicos diminuem e seus benefícios referências e citações. aumentam, de forma que o que parece financeiramente inviável em determinado Ravel Law: Trata-se de uma empresa dos EUA especializada na elabo- ano pode tornar-se acessível em pouco ração de estratégia processual através de análise do histórico de decisões Assim, os custos da utilização da inteligência artificial estão sendo re- dos juízes e tribunais americanos. Segundo a empresa desenvolvedora, a duzidos paulatinamente, possibilitando que seja crescente sua aplicação ferramenta Court Analytics do software Ravel Law permite que o usuário em tarefas como compilação de dados, análise de documentos, sugestões resultados e crie argumentos Utilizando especiali- de modelos de peças jurídicas, predição de resultados de julgamentos atra- zação em linguística computacional e análise de linguagem, o sistema ex- vés da análise e identificação de padrões no comportamento de tribunais e trai informações dos dados não estruturados dos tribunais, criando gráfi- de seus membros COS sobre as tendências decisórias dos juízes (juízos preditivos), indicando, inclusive os casos e a linguagem específica que um juiz geralmente cita e A crescente concorrência, a pressão pelo aumento da eficiência e pro- prefere. Assim, tendo conhecimento sobre o julgador, os advogados terão a dutividade, a necessidade de oferecer serviços que atendessem às novas de- possibilidade de agir estrategicamente direcionando seus esforços de modo mandas do mercado e de reduzir custos fez com que grandes escritórios de produzir uma argumentação jurídica específica para cada magistrado. advocacia do mundo inteiro buscassem soluções para diminuir o tempo gas- to com as tarefas e aumentar a precisão de como elas são Den- Por outro lado, os Tribunais também estão encampando as potencia- tre as ferramentas de maior destaque para o uso da advocacia, pode-se citar: lidades tecnológicas dos sistemas de inteligência artificial, utilizando as aplicações para automatizar tarefas de pesquisas de legislações e prece- WOLKART, Erick Navarro. Análise econômica e comportamental do processo civil: como dentes ou até mesmo auxiliar a tomada de decisões. 18. promover a cooperação para enfrentar a tragédia da Justiça no processo civil brasileiro. 2018. 815 f. Tese (Doutorado) Programa de Pós-graduação em Direito, Universidade do Estado Uma das mais importantes e polêmicas ferramentas de inteligência do Rio de Janeiro UERJ, Rio de Janeiro, 2018. p. artificial utilizadas por tribunais é o COMPAS. Desenvolvido por uma em- 19. No Brasil, vem se utilizando o termo Jurimetria para denominar a ciência que utiliza de presa privada chamada Equivant (anteriormente denominada Northpoin- análise estatística aplicados ao direito. Através da análise dos dados gerados pelos tribunais, é possível a identificação de padrões decisórios e de comportamento, possibilitando a realização de previsões tais como: percentual de chance de êxito de determinada demanda, valores arbitra- pela qual certos serviços legais são entregues. Coletivamente, eles vão transformar todo o pa- dos para reparação por danos morais, o tempo médio de duração de uma determinada demanda, norama legal". Richard. Tomorrow Lawyers: An Introduction to Your Future. ed. etc., o que possibilita a adoção de elaboração de estratégias jurídicas por parte de advogados. A London: Oxford University Press, 2017. p. 44-54. Kindle Edition. jurimetria também se mostra interessante aos tribunais, na medida em que permite que eles te- Anthony. Ross and Watson tackle the law. IBM, 14 de jan. de 2018. Disponível em:NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS te), o COMPAS (sigla para Correctional Offender Management Profiling for Loomis foi acusado de cometer cinco crimes relacionados a um tiroteio na Alternative Sanctions) é uma ferramenta que vem sendo utilizada por cidade de La Crosse. Apesar de negar ter realizado os disparos, Loomis foi bunais de vários estados dos para avaliar os riscos de reincidencia condenado a seis anos de prisão. do réu, influenciando a concessão de liberdade condicional e na realização Antes de ter a sua sentença proferida, o réu respondeu ao questioná- do cálculo de pena, sendo aplicado tanto para pessoas presas em caráter rio do COMPAS e teve como avaliação que se tratava de um indivíduo com provisório, quantos às presas em caráter definitivo. alta probabilidade de reincidência, resultado esse que foi explicitamente Através das respostas fornecidas pelo réu em um questionário con- utilizado pelo juiz para negar a concessão da liberdade condicional e para tendo 137 itens que incluem fatores como nível de educação; histórico realizar a dosimetria da pena. criminal familiar, de amigos e vizinhos; ocupação (se está empregado ou A defesa de Loomis então apresentou uma moção ao juiz de primeira não); local onde nasceu e vive; histórico de uso de entorpecentes o algo- instância argumentando que a utilização da avaliação do COMPAS violou ritmo gera uma avaliação de risco em uma pontuação (score) que vai de 01 tanto seu direito a uma sentença individualizada quanto seu direito de ser a 10 pontos (sendo 01 de baixa periculosidade e 10 de alta periculosidade). condenado por informações precisas, na medida em que a metodologia o uso do algoritmo está sendo alvo de diversos usada para fazer os relatórios é um segredo comercial, não sendo possível aferir os critérios utilizados para classificação, apenas as estimativas de visto que a metodologia para a avaliação do risco não é divulgada, tam- risco de reincidência são reportadas ao pouco é revelado o peso atribuído às respostas fornecidas para cada uma das perguntas do questionário, de modo a chegar ao número da avaliação Por ter sua moção negada pelo juiz de primeira instância, Loomis (score). Nem mesmo o juiz tem acesso às respostas, sendo-lhe fornecido: recorreu à Suprema Corte de Wisconsin, a qual, por sua vez, manteve a condenação, decidindo que, embora a metodologia usada para produzir a [...] apenas o score do preso, na medida em que a metodologia empregada pelo COM- PAS é considerada segredo comercial, sendo desconhecida tanto pelo juiz como pelo avaliação não fosse divulgada nem para o tribunal nem para o réu, o uso do preso, que não podem avaliar quais foram os dados utilizados, como os fatores de algoritmo não desrespeitou os direitos do acusado, posto que ele receberia risco são sopesados e como os scores são (grifo do autor) amesma pena se COMPAS não tivesse sido Um dos mais famosos casos envolvendo o uso do COMPAS ocorreu Em uma última tentativa de questionar a decisão, Loomis apresentou em 2013 no Estado de Wisconsin (EUA) onde um homem chamado Eric um writ of certiorari (recurso semelhante ao Recurso Extraordinário no Brasil) para a Suprema Corte dos Estados Unidos. No entanto, em 26 de 23. Segundo a organização ProPublica, os resultados fornécidos pelo COMPAS são utilizados por de 2017 o tribunal decidiu negar a petição (não admitir o recurso) juízes dos estados do Arizona, Colorado, Delaware, Kentucky, Louisiana, Oklahoma, Virgínia, entender que o tema ainda é muito incipiente para ser tratado pela Washington e Wisconsin durante a condenação criminal, influenciando diretamente o cálculo da Corte máxima do país. pena a ser aplicada ao réu. ANGWIN, Julia, LARSON, Jeff, et al. Machine Bias. There's software used across the country to predict future criminals. And it's biased against blacks. ProPublica. 23 de maio de 2016. Disponível No Brasil, há um movimento entre os tribunais para implementação de Acesso em: 03 de de 2019. aplicações que utilizam inteligência artificial para fazer frente ao crescente 24. o debate sobre o uso do algoritmo se tornou ainda mais acirrado quando a organização ProPu- numero de processos e tentar aumentar a produtividade. blica, divulgou um estudo no qual apurou-se que os resultados fornecidos pelo COMPAS tendem a atribuir pontuações significativamente mais altas às pessoas negras em detrimento às pessoas 0 início da estruturação de uma base de dados que permitisse o uso brancas (muito embora a questão racial não seja alvo do questionário de avaliação de pericu- tecnologia se deu com a implementação de sistemas eletrônicos de losidade). ANGWIN, Julia, LARSON, Jeff, et al. Machine Bias. There's software used across the country to predict future criminals. And it's biased against blacks. ProPublica. 23 de maio de 2016. Disponível em: State V. Loomis. Wisconsin Supreme Court Requires Warning Before Use of Algorithmic Risk Asses- Acesso em: 03 de out. de 2018. sments in Sentencing. Harvard Law Review. 130 Harv. L. Rev. 1530. 10 de mar. De 2017. Disponível 25. LUMMERTZ, Henry. Algoritmos, inteligência artificial e o Oráculo de Delfos. As inúmeras ques- em: 03 de de 2018. tões suscitadas pela aplicação da algoritmos e IA no Judiciário e Administração Pública. 12 State V. Loomis. Wisconsin Supreme Court Requires Warning Before Use of Algorithmic Risk Asses- de out. de 2018. Disponível em: sments in Sentencing Harvard Law Review. 130 Harv. L. Rev. 1530. de mar. De 2017. Disponível Acesso em 13 de out. de 2018. Acesso em: 03 de de 2018. 790 791NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS tramitação processual. No entanto, por não haver ainda uma uniformização gistrado, possibilitando que este possa uniformizar as decisões para os dos sistemas existentes são mais de 40 sistemas diferentes usados pelos processos que possuam pedidos e causa de pedir idênticos. tribunais brasileiros há uma grande dificuldade de ser realizada uma Na sessão de Julgamento da Câmara Cível do TJMG, realizada em 07 truturação unificada (nacional) e padronizada dos dados dos tribunais Como consequência, temos iniciativas individualizadas dos tribunais, de novembro de 2018, a ferramenta Radar foi utilizada para identificar e cada um criando sua própria ferramenta de inteligência artificial. classificar 280 recursos com idênticos pedidos relacionados a dois temas: legitimidade do MP em pleitear medicamentos e tratamentos individuali- Supremo Tribunal Federal vem utilizando da ferramenta Victor, de- zados (súmula 766 do STJ) e efeitos jurídicos do contrato temporário fir- senvolvida em parceria com a Universidade de Brasília (UnB), que utiliza mado em desconformidade com o art. 37, IX, da Constituição Federal (Sú- aprendizado de máquina e redes neurais artificiais para a execução de três mula 916 do STF), possibilitando que todos os processos fossem julgados principais atividades: conversão de imagens em textos no processo digital, de simultaneamente em sessão de julgamento separação e classificação das peças processuais mais utilizadas nas ativi- De acordo com a explicação do Presidente do Tribunal, desembarga- dades do STF e a identificação dos temas de repercussão geral de maior dor Afrânio Vilela, Dessa forma, o sistema irá identificar se os recursos extraor- dinários interpostos têm correlação com algum tema de repercussão geral. [...] depois que a ferramenta separa os recursos, é montado um padrão de voto Sendo verificada a existência de repercussão geral, o processo poderá ser que contempla matéria já decidida pelos Tribunais Superiores, ou pelo Inciden- te de Resolução de Demandas Repetitivas (IRDR), processo que trata de um as- levado a julgamento de forma imediata. sunto abordado em inúmeros outros processos. Assim, depois que o incidente é No âmbito do Tribunal de Justiça de Minas Gerais, estão sendo desen- julgado, a mesma decisão deve ser aplicada a todas as outras ações judiciais do mesmo teor. volvidas duas ferramentas baseadas em inteligência artificial: Esse esboço de voto é apresentado ao desembargador relator, que tem a pos- Radar: plataforma que permitirá aos magistrados fazer buscas inteli- sibilidade de fazer alterações e imprimir seu traço pessoal ao texto. Feitas as gentes por palavra-chave inclusive dentro das peças processuais dos autos correções, a máquina já identifica os recursos iguais e procede ao julgamento conjunto, em questão de segundos. que tramitam eletronicamente. Isso auxiliará os assessores dos desembar- gadores do Tribunal na elaboração de votos, uma vez que irá entregar pes- Não haverá interferência de magistrados nas sessões com pautas contendo pro- quisas prontas de julgados, que poderão ser utilizados no voto. Além disso, cessos repetitivos por serem virtuais. segundo o TJMG, outra aplicabilidade da plataforma é a utilização de cálcu- Verifica-se que a tendência é que se amplie a utilização dessas ferra- los estatísticos que permitem a identificação de aumentos significativos na mentas, no entanto, conforme será discutido adiante, o "encantamento distribuição de processos no e graus que possuem seu pedido e causa com os ganhos de eficiência e estão se sobrepondo às de pedir idênticos a outros, o que pode ser um indício da existência de preocupações sobre os potenciais riscos e possíveis consequências que a uma possível demanda repetitiva, possibilitando que o magistrado suscite utilização de tais algoritmos podem acarretar ao processo de tomada de um Incidente de Resolução de Demandas Repetitivas (IRDR). Desse modo, decisões e aos jurisdicionados, conforme se demonstrará adiante. os magistrados poderão verificar casos repetitivos no acervo da comarca, agrupá-los e julgá-los conjuntamente a partir de uma decisão TRIBUNAL DE JUSTIÇA DE MINAS GERAIS. TJMG utiliza inteligência artificial em julgamento virtual. 07 de nov. de 2018. Disponível em: Ágil: ferramenta que possui uma tecnologia que identifica a distor- em: 10 de ção de distribuição de processo por comarca, emitindo um alerta ao ma- nov. de 2018. TRIBUNAL DE JUSTIÇA DE MINAS GERAIS. TJMG utiliza inteligência artificial em julgamento 07 de nov. de 2018. Disponível 28. SUPREMO TRIBUNAL Ministra Cármen Lúcia anuncia início de funcionamento Acesso em: 10 de do Projeto Victor, de inteligência 30 de ago. de 2018. Disponível em: de 2018. Acesso em: 05 de out de 2018. Dierle; MARQUES, Ana Luiza Pinto Coelho. INTELIGÊNCIA ARTIFICIAL E DIREITO PRO- 29. Informação apresentada durante o Seminário Direito Tecnólogia Inteligência Artificial na Justi- CESSUAL: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista ça realizado no TJMG no dia 20 de abr. de 2018. de Processo. Vol. 285/2018. Nov. de 2018. p. 4. 792 793USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS Muito embora os tribunais apregoem que o uso da inteligência artifi- por parte de empresas que desejam manter seus segredos comerciais e cial na realização de algumas de suas tarefas trará benefícios aos jurisdi- vantagens cionados, na medida em que aumentaria a velocidade e eficiência com que Há também outra questão a ser analisada, que diz respeito ao próprio serão executadas, as potencialidades do uso dessa tecnologia demanda re- modo como os algoritmos que utilizam técnicas avançadas de machine lear- flexões críticas sobre modo de desenvolvimento, implantação e uso das ning (deep learning) e redes neurais artificiais profundas (deep neural net- ferramentas de IA. Suas potencialidades apresentam grandes oportunida- works) funcionam. Em razão da própria estrutura e modelação das redes des, mas é preciso analisar cuidadosamente os impactos, riscos e conse- neurais artificiais, as quais, inspiradas no cérebro, são capazes de auto-orga- quências que a utilização de tais algoritmos pode acarretar ao processo de nizar, adaptando seus pesos sinápticos (presentes nas camadas intermediá- tomada de decisões e aos jurisdicionados. layers) de acordo com as mudanças do ambiente ao qual estão sendo expostas, criando novas calibrações (quando.dar um peso maior ou menor 3.1. Primeiro risco da utilização da IA no processo jurisdicional: determinado dado ou padrão) e representações internas, é possível que opacidade ocorra um comportamento que nem sempre se pode prever e compreender, tal como hoje não compreendemos mecanismos do nosso próprio cérebro. A popularização e expansão de ferramentas de inteligência artificial parecem transmitir uma aura de que ela é capaz de resolver os problemas Esse comportamento inesperado ou essa impossibilidade de justifica- de nossa jurisdição. No entanto, mostra-se pertinente a advertência reali- compreensível de como as decisões foram tomadas, acabam criando zada por Dierle Nunes e Aurélio Viana, no sentido de que: "caixa preta" (black box), pois não há uma explicação inteligível sobre de processamento interno da informação pelos algoritmos treina- [o]s juristas brasileiros em geral vêm se apaixonando pelas potencialidades do dos com redes neurais artificiais profundas (deep neural networks): uso das ferramentas e plataformas de inteligência artificial (IA) no Direito de modo completamente acrítico, talvez pelos grandiosos números de processos [...] as inteligências artificiais frequentemente se destacam desenvolvendo for- que temos em nosso Sistema Jurídico e pela busca de novos modos de dimen- mas totalmente novas de ver, ou mesmo de pensar, que são inescrutáveis para sioná-los. nós. É uma versão mais profunda do que muitas vezes é chamado de problema da "caixa preta" a incapacidade de discernir exatamente o que as máquinas estão Ao realizarmos a pesquisa para elaboração deste estudo, nos depara- fazendo quando estão ensinando habilidades novas a si mesmas e uma preocupação central na pesquisa de inteligência artificial. 35 mos com uma enorme dificuldade: encontrar informações sobre o modo de desenvolvimento e funcionamento dos softwares de inteligência artificial e E mesmo em casos nos quais se tenha um enorme conjunto de dados, suas aplicações. As informações, quando disponíveis, eram incompletas ou mas passível de compreensão, e um código escrito com clareza, a interação vagas, ou seja, há uma ausência de transparência (opacidade) em todas as desses dois conjuntos é o que produz a alta complexidade do algoritmo e, etapas da utilização das ferramentas de IA: desde seu desenvolvimento, até consequentemente, a opacidade. as aplicações e efetivos resultados. Os cientistas da computação chamam essa questão de opacidade de Parte da explicação dessa opacidade pode estar no fato de que a maio- um problema de "interpretabilidade", pois "quando um computador apren- ria dos softwares foram criados por empresas privadas (Legal Techs), ra- consequentemente, constrói sua própria representação de uma de- zão pela qual o modo de desenvolvimento e aplicação de seus produtos de classificação, faz isso sem considerar a compreensão humana". 36 estariam "protegidos" pelo segredo comercial, desobrigando que tais em- presas revelassem informações sobre seus algoritmos com amparo na pro- Jenna. How the machine Understanding opacity in machine learning algorithms. teção da propriedade intelectual. Como bem destaca Jenna Burrel a "opa- dejan. de Acesso em: 15 de de 2018. cidade algorítmica é uma forma amplamente intencional de autoproteção KUANG, Cliff. Can I.A. be taught to explain itself? The New York Times Magazine. 21 de nov. de 2017. Disponível em:NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS Existe ainda, um terceiro fator a ser levado em as eta- dausula garantidora da transparência e da fiscalidade do processo de to- pas de alimentação de uma base de dados (data set) dos algoritmos e sua mada de decisões. Logo, pode-se concluir que essa mesma cláusula obriga estruturação, os critérios de categorização, seu desenvolvimento e trei- que haja uma "transparência algorítmica", pois é namento são realizados sem qualquer nível de controle externo, uma vez [...] cediço que, no sistema processual brasileiro, tendo em vista a perspectiva que os dados não são divulgados (são sigilosos). Nenhum dos algoritmos do devido processo constitucional, a utilização de mecanismos ocultos para as utilizados pelos tribunais pátrios se tornou público, mesmo aqueles desen- partes do processo na tomada de decisões viola garantias processuais constitu- volvidos por membros dos próprios tribunais. A justificativa geralmente cionais, como o contraditório e a ampla defesa, as quais somente podem ser efe- se baseia na premissa de que a ausência de divulgação evitaria que fosse tivadas mediante o conhecimento dos pressupostos utilizados no possível burlar o sistema e identificar seus parâmetros. Conforme demonstrado anteriormente, o funcionamento de redes No entanto, essa opacidade no uso de algoritmos e a potencialidade de neurais profundas muitas vezes não é passível de compreensão ou mes- estender seu uso nos processos de tomada de decisão jurisdicional causa mo de explicação. Assim, qualquer tipo de desvio na base de dados (dados preocupação, principalmente pelo fato de que essa falta de transparência de entrada) do sistema pode gerar uma reação em cadeia completamente pode ter sérias consequências. inexplicável, levando os magistrados a tomarem decisões que podem ter sérias consequências na vida daqueles réus. Portanto, Podemos tomar como exemplo o uso do COMPAS no caso State V. Loomis. [o] problema está no design dos algoritmos. As redes neurais clássicas concen- Não obstante o réu tenha recorrido à Suprema Corte de Wisconsin questio- tram-se apenas em saber se a previsão que deram é certa ou errada, ajustando nando quais os critérios que levaram o software a classificá-lo como uma pes- e pesando e recombinando todos os pedaços de dados disponíveis em uma rede soa perigosa, o Tribunal entendeu que não havia qualquer ofensa ao direito emaranhada de inferências que parece fazer o trabalho. Mas algumas dessas in- de defesa do réu. Embora tenha decidido que os juízes que utilizarem o refe- ferências podem estar terrivelmente rido software devam revelar os demais elementos que os levaram a formar Também no caso do Victor, utilizado pelo STF cujo processo de cria- sua o fato de o réu ter ao seu desfavor uma avaliação negativa já guardado em sigilo sem a possibilidade de participação (fiscalidade) acarreta um grande prejuízo à sua defesa, sem qualquer chance de questio- sociedade e dos jurisdicionados uma análise equivocada do conjunto namento, na medida em que não é possível às partes e nem mesmo aos julga- de dados ou um erro na pesquisa, pode acarretar que o algoritmo realize dores conhecer o funcionamento do algoritmo. É o que defende Jordi Fenoll: correlações defeituosas da repercussão geral inadmitindo recursos sem é muito difícil se defender de um algoritmo se não se conhece seu conteúdo, ou que seja possível compreender a lógica (regra de decisão) que embasou quando simplesmente se atribui um automatismo quase mágico ao algoritmo, essa decisão específica. E mesmo que seja realizada a abertura do código lhor, à combinação de suas variáveis. Sem contar com as tremendas dificuldades que fonte, é possível que não seja possível entender o funcionamento do algo- até os especialistas conheçam seu conteúdo com precisão. E tampouco é aceitável que os tribunais se acobertem na dificuldade técnica de conhecer o funcionamento ritmo quando ele estiver em efetiva operação, posto que, a depender de sua interno da aplicação, porque, neste caso, não se trata de procurar jurisprudência ou complexidade, as operações interlineares não ficarão demonstradas. escrever um texto relativamente simples e unívoco, mas estamos discutindo a ques- tão. privação de liberdade de uma pessoa, que é uma questão muito mais No caso do Victor está ocorrendo uma conferência humana na sua etapa piloto de funcionamento, no entanto, não há garantias que o problema aqui Fenoll ainda salienta que o problema principal é que não se pode uscitado seja completamente evitado quando entrar em plena aplicar ao processo uma ferramenta de tais características sem que se co- nheça seu funcionamento interno, porque isso é [...] contrário ao direito de NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. INTELIGÊNCIA ARTIFICIAL E DIREITO defesa."38 Além disso, há que levar em conta o fato de que a possibilidade PROCESSUAL: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. de atuação comparticipativa das partes se apresenta como uma verdadeira Revista de Processo. Vol. 285/2018. Nov. de 2018. p. KUANG, Cliff. Can I.A. be taught to explain itself? The New York Times Magazine. 21 de nov. de 2017. Disponível 37. FENOLL, Jordi Nieva. Inteligencia artificial e proceso judicial. Coleção Proceso y Derecho.M Acesso em 10 de out. de 2018. drid: Marcial Pons. 2018. p. 73. SUPREMO TRIBUNAL FEDERAL. Inteligência artificial: Trabalho judicial de 40 minutos 38. FENOLL, Jordi Nieva. Inteligencia artificial e proceso judicial. Coleção Proceso y Derecho.Ma pode ser feito em 5 segundos. 23 de out. de 2018. Disponível:NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS Assim, a opacidade não é decorrente a apenas da ausência de houver a participação de determinados seguimentos da sociedade (OAB, sibilidade ao código fonte do algoritmo, mas também da impossibilida- advogados, juízes, jurisdicionados, membros de institutos especializados de de sua compreensão, decorrente de fatores como: enorme quantida- em direito processual, especialistas de outras áreas, etc.) desde início de de de dados que alimentam o algoritmo, da complexidade do código de criação do algoritmo, os quais poderão intervir e acompanhar de perto, de programação e da variabilidade da regra (lógica) de decisão que muda maneira proativa, os desenvolvimentos dessas novas tecnologias. forma dinâmica. Não se questiona, e também é irrefreável, a possibilidade de automa- problema se torna ainda mais sério em um contexto tal como o bra- de serviços básicos, como v.g. pesquisa de precedentes e alterações de sileiro, no qual não há um sistema estruturado e unificado dos meios de legislações, ainda mais em um país que possui um dos maiores acervos de gerenciamento processual, existindo estruturas de dados diferentes, com legislações e processos judiciais do mundo. No entanto, é preciso que a pouca ou nenhuma padronização, com um cenário de desenvolvimento de criação dos algoritmos que serão utilizados nos processos jurisdicionais diversos softwares, cada um com uma programação autônoma e formas de parta da transparência e construção participativa da IA, possibilitando que categorizações distintas, que ocasiona uma grande insegurança na estru- as etapas (pesquisa, desenvolvimento e aplicação) sejam acompa- turação da base de dados dos sistemas de inteligência artificial. pelos jurisdicionados, sob pena de atropelos e excessos por parte do poder Judiciário, com o objetivo utilitarista de reduzir o custo, e aumen- Nesse ponto mostra-se claro que identificar e examinar os riscos de a produtividade. Pois, como bem adverte Villani, utilização da inteligência artificial no processo de tomada de decisões ju- risdicionais, torna-se basilar na medida em que sistemas automatizados No longo prazo, a explicabilidade dessas tecnologias é uma das condições de e totalmente opacos estão sendo utilizados pelos órgãos públicos para sua aceitação social. No que diz respeito a certos assuntos, é mesmo uma ques- decidir questões fundamentais para a vida das pessoas, sendo que não tão de princípio: como sociedade, não se pode aceitar que certas decisões im- necessariamente tais decisões se aos princípios constitucionais do con- portantes possam ser tomadas sem explicação. De fato, sem a possibilidade de traditório em acepção dinâmica, ampla defesa, imparcialidade e devido explicar as decisões tomadas pelos sistemas autônomos, parece difícil justifi- cá-las. Mas como aceitar o injustificável em áreas tão decisivas para a vida de processo constitucional. um indivíduo quanto o acesso ao crédito, emprego, moradia, justiça ou saúde? Parece A questão dos riscos relacionados à opacidade dos algoritmos se mostra de tamanha relevância que a House of Commons do Parlamento do Reino Unido, através de seu Comitê de Ciência e Tecnologia, formulou 3.2. Segundo risco da utilização da IA no processo um estudo para analisar e acompanhar o crescente uso de inteligência existência de vieses algorítmicos artificial na tomada de decisões públicas e privadas, com o objetivo de "avaliar como os são formulados, os erros e possíveis corre- Os avanços decorrentes de pesquisas e estudos realizados pela psi- ções bem como impacto que eles podem ter nos indivíduos e sua cologia comportamental cognitiva e pela neurociência romperam com a capacidade de entender ou desafiar decisões tomadas com base no uso visão da absoluta racionalidade decisória humana, culminando no que se denominar de virada cognitiva, que vem ocorrendo desde a década da inteligência 1970. A partir de então, percebeu-se a impossibilidade de os seres hu- Não obstante tais dificuldades, é perfeitamente possível desenvolver manos serem racionais o tempo todo, mesmo quando estão dedicados ao métodos computacionais que podem ser utilizados para garantir o que processo de tomada de pode ser chamado de "transparência algorítmica" e permitir algum nível de accountability do funcionamento dos algoritmos, principalmente se VILLANI, Donner uns sens à artificielle: pour une stratégie nationa- le et européenne. Disponível em: 42. ELIAS, Paulo de Algoritmos e inteligência artificial exigem atenção do Direito. CONJUR 20 Acesso em: 20 de De 2018. p. 142. de nov. de 2018. Disponível Conferir o importante estudo apresentado por Daniel Kahneman na obra "Thinking Fast and Acesso em: 16 de out. de 2018. o Sexto Relatório Slow" (em português o título foi traduzido para Rápido e Devagar: Duas formas de pensar. Especial de Sessão 2017-19 pode ser encontrado.em KAHNEMAN, Daniel. Rápido e Devagar: Duas formas de pensar. Tradução: Cássio de Arantes Lei- Rio de Janeiro: Objetiva, 2012. 798 799NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS Estudos mais recentes demonstram que o raciocínio humano não é em- forneceriam dados claros e objetivos e seriam mais justos. Ao invés de huma- basado em premissas predominantemente racionais e imparciais, possuin- nos cheios de preconceitos escarafunchando pilhas de papeis, haveria apenas máquinas processando números. Dessa forma, algoritmos e sistemas de inteli- do vieses cognitivos (cognitive bias), ou seja, "deturpações de julgamento gência artificial melhorariam a qualidade das decisões tomadas, já que seriam que qualquer decisor está submetido por inúmeros fatores, como a incer- mais eficientes do que os seres humanos e não estariam sujeitos a seus precon- teza ínsita ao julgamento e a exiguidade de Referidos vieses são ceitos e vieses. originados pelas heurísticas, as quais são simplificações ou automatismos Contudo, a premissa de que tais sistemas, por serem automáticos, são precisos mentais utilizados para lidar com problemas e questões e imunes a falhas não é correta. Algoritmos e sistemas de inteligência artificial não são constituídos exclusivamente por correlações matemáticas e necessárias, Por estar baseada em algoritmos e linhas de código (linguagem de pro- senão que veiculam também escolhas dos programadores seja em relação aos gramação), é compreensível que se atribua à inteligência artificial caracte- dados empregados seja em relação aos mecanismos utilizados para a tomada de rísticas como objetividade, neutralidade e blindagem aos vieses cognitivos decisões e, consequentemente, seus eventuais vieses e preconceitos, além de humanos, assim como se atribui tais características às ciências exatas. Ape- poderem apresentar falhas. Assim, as decisões tomadas por algoritmos e siste- sar disso, de Bessa Gontijo e Renato César Cardoso, pontuam que: mas de inteligência artificial não são necessariamente objetivas ou neutras, nem podem ser consideradas como "necessárias" ou a ideia de que as Ciências sejam intrinsecamente dotadas de jetividade, imparcialidade e neutralidade, e que os cientistas sejam pessoas do- Além disso, entendemos ser uma grande falácia a ideia de que a eli- tadas de autoridade moral diferenciada. Certamente, nem todos os cientistas se minação do fator humano ocasionado pelo uso de algoritmos traria mais importam com questões sociais, tampouco se guiam por rígidos padrões morais objetividade aos processos decisórios, primeiro porque: (as contribuições da História da Ciência e da Filosofia da Ciência desmistificaram por completo essas ilusões). São, também, fruto da Ciência e do desenvolvimen- [...] a maioria das técnicas de IA, refletem o viés a priori de seus criadores. o pro- to tecnológico empreitadas que concederam à humanidade nada além de dor blema do viés indutivo é que as representações e estratégias de busca resultantes miséria, e exemplos são fartos (a bomba atômica, as lobotomias, vírus criados nos dão um meio para codificar um mundo já interpretado. Raramente elas nos em laboratório, e até mesmo para o aquecimento global a Ciência oferecem mecanismos para questionar as nossas interpretações, gerando novos pontos de vista, ou para retroceder e mudar perspectivas quando elas são impro- No entanto, da mesma forma que os estudos demonstram que o ra- dutivas. Esse viés implícito leva à armadilha epistemológica racionalista de ver ciocínio humano não é embasado em premissas predominantemente ra- no mundo exatamente aquilo e apenas aquilo que esperamos ou no que estamos treinados para cionais e imparciais, também não é possível imputar tais características aos sistemas de inteligência Nesse aspecto Henry Lummertz Em segundo lugar porque os dados que alimentam os sistemas de afirma que: inteligência artificial são fruto da produção humana enquanto socieda- [u]ma ideia bastante comum é a de que algoritmos e sistemas de inteligência de, a qual é repleta de preconceitos, estigmas, desigualdades e padrões/ artificial seriam mais rápidos, minimizariam a influência de vieses humanos, categorizações excludentes. Assim, os resultados dos processos algorít- micos nada mais serão do que o reflexo da sociedade na qual eles estão inseridos. 45. NUNES, Dierle José Coelho. Colegialidade corretiva, precedentes e vieses cognitivos: algu- mas questões do CPC-2015. Disponível em:NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS zam modelos de IA para análise do risco do empréstimo. Muitos desses modelos A utilização do COMPAS se mostra útil para demonstrar o viés de anco- utilizam até mesmo dados das redes sociais do solicitante para o cálculo do cre- ragem em situações análogas ao contato com provas ilícitas. dit score, baseando-se, assim, nas conexões sociais do Desta forma, resultado vincula-se diretamente ao grupo social no qual o solicitante está Conforme descrito anteriormente, a Suprema Corte de Wisconsin, ao serido. Corroborando tal fato, um relatório de 2007, apresentado pela Federal manter a condenação de Erick Loomis, argumentou que o réu receberia Reserve ao Congresso dos Estados Unidos, apontou que negros e hispânicos amesma pena se o COMPAS não tivesse sido utilizado, não obstante isso, um credit score significativamente inferior ao de brancos e asiáticos. determinou que os juízes que usam avaliações de risco através do COMPAS Outros exemplos de modelos enviesados podem ser citados: um sistema de reco- devem explicar os demais fatores que os levaram a decidir pela condena- nhecimento facial criado pela Google identificou pessoas negras como gorilas; do réu, ou seja, devem demonstrar a existência de outros elementos sistema de busca de contatos do aplicativo Linkedin demonstrou uma preferência para embasar a sentença. por nomes de pessoas do sexo masculino; Tay, mecanismo de IA lançado pela Mi- crosoft para interagir com usuários do Twitter, passou a reproduzir mensagens No entanto, imaginemos que a Suprema Corte de Wisconsin tivesse xenofóbicas, racistas e antissemitas; o aplicativo de chat SimSimi, que utiliza inteli- decidido que realmente uso algoritmo viola o direito de defesa do réu, gência artificial para conversar com os usuários, foi suspenso no Brasil por repro- razão pela qual o resultado de sua avaliação deveria ser desconsiderado duzir ameaças, palavrões e conversas de teor (grifos dos autores) para o cálculo da pena. Portanto, é perfeitamente possível que vieses e heurísticas presentes Em razão do viés de ancoragem, um juiz que tivesse contato com uma nos processos de tomada de decisões humanas estejam presentes, de for- avaliação do COMPAS que indicasse que o réu enquadrava-se nos padrões ma oculta ou aparente, nos algoritmos das inteligências artificiais, razão de alto risco de periculosidade e reincidência, teria grande dificuldade de pela qual pode-se concluir pela existência de vieses algoritmos. se desvencilhar dessa informação para realizar o cálculo da pena. Além disso, é importante ressaltar que as respostas apresentadas pe- Jordi Fenoll, apesar de não se referir explicitamente ao viés de ancora- los algoritmos podem produzir um enviesamento no julgador humano, gem, também alerta sobre o fato de que o prognóstico de risco do COMPAS como por exemplo o viés de que pode ser observado quan- ou menos influencia as decisões judiciais sobre a culpabilida- do magistrados ou jurados têm contato com provas ilícitas e mostram- Ou seja, antes mesmo de o réu ter a oportunidade de ser julgado em se inábeis para Assim, mesmo magistrado sabendo um processo em que lhe seja garantido o devido processo legal, decisões que determinada prova não deve servir para embasar seu convencimento sobre a concessão de liberdade condicional emitidas em caráter antece- acerca do caso, as provas ilícitas "funcionam como âncoras em relação dente (cautelarmente) irremediavelmente acarretarão em uma mácula à moldagem da solução que será dada ao fazendo com que, de direito de presunção de previsto no art. 5°, inciso LVII da forma inconsciente ou implícita, as informações nelas contidas sejam le- É por tal motivo que o autor ressalta que vadas em consideração. [...] se comete um erro legal básico, de dimensões desproporcionais, ao pensar que o uso dessa ferramenta não tem muitos problemas na adoção de medi- 51. NUNES, Dierle; MARQUES, Ana Luiza Pinto INTELIGÊNCIA ARTIFICIAL E DIREITO PRO- das cautelares. E acontece que, na realidade, para decretar medidas tão graves CESSUAL: vieses e os riscos de atribuição de função decisória às máquinas. Revista como a prisão no processo penal, é necessário determinar praticamente uma de Processo. Vol. 285/2018. Nov. de 2018. p. 7. 52. Conferir: NUNES, Dierle; LUD, Natanael; PEDRON, Flávio. DESCONFIANDO DA (IM)PARCIALI- DADE DOS SUJEITOS PROCESSUAIS: Um estudo sobre os vieses cognitivos, a mitigação de seus FENOLL, Jordi Nieva. Inteligencia artificial e proceso judicial. Coleção Proceso y Derecho. Ma- efeitos e o debiasing. Salvador, Jus Podium, 2018. Nesta obra os autores demonstram a existência drid: Marcial Pons. 2018. p. 73. de diversos tipos de vieses cognitivos no processo de julgamento das decisões jurisdicionais e Jordi Nieva. Inteligencia artificial e proceso judicial. Coleção Proceso y Derecho. Ma- apontam as formas pelas quais é possível realizar o desenviesamento do julgador (debiasing). drid: Marcial Pons. 2018. p. 71. 53. NUNES, Dierle; LUD, Natanael; PEDRON, Flávio. DESCONFIANDO DA (IM)PARCIALIDADE Todos são iguais perante a lei, sem distinção de qualquer natureza, garantindo-se aos SUJEITOS PROCESSUAIS: Um estudo sobre os vieses cognitivos, a mitigação de seus efeitos brasileiros e aos estrangeiros residentes no País a inviolabilidade do direito à vida, à liberdade, à debiasing. Salvador, Jus Podium, 2018. p. 110-111. igualdade, à segurança e à propriedade, nos termos seguintes: ninguém será considera- 54. NUNES, Dierle; LUD, Natanael; PEDRON, DESCONFIANDO DA (IM)PARCIALIDADE do culpado até o trânsito em julgado de sentença penal BRASIL. CONSTITUIÇÃO SUJEITOS PROCESSUAIS: Um estudo sobre os vieses-cognitivos, a mitigação de seus efeitos 0 DA REPÚBLICA FEDERATIVA DO BRASIL DE 1988. Disponível em:NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS certeza de culpabilidade, o que, certamente, equivale ao juízo que será inclui recursos de definição, pré-classificação de dados de treinamento e ajuste com a sentença.58 de limites e Portanto, os desvios cognitivos decorrentes dos vieses eles E por serem ferramentas com alta capacidade de classificação e catego- presentes nos algoritmos ou influenciando o julgador humano) acarre- rização, é possível que ao minerar os o algoritmo encontre um pa- tam sérios problemas quando presentes no processo de tomada de deci- drão que não é verdadeiro no mundo real, ou encontre informações invisí- sões jurisdicionais, uma vez que as distorções por eles causadas podem veis (padrões ocultos) no grande volume de dados ao qual ele é submetido. afetar diretamente a análise dos argumentos e provas produzidos pelas partes impedindo, assim, a implementação do espaço discursivo demo- Assim, se o banco de dados utilizado para o treinamento dos algorit- crático, no qual o magistrado "exerça sua função de modo imparcial, mos contiver padrões distorcidos ou enviesados, tais problemas necessa- idôneo, considerando ao máximo a influência dos argumentos e provas riamente serão incorporados na sua execução, gerando uma distorção que trazidos pelas partes e atento ao princípio da reserva legal na fundamen- não corresponde à realidade, ou seja, gerando resultados tação das Eserão justamente esses padrões irrelevantes ou distorcidos que irão in- fluenciar o processo de tomada de decisões. Assim, um sério risco que en- 3.3. Terceiro risco da utilização da IA no processo jurisdicional: ge- volve o uso dos algoritmos é a maneira como será realizada. alimentação neralizações equivocadas do banco de dados (dataset). O método de treinamento da inteligência artificial baseado no apren- Além disso, é importante não ignorar o fato de que todo o processo de dizado de máquina depende da elaboração de modelos de categorização, seleção dos algoritmos, metodologia de treinamento, preparação e separa- "os quais consistem em representações abstratas de um determinado pro- ção de dados e criação de modelos dependem de escolhas realizadas por cesso, sendo, em sua própria natureza, simplificações do nosso mundo real seres humanos, que possuem valores, preconceitos e enviesamentos, que e complexo".60 No entanto, como adverte Jenna Burrel, fatalmente acabarão por ser incorporados nas escolhas realizadas, mas que poderão ficar camufladas sob sua estrutura matemática. É o que Cathy [e]mbora nem todas as tarefas às quais o aprendizado de máquina seja aplicado sejam tarefas de classificação, essa é uma área-chave de aplicação e uma em que denomina os blind spots (pontos cegos) de um modelo, os quais "re- muitas preocupações sociológicas surgem. Como Bowker e Star observam em fletem os julgamentos e as prioridades de seus criadores. [...] os modelos, seu relato de classificação e suas consequências, "cada categoria valoriza apesar de sua reputação de imparcialidade, refletem metas e ponto de vista e silencia o outro" e há uma longa história de vidas "quebradas, distorcidas e torcidas por seus encontros com sistemas de classificação", como 62 sistema de classificação racial do apartheid da África do Sul e a categorização dos BURRELL, Jenna. How the machine Understanding opacity in machine learning algorithms. Society. 06 dejan. de 2016. pacientes com tuberculose, conforme detalham (Bowker e Star, A alega- Acesso em: 20 de out. de 2018. ção de que os algoritmos classificarão mais "objetivamente" (resolvendo assim 63. Mineração de dados ou data mining consiste em uma técnica na qual o algoritmo busca identifi- inadequações ou injustiças na classificação) não pode simplesmente ser tomada car padrões ou relações ocultas em um grande volume de dados, inferindo regras a partir deles pelo valor nominal dado ao grau de julgamento humano ainda envolvido no pro- para prever comportamentos futuros. jeto dos algoritmos, escolhas que se tornam embutidas. Esse trabalho humano "0 problema potencializa-se com os algoritmos computacionais, que se baseiam em dados e corre- lações normalmente sigilosos e sem qualquer transparência, motivo pelo qual podem utilizar dados 58. FENOLL, Jordi Nieva. Inteligencia artificial e proceso judicial. Coleção Proceso y Derecho. Ma- incorretos ou falsos, bem como se prestar a reproduzir correlações que não correspondem a causali- drid: Marcial Pons. 2018. p. 71-72. dades e, o que é mais grave, a reproduzir correlações que podem ser frutos de discriminações e uma NUNES, Dierle; LUD, Natanael; PEDRON, Flávio. DESCONFIANDO DA (IM)PARCIALIDADE DOS série de injustiças da vida social. [...] Por outro lado, na medida em que são elaborados por homens, SUJEITOS PROCESSUAIS: Um estudo sobre os vieses cognitivos, a mitigação de seus efeitos e 0 é inequívoco que a racionalidade limitada dos programadores pode para as fórmulas dos algoritmos uma série de vieses e problemas cognitivos, os quais, diante da falta de transparência, debiasing. Salvador: Juspodivm, 2018. p. 80. não terão como ser objeto do devido escrutínio social, da crítica e do aprimoramento." FRAZÃO, Ana. 60. NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. INTELIGÊNCIA ARTIFICIAL E DIREITO Dados, estatísticas e algoritmos: Perspectivas e riscos da sua crescente utilização. JOTA. 28 de jun. CESSUAL: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de 2017. Disponível em: de Processo. Vol. 285/2018. Nov. de 2018. p. 4. em: 28 de out de 2018. 61. Bowker, GC, Star, SL. Sorting Things Out: Classification and Its Consequences. 1999. Cambridge, O'NEIL, Cathy. Weapons of Math Destruction: how big data increases inequality and threatens MA: The MIT Press. democracy. New York: Crow Publishers, 2016. p. 26-27. Kindle Edition. Na referida obra, a autora 804 805NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS Para a autora, os algoritmos nada mais são do que opiniões codificadas, pode causar enormes dificuldades para que os jurisdicionados possam de- que repetem os padrões da sociedade e o que fizemos no passado, os quais monstrar que aquela categorização possui um erro que impede o reconhe- acabam por perenizar o status quo. cimento da existência da repercussão geral, ainda mais em razão do viés Um exemplo apresentado por Isabela Ferrari e Daniel Becker, se mos- de ancoragem, que tende a fazer com que seja dada grande confiança ao resultados apresentados pelo algoritmo. tra didático: [...] imagine um algoritmo hipotético utilizado por uma empresa de recruta- 3.4. Quarto risco da utilização da IA no processo pre- mento para selecionar candidatos a cargos executivos. Na sociedade em que conceito, discriminação e exclusão vivemos, grande parte dessas posições de alto escalão ainda são ocupadas por homens brancos. Um algoritmo que fosse buscar possíveis CEOs a partir de uma Da mesma forma que os seres humanos possuem preconceitos e vie- base de dados existente possivelmente "aprenderia" fatores de sucesso questio náveis a partir dos valores constitucionalmente consagrados, ao mesmo tempo ses cognitivos capazes de gerar discriminação e exclusões sociais, os al- em que a sua utilização transmitiria a ideia de uma avaliação científica, técnica, goritmos podem ser contaminados com tais distorções, acarretando que neutra, matemática. seu uso no processo de tomada de decisões tenha o potencial de gerar Essa situação reflete a chamada lavagem de dados (data laundering), mecanismo discriminação e reproduzir preconceitos, consolidando status quo (pa- por meio do qual tecnólogos e cientistas da computação "escondem", voluntária drões da sociedade) e desigualdade, na medida em que tais enviesamen- ou involuntariamente, falhas ou preconceitos em algoritmos para que eles pa- tos vão sendo replicados sem que se questione sua ausência de parciali- reçam objetivos e meritocráticos, seja através de propriedade intelectual ou de dade e objetividade. sigilo próprio método de treinamento do aprendizado de máquina propi- Transportando essa problemática para o uso de algoritmos no cam- cia essa reprodução de preconceitos e vieses, como sustenta Wolkart: po da tomada de decisões jurisdicionais, a existência de padrões que não correspondem à realidade ou ocultos no data set dos algoritmos utilizados Mesmo que os códigos fossem conhecidos, estudos dos processos decisórios por pelos nossos tribunais, pode ocasionar uma reprodução de um ciclo de ar- algoritmos indicam a possibilidade de as redes neurais desenvolverem vieses e tificialidade com um potencial de gerar efeitos em larga escala, os quais preconceitos captados dos dados dos quais se alimentam (reinforced learning). Quando estudamos os mecanismos de funcionamento das redes neurais, vimos somente podem ser percebidos após um período de tempo suficiente para que os inputs atravessam diversas de suas camadas. Observamos que, por proces- gerar danos irreparáveis aos sos como back propagation, os inputs e decisões viajam pela rede e vão criando os mecanismos mais assertivos de acordo com os resultados esperados (deep rein- Tomemos, mais uma vez como exemplo o algoritmo Victor do A forced learning). Todavia, ninguém sabe exatamente quais são esses caminhos. existência de um padrão oculto em seu data set que impeça o reconhe- Mais do que isso, se o algoritmo aprende com padrões discerníveis no big data cimento da repercussão geral em um recurso Extraordinário interposto e se esse big data é um subproduto da atividade humana, então é provável que padrões preconceituosos aí presentes sejam reproduzidos e amplificados pelos defende que o uso desses algoritmos (ou armas de destruição matemáticas) tem se mostrado algoritmos, levando, por exemplo, a que negros e pobres sejam ranqueados como muito mais negativamente impactante na vida de pessoas mais pobres e menos favorecidas, ao prováveis reincidentes em razão de sua ou da classe mesmo tempo que torna a vida dos mais afortunados mais mas que o uso desses algoritmos muitas vezes não é questionado, em razão de se fazer acreditar que as decisões deles advindas É o que também defende Paulo Sá Elias: são objetivas e imparciais. FERRARI, Isabela; Daniel. Algoritmo e preconceito: É preciso que se crie uma política [...] algoritmos não são imparciais. Os próprios algoritmos podem conter os pre- 66. accountability dos algoritmos. 12 de dez. de 2017. Disponível em:NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS inadequado dos algoritmos utilizados pelo Google, quando classificou os negros Além de reproduzir preconceito e discriminação, o uso de um algo- como gorilas. (Artificial Intelligence's White Guy Problem Kate The New York Times, 25th June 2016). Tais desvios, intencionais ou não, podem ser ritmo como o COMPAS anula a possibilidade do exercício fundamental da inerentes aos dados, como também oriundos do próprio desenvolvedor do al- ampla defesa e do contraditório, na medida em que impede que o proces- goritmo. Isso pode ter efeitos tão ruins como os vícios que eles pretendiam 50 seja um "ambiente no qual a argumentação dos sujeitos processuais, minar. Alguns denominam este fenômeno como "Machine bias", "Algorithm bias" dada em efetivo contraditório, seja capaz de influir verdadeiramente nos ou simplesmente, Bias. É o viés tendencioso. [...] Os desvios são difíceis de serem atos descobertos se o algoritmo for muito complexo (como são os utilizados pelo gle e Facebook), ainda se forem (grifos do autor) Se o contraditório é um meio de desenviesamento, de apresentação de argumentos e provas, com a possibilidade de influência na construção da Retomemos o uso do COMPAS, citado anteriormente. As distorções não se mostra possível que o exercício desse direito fundamental apresentadas pelo algoritmo podem ser creditadas, em parte, à ideia pré- -concebida de que negros tem mais chances de reincidir do que os brancos quando fatores alheios aos autos são utilizados para embasar a decisão final. É justamente isso que Jordi Fenoll critica: (principalmente em um contexto social como dos EUA um país onde, como no Brasil, a população carcerária é majoritariamente negra). Mas confor- [u]ma pessoa que esteja em uma série de parâmetros de risco não significa que me demonstra o estudo realizado pela ONG Pro Publica, 44,9% dos ne- tenha cometido um crime em concreto. A pessoa pode residir em um bairro es- pecífico, ser de uma raça específica, ter antecedentes ou tenha um certo nível de gros identificados como de alto risco não cometeram novos crimes, contra estudos. Nada disso importa na hora de julgar, posto que no momento de estabe- 23,5% de brancos no mesmo cenário. Por outro lado, brancos identificados lecer sua culpa ou inocência, somente se deverão ter em conta as provas relacio- como de baixo risco voltaram ser presos em 47,7% dos casos, contra 28% nadas aos fatos concretos daquele processo, e nada mais. Não há fatores de risco de negros.70 que façam dele um potencial criminoso, mas que não podem estar relacionados aos Além disso, em um estudo publicado na revista Science Advances pe- los pesquisadores Hany Farid e Julia Dressel, do Dartmouth College, o de- Nesse mesmo sentido é a opinião de Dierle Nunes e Ana Luiza Mar- sempenho do COMPAS foi comparado ao desempenho preditivo de pessoas ques: com pouca ou nenhuma perícia em justiça criminal. Na pesquisa, foram [...] Como defender-se de um "índice" sem saber o método de seu cálculo? Como analisadas mais de 7.000 previsões do COMPAS relativa a indivíduos pre- submeter o "índice" ao controle do devido processo constitucional? Por mais que sos no condado de Broward, Flórida, entre os anos de 2013 e 2014 e com- sejam divulgadas as perguntas realizadas, os acusados não sabem como suas res- paradas com as previsões realizadas por pessoas leigas. Enquanto COM- postas influenciam no resultado final (output). Desta forma, a defesa do acusado PAS teve sucesso em 65% das previsões, os humanos acertaram em 67% torna-se impossibilitada por dados matemáticos opacos e algoritmicamente en- viesados, mas camuflados, pela "segurança" da matemática, como supostamente dos casos, ou seja, al pesquisa indicou que as previsões do algoritmo eram imparciais, impessoais e pouco confiáveis. Além disso, corroborou os dados, apresentados pelo Pro Publica, de que os erros cometidos pelo COMPAS afetaram os réus negros e Os algoritmos também podem ser mostrar como poderosos replicado- brancos de forma diferente ao subestimar a possibilidade de reincidência res estereótipos sociais caso o enviesamento não seja percebido (embora de pessoas brancas e exagerar para os réus vezes seja realizado de forma proposital) e devidamente corrigido. 69. ELIAS, Paulo Sá. Algoritmos e inteligência artificial exigem atenção do Direito. Conjur. 20 de nov. VIANA, Aurélio; NUNES, Dierle. Precedentes: a mutação do ônus argumentativo. Rio de Janeiro: de 2017. Disponível GEN Forense, 2018. p.117. Acesso em: 21 de out. de 2018. NUNES, Dierle; LUD, Natanael; PEDRON, Flávio. DESCONFIANDO DA (IM)PARCIALIDADE 70. ANGWIN, Julia, Jeff, et al. Machine Bias. There's software used across the country to SUJEITOS PROCESSUAIS: vieses algorítmicos e os riscos de atribuição de função decisória às predict future criminals. And it's biased against blacks. 23 de maio de 2016. máquinas. Revista de Processo. Vol. 285/2018. Nov. de 2018. vel em: FENOLL. Jordi Nieva. Inteligencia artificial e proceso judicial. Coleção Proceso y Derecho. Ma- tencing>. Acesso em: 27 de out. de 2018. drid: Marcial Pons. 2018. p. 101. 71. DRESSEL, Julia; FARID, Hany. The accuracy, fairness, and limits of predicting recidivism. Science NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. INTELIGÊNCIA ARTIFICIAL E DIREITO PRO- Advances. 17 de jan. de 2018. Disponível CESSUAL: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista Acesso em: 27 de out. de 2018. de Processo. Vol. 285/2018. Nov. de 2018. p. 7. 808 809USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS Portanto, fica claro que as classificações e categorizações realizadas turalizar tais decisões. É preciso, ao revés, adotar uma postura crítica com pelos algoritmos acabarão por ser um reflexo da sociedade da qual seus relação aos critérios utilizados para a tomada de decisões e questionar a dados são extraídos. Se houver um senso comum em determinada so- forma como os algoritmos ciedade de que brancos têm maiores chances de reincidência do que ne- gros ou que homens estão mais relacionados às profissões com menores 4. CONSIDERAÇÕES FINAIS remunerações, fatalmente o algoritmo irá reproduzir e perpetuar esses estereótipos. Conforme demonstrado anteriormente, uso de ferramentas de inte- ligência artificial, mesmo que para auxiliar os julgadores no processo de As perigosas consequências de tais classificações e impacto que eles tomada de decisão (v.g. entregando pesquisas prontas de julgados, identifi- podem causar, incluindo o aumento das segregações e da desigualdade cando e classificando processos com pedidos idênticos, extraindo automa- social, se tornam-se ainda mais preocupante porque podem a ticamente dispositivos legais apontados como violados em recursos), pode origem dos vieses observados, sem que seja possível, por exemplo, dizer acarretar que a busca desenfreada pela eficiência e celeridade acarrete a se eles vêm do algoritmo ou dos dados usados para treiná-lo ou construção de um cenário no qual os jurisdicionados (sujeitos constitucio- Além disso, como sustenta Jordi Fenoll, se mantivermos em conta es- nais) se vejam impedidos de exercer as garantias e princípios inerentes ao ses padrões, "pouco a pouco, iremos construindo sem darmos conta um ambiente processual comparticipativo de formação das decisões. modelo único de sociedade perfeita na qual será um potencial delinquente 0 problema se torna ainda mais sério diante do fato de que já se co- que cumprir esses padrões meça a cogitar a possibilidade de se atribuir funções decisórias aos al- Por outro lado, se a existência de vieses cognitivos macula a "legiti- No entanto, coadunamos com Jordi Fenoll, quando o autor midade das decisões jurídicas tendo em vista o fato de conduzirem a um explicita que quadro de desprezo pelo órgão jurisdicional de princípios como os da im- [e]sta é provavelmente a temática que pode dar mais medo a qualquer jurista, e parcialidade e do contraditório dinâmico (garantia de influência e não sur- mesmo a qualquer cidadão: que uma máquina possa proferir sentenças, de ma- da mesma forma a existência dos vieses algorítmicos nos siste- neira que nosso destino esteja em mãos, não de pessoas como nós, mas de uma mas de IA utilizados no processo.de tomada de decisões jurisdicionais tem aplicação que só decida em função de variáveis estatísticas esmagadoras e que, potencial de impedir que o exercício das garantias inerentes ao processo por isso, sempre resolverá sempre da mesma forma, não apenas não se adaptando às mudanças, mas reafirmando seus preconceitos com o passar do tempo e do constitucionalizado em suas três dimensões, quais sejam: "a participação acúmulo de mais decisões em um certo sentido, que serão suas próprias decisões. efetiva de todos os sujeitos envolvidos, o diálogo genuíno entre eles e, final- Visto dessa maneira, o algoritmo, não é que entre em um círculo vicioso, mas que mente, o controle de suas atividades de modo a proporcionar uma accoun- se situa em uma linha reta inquebrável da qual só pode ser sair traçando as linhas tability paralelas que a própria inteligência artificial tende a fazer desaparecer, optando sistematicamente pela alternativa mais repetida estatisticamente. Exposta nestes Destarte, coadunamos com o posicionamento esposado por Isabela termos, a inteligência artificial tende a fossilizar as (grifo do autor) Ferrari e Daniel Becker no sentido de que "[n]ão devemos, portanto, na- Se uma ferramenta de inteligência artificial for capaz de produzir "tex- tos contendo minutas de decisões tecnicamente aptas para a resolução de 76. VILLANI, Cédric. Donner uns sens à li'intelligence artificielle: pour une stratégie nationa- le et européenne. Disponível em: Acesso em: 20 de de 2018. p. 142. 80. FERRARI, Isabela; BECKER, Daniel. Algoritmo e preconceito: É preciso que se crie uma política de FENOLL, Jordi Nieva. Inteligencia artificial e proceso judicial. Coleção Proceso y Derecho. accountability dos algoritmos. JOTA. 12 de dez. de 2017. Disponível em:NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS casos concretos",83 mas não for capaz de proporcionar aos jurisdicionados Além disso, é extremamente preocupante o fato de não termos qual- o exercício do contraditório, o resultado do ato decisório não será quer noção dos efeitos de longo prazo que a existência de erros e incorre- uma vez que não estará configurado um dos pressupostos de sua ções que eventualmente possam estar inseridos nessas ferramentas pode dade que é a participação das partes na construção da decisão. Assim, igno- causar, danos esses que têm o potencial de atingir um número gigante de ou impedir a participação das partes gera uma atuação solipsista e dis- pessoas e que podem ser irreversíveis. cricionária do decisor, ou seja, uma atuação solitária e desvinculada de tudo Não se mostra razoável simplesmente aceitar que decisões tomadas o que foi produzido pelos sujeitos no decorrer do processo, consubstan- ciando-se em uma verdadeira atividade ilegítima da função jurisdicional. por algoritmos possam ser utilizadas na atividade pública estatal sem qualquer nível de controle ou fiscalidade, pois um "ato decisório não pode Além disso, o CPC/15 encampou as premissas do modelo comparti- ser legitimado única e exclusivamente por ser proferido por uma autorida- cipativo/cooperativo de processo, atribuindo aos litigantes "deveres de Ademais, é "impensável que uma estrutura de debate processual de esclarecimento, de diálogo, de prevenção e de auxílio para com os sujeitos matriz constitucional fique premida por ajustes tecnológicos que descum- interessados na solução do conflito, criando-se um novo ambiente norma- prem seus tivo contrafático de indução à É necessário considerar ainda, o importante fator agravante suscitado Muito embora tais premissas sejam de observância obrigatória, as por Dierle Nunes e Ana Luiza Marques: atuais aplicações das ferramentas de inteligência artificial não evidenciam [...] as decisões tomadas por humano são impugnáveis, pois é possível delimitar quaisquer preocupações em propiciar espaços discursivos no qual as par- os fatores que ensejaram determinada resposta e o próprio decisor deve ofertar tes possam influenciar as decisões. Pelo contrário, ao que parece, se mos- o iter que o induziu a tal resposta (arts. 93, IX, CRFB/88 e 489, CPC). Por outro tram apenas como meio de conferir celeridade à prestação lado, os algoritmos utilizados nas ferramentas de inteligência artificial são obs- curos para a maior parte da população algumas vezes até para seus programa- É evidente que decisões que venham a ser proferidas por meio dessas dores o que os torna, de certa forma, inatacáveis. Em função disso, a atribuição ferramentas de inteligência artificial serão carecedoras de legitimidade de função decisória aos sistemas de inteligência artificial torna-se especialmente problemática no âmbito do Direito.88 caso não possibilitem o exercício das garantias inerentes ao devido proces- so legal. Nesta hipótese, estaremos apenas substituindo o solipsismo Por tal razão é que vem se discutindo que um dos pressupostos para a judicial, por um solipsismo algorítmico, o qual utilização das ferramentas de inteligência artificial no processo de tomada pode ser ainda mais perverso, posto que, conforme afirmado reiteradas de decisões pelos órgãos estatais é a possibilidade de transparência algo- vezes, as ferramentas de inteligência artificial são envolvidas em uma aura pois a inexistência de conhecimento dos critérios que embasam a de racionalidade e exatidão que as torna praticamente decisão leva a uma quebra da possibilidade da participação efetiva e poli- das partes na construção da decisão jurisdicional. 83. VALENTINI, Romulo Soares. Julgamento por computadores? As novas possibilidades da jus- cibernética no século XXI e suas implicações para o futuro do direito e do trabalho dos Nessa esteira, assim como não se pode "permitir que o movimento juristas. 2017. Tese (Doutorado) Programa de Pós-graduação em Direito, Universidade Federal pelo ativismo judicial gere os mesmos frutos nefastos ocorridos nos sis- de Minas Gerais. Belo Horizonte, 2017. p. 52. 84. THEODORO Humberto; NUNES, Humberto Dierle; BAHIA, Alexandre Melo Franco; PE- DRON, Flávio Quinaud. Novo CPC: fundamentos e sistematização Lei 13.105, de Acesso em: 15 de nov. de 2018. ed. Rio de Janeiro: Forense, 2016. p. 91. 86 85. "Portanto, na esteira dos novos ventos tecnológicos, inumeráveis problemas se revelam, na me- VIANA, Aurélio; NUNES, Dierle. Precedentes: a mutação do ônus argumentativo. Rio de Janeiro: dida em que se antevê que uma decisão judicial amparada por uma escolha advinda de um Forense, 2018. p. 60. algoritmo seria por muitos considerada como inatacável, despida de equívocos, em função THEODORO Humberto; NUNES, Humberto Dierle; BAHIA, Alexandre Melo Franco; PE- de sua suposta neutralidade. Tal crença se distancia da realidade, principalmente porque a DRON, Flávio Quinaud. Novo CPC: fundamentos e sistematização Lei 13.105, de 16.03.2015. máquina é capaz de herdar critérios subjetivos de escolha, alguns deles claramente equivocados, ed. Rio de Janeiro: Forense, 2016. p. 196. exigindo-se, por isso mesmo, mecanismos de controle das escolhas feitas pelos NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. INTELIGÊNCIA ARTIFICIAL E DIREITO PRO- (grifo nosso). NUNES, Dierle José Coelho; VIANA, Deslocar função estritamente CESSUAL: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista decisória para máquinas é muito perigoso. CONJUR. 22 de jan. de 2018. Disponível em:NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS temas de socialismo processual, no qual o aumento demasiado do papel processo de tomada de decisões jurisdicionais, quanto durante decisório do juiz conduziu à apatia e à atecnia das não é possível permitir propriamente dito. que haja o surgimento de um protagonismo algorítmico, que impede que Causa preocupação o fato de que a busca desenfreada pela eficiência as balizas do modelo processual comparticipativo sejam respeitadas, para celeridade acarrete a construção de um cenário no qual os jurisdiciona- que a fundamental prerrogativa da participação policêntrica e interdepen- dos (sujeitos constitucionais) se vejam impedidos de exercer as garantias dente de todos os direitos processuais seja exercida, culminando no debate e princípios inerentes ao ambiente processual comparticipativo de forma- e produção de argumentos que serão verdadeiramente apreciados quando ção das decisões, acarretando o proferimento de decisões carecedoras de do proferimento do ato decisório. legitimidade e a instituição de um solipsismo algorítmico, o qual pode Destarte, sendo evidenciada a natureza dúplice da utilização da inte- ser ainda mais perverso, posto que as ferramentas de inteligência artificial ligência artificial, a qual ao mesmo tempo que pode trazer benefício, tam- são envolvidas em uma aura de racionalidade e exatidão que as torna pra- bém traz consigo a existência de riscos sérios e reais inerentes à opacida- ticamente inatacáveis. de, realização de generalizações equivocadas, perpetuação de preconceito, É imprescindível que o direito incorpore e se adapte ao uso de novas discriminação e exclusão, se torna necessário repensar a forma como essa tecnologias, sendo inquestionáveis as possibilidades que o uso da inteli- tecnologia vem sendo encarada e, mais importante, a forma como éla vem gência artificial pode trazer em termos de melhora do processo de tomada sendo arquitetada para aplicação em uma área tão estratégica e sensível de decisões. No entanto, seu uso necessita de balizas, de meios de fiscali- como processo de tomada de decisões jurisdicionais. dade, transparência e auditorias, para que os riscos inerentes à opacida- Desta feita, a não ser que haja possibilidade de combater ou mitigar a de, realização de generalizações equivocadas, perpetuação de preconcei- opacidade e instituir mecanismo de accountability para extirpar ou, ao me- to, discriminação e exclusão, identificados na presente pesquisa, possam nos, minorar os riscos ora apresentados, não se vislumbra a possibilidade identificados e mitigados. de delegar a função decisória para ferramentas de inteligência artificial no processo de tomadas de decisões jurisdicionais sem que isso acarrete um REFERÊNCIAS BIBLIOGRÁFICAS inexorável afastamento das balizas do devido processo constitucional. ÁLVAREZ MUNÁRRIZ, Luis. Fundamentos de inteligencia artificial. Universidade de Mur- No entanto, até o presente momento os mecanismos que permitam o cia, 1994, 336p. controle, a previsibilidade e a fiscalidade da inteligência artificial são sin- ANGWIN, Julia, LARSON, Jeff, et al. Machine Bias. There's software used across the country gelos ou até mesmo inexistentes. Foi por tal razão que se buscou demons- to predict future criminals. And it's biased against blacks. ProPublica. 23 de maio de trar que a utilização de ferramentas de inteligência artificial pode confi- 2016. Disponível em: gurar um obstáculo para a participação policêntrica das partes nos atos Acesso em: 03 de out. de 2019. de legitimação e controle dos atos estatais, para a formação das decisões BRASIL. CONSTITUIÇÃO DA REPÚBLICA FEDERATIVA DO BRASIL DE 1988. Disponível jurisdicionais e para a efetivação das garantias do devido processo legal, em: Acesso em: 27 de out. de 2018. tais como o contraditório como influência e não surpresa e da fundamen- tação das decisões. J. Glenn. Ciência da computação: uma visão abrangente. Tradução Cheng Mei Lee. ed. Porto Alegre: Bookman, 2005, 512p. Ademais foco nos objetivos finalísticos de celeridade e aumento BURRELL, Jenna. How the machine 'thinks': Understanding opacity in machine lear- de produtividade, tem o potencial de impedir que o processo de tomada ning algorithms. Big Data & Society. 06 de jan. de 2016. Disponível em: Acesso em: 15 de out. de 2018. do controle e fiscalidade (accountability) dos atos processuais pelos ju- Julia; FARID, Hany. The accuracy, fairness, and limits of predicting recidivism. risdicionados, tanto de forma prévia, ou seja, no processo de desenvol- Science Advances. 17 de jan. de 2018. Disponível em: Acesso em: 27 de out. de 2018. vimento, estruturação e de implementação da inteligência artificial no Paulo de Algoritmos e inteligência artificial exigem atenção do Direito. 20 de nov. de 2018. Disponível em: 89. NUNES, Dierle José Coelho. Processo democrático. Curitiba: Juruá, 2008. p. 250. em: 16 de out. de 2018. 814 815NATHÁLIA ROBERTA FETT VIANA DE MEDEIROS USO DA INTELIGÊNCIA ARTIFICIAL NO PROCESSO DE TOMADA DE DECISÕES JURISDICIONAIS FENOLL, Jordi Nieva. Inteligencia artificial e proceso judicial. Coleção Proceso y Dere- RUSSEL, Stuart J.; NORVIG, Peter. Inteligência artificial. Tradução: PubliCare Consultoria. cho. Madrid: Marcial Pons. 2018. 116p. ed. Rio de Janeiro: Elsevier, 2004. 1021p. FERRARI, Isabela; BECKER, Daniel. Algoritmo e preconceito: É preciso que se crie uma po- SILLS, Anthony. Ross and Watson tackle the law. IBM, 14 de jan. de 2018. Disponível em: lítica de accountability dos algoritmos. JOTA. 12 de dez. de 2017. Disponível em: Acesso.em: 03 de out. de 2018. mos-28062017>. Acesso em: 28 de out. de 2018. SUPREMO TRIBUNAL FEDERAL. Inteligência artificial: Trabalho judicial de 40 minutos HAYKIN, Simon. Redes neurais: princípios e prática. Tradução: Paulo Martins Engel. ed. pode ser feito em 5 segundos. 23 de out. de 2018. Disponível: . Acesso em: 05 de out. de 2018. LUGER. George F. Inteligência artificial. Tradução: Daniel Vieira. ed. São Paulo: Pearson SUSSKIND, Richard. Tomorrow Lawyers: An Introduction to Your Future. ed. London: Education do Brasil, 2013, 614p. Oxford University Press, 2017. Kindle Edition. LUMMERTZ, Henry. Algoritmos, inteligência artificial e Oráculo de Delfos. As inúmeras THEODORO Humberto; NUNES, Humberto Dierle; BAHIA, Alexandre Melo Franco; questões suscitadas pela aplicação da algoritmos e IA no Judiciário e Administração PEDRON, Flávio Quinaud. Novo CPC: fundamentos e sistematização Lei 13.105, de Pública. JOTA. 12 de out. de 2018. Disponível em: . Acesso em: 10 de nov. de 2018. em: TURING, Alan M. Computing machinery and intelligence. In Mind, n. 49, p. 433-460. Dis- 25 de out. de 2018. ponível em: Acesso em: 05 NUNES, Dierle José Coelho. Processo jurisdicional democrático. Curitiba: Juruá, 2008.274p. de set de 2019. NUNES, Dierle; LUD, Natanael; PEDRON, Flávio. DESCONFIANDO DA (IM)PARCIALIDADE VALENTINI, Romulo Soares. Julgamento por computadores? As novas possibilidades DOS SUJEITOS PROCESSUAIS: Um estudo sobre os vieses cognitivos, a mitigação de da juscibernética no século XXI e suas implicações para o futuro do direito e seus efeitos e o debiasing. Salvador, Juspodivm, 2018, 313p. do trabalho dos juristas. 2017. Tese (Doutorado) - Programa de Pós-graduação em Direito, Universidade Federal de Minas Gerais. Belo Horizonte, 2017. NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. INTELIGÊNCIA ARTIFICIAL E DIREITO PROCESSUAL: vieses algorítmicos e os riscos de atribuição de função decisória às má- VELLOSO, Fernando de Castro. Informática: conceitos básicos. ed. rev. e atualizada. Rio quinas. Revista de Processo. Vol. 285/2018. Nov. de 2018. 19p. de Janeiro: Elsevier, 2004, 407p. NUNES, Dierle; VIANA, Antônio Aurélio. Deslocar função estritamente decisória para má- VIANA, Aurélio; NUNES, Dierle. Precedentes: a mutação do ônus argumentativo. Rio de quinas é muito perigoso. CONJUR. 22 de jan. de 2018. Disponível em: . Acesso em: 02 Universidade do Estado do Rio de Janeiro - UERJ, Rio de Janeiro, 2018. de out. 2018. 816 817