Baixe o app para aproveitar ainda mais
Prévia do material em texto
APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 1 GUSTAVO MASCARENHAS LACERDA PEDRINA APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 2 INTRODUÇÃO ........................................................................3 1. A ANÁLISE PREDITIVA E O MIMETISMO DO CÉREBRO HUMANO ............................................................4 2. POSSÍVEIS APLICAÇÕES DA IA PREDITIVA ..........9 CONCLUSÃO ......................................................................... 12 REFERÊNCIAS ...................................................................... 13 APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 3 INTRODUÇÃO Tudo bem? Pronto para mais uma aula? A inteligência artificial é algo empolgante. Concorda? A cada nova conversa, aprendemos mais. Veja só: até agora, em apenas duas aulas, você somou conceitos importantes sobre a inteligência artificial – sabe, por exemplo, que o emprego de machine learning depende do acúmulo de grandes quantidades de dados (big data) aos quais um robô algorítmico é aplicado, sendo capaz de aprender os padrões corretos de resposta para replicá-los no futuro de maneira autônoma. Você também já viu como a IA vem sendo aplicada no direito, inclusive, com o VICTOR. Mais do que isso, sabe que a inteligência artificial desenvolvida nesse Tribunal tem eficácia superior a 90%!!! É hora, então, de explorarmos as possibilidades futuras de aplicação da IA: qual é o estado da arte da tecnologia associada ao conceito de inteligência artificial? Por que as redes neurais são importantes nessa história? Onde a inteligência artificial pode ser utilizada? Você deve se lembrar que na primeira aula nós diferenciamos a inteligência artificial atualmente aplicada daquela a que idealmente se pretende chegar. Vimos que aquilo que comumente chamamos de IA nos dias atuais trata-se, na verdade, da aplicação de análise estatística associada a algoritmos capazes de melhorar os padrões de resposta conforme aumenta uma coleção de dados. Mas há algo ainda maior: o que os cientistas da computação buscam como ponto-ótimo é a simulação de redes neurais com a capacidade de racionalizar conceitos passados, entendê-los na realidade presente, para predizer cenários futuros. Trata-se da análise preditiva, uma tentativa de mimetizar as redes neurais do ser humano ao ponto de se alcançar a cognição. Isso é possível? Pode parecer algo complicado, mas você vai ver que é bastante intuitivo. Esta é a aula, portanto, na qual nos dedicaremos ao estudo dessa via mais complexa da IA. Veremos como a linguagem é importante no caminho para a simulação mais bem-acabada da inteligência artificial. A partir disso, vamos traçar possíveis cenários do uso da tecnologia. Ao final, você terá somado ainda mais conhecimento sobre o assunto. Não parece interessante?! Vamos lá? APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 4 1. A ANÁLISE PREDITIVA E O MIMETISMO DO CÉREBRO HUMANO O cérebro humano é ainda, em boa parte, um mistério para a ciência. A imagem acima, produzida no laboratório comandado pela Professora Nancy Kanwisher, do MIT, mostra as regiões que começamos a descobrir. A verdade é que ainda sabemos muito pouco sobre como funcionam as nossas redes neurais. Sabemos pouco, mas alcançamos aspectos fundamentais que nos tornam únicos na natureza. Em primeiro lugar, é importante notar que o ser humano não é uma criatura estatística, mas cognitiva. Isso significa dizer que nem sempre tomamos a atitude estatisticamente correta, mas aquela que culturalmente nos parece a mais adequada. E como adquirimos os conhecimentos culturais que nos levam a tomar atitudes? Se você disse “pela linguagem”, acertou! Uma das principais particularidades da nossa espécie é a linguagem. É pela linguagem que expressamos a certeza das nossas vontades, que demonstramos nossas inteligências e que confirmamos nossa capacidade de entender o passado, o presente e o futuro – o que indica algo importante: sabemos a nossa posição no mundo enquanto seres racionais. Perceba que qualquer outra espécie de ser vivo (o exemplo clássico é o chimpanzé, com DNA bem próximo do nosso) não detém essa capacidade de posicionar-se histórico-racionalmente. As partes coloridas da imagem indicam áreas do cérebro responsáveis pelo processamento da linguagem (a localização exata pode variar de indivíduo para indivíduo), em tradução livre. APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 5 Aqui, então, a nossa primeira premissa importante deve ser anotada para entendermos o que é a inteligência: a linguagem gráfica é parte fundamental da inteligência humana. Para simular a inteligência mais bem-acabada da natureza, a humana, é preciso, portanto, que se crie uma aplicação lastreada em linguagem gráfica. O segundo ponto importante está na capacidade cognitiva. Apenas o ser humano é capaz de aprender a linguagem e por ela construir cenários no passado, no presente e no futuro. A linguagem nos possibilita essa construção de cenários, é por ela que podemos demonstrar nossas vontades e repassar nossa cultura. Isso leva-nos ao terceiro ponto: a capacidade de contar histórias (“storytelling”), estabelecendo o que chamamos de “cultura”. Berwick e Chomsky (2017) sustentam que a linguagem é um sistema de organização de pensamentos e que apenas a espécie humana é capaz de fundir pensamentos em forma de linguagem gráfica. Esse processo de fusão é estruturado, buscando sempre o caminho neural mais curto para uma resposta concatenada. A estruturação dessa rede complexa é a resposta do sistema cognitivo, fruto da evolução das redes neurais do ser humano. É o que nos diferencia do homem Neandertal, a quem faltava justamente isso, a capacidade de fundir pensamentos em linguagem expressa. É o que nos diferencia ainda hoje de outros mamíferos com cadeias neurais evoluídas, mas não ao ponto das nossas. Como vimos na aula 1, os autores chamam o processo de “merge”, que aqui traduzimos, por aproximação, como “fusão”, mas que é algo ainda mais complexo que propriamente uma fusão, tratando-se de característica inata ao ser humano, que o diferencia enquanto espécie: é uma operação que combina duas expressões para gerar uma nova expressão mais complexa, sem que se modifiquem ou descartem as duas expressões originais (BERWICK e CHOMSKY, 2017, p. 102). http://dspace.mit.edu APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 6 A Inteligência está, portanto, na capacidade de expressar o cenário que entendemos a partir de contextos culturais que apenas aprendemos porque dominamos a linguagem. Winston (2011, p. 2), diante dessas premissas, propõe a Strong Story Hypothesis (Hipótese da história consistente), segundo a qual “os mecanismos que permitem aos humanos falarem, entenderem e recombinarem histórias separam a inteligência humana da de outros animais.” De maneira esquemática, temos: O que temos é o desenvolvimento contínuo das redes neurais porque a linguagem e a cognição de cenários estão em constante mutação, o que nos leva a ganhos culturais e, no longo prazo, à melhoria do cérebro humano. Redes neurais Formação de cultura Desenvolvimento do cérebro Linguagem e cognição SAIBA MAIS Aqui proponho uma pequena parada: assista à palestra (são apenas 18 minutos) da Professora Nancy Kanwisher, uma pesquisadora reconhecida mundialmente, sobre como ainda estamos descobrindo o cérebro humano. A palestra está legendada e eu garanto que vale a pena! https://www.youtube.com/watch?v=5Yj3nGv0kn8&feature=youtu.beAPLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 7 Para Winston (2011), as histórias são parte fundamental da formação cognitiva do ser humano. São elas, segundo essa linha de pensamento, que formam, ao longo do amadurecimento do cérebro humano, os padrões sobre cada contexto social – o que podemos chamar de “senso comum” –, que, reunidos, formatam a cultura do indivíduo. Entender a história humana – apenas possível pela linguagem – é fundamental para a formação e evolução da inteligência da espécie. Esta é a diferença da análise cognitiva do nosso cérebro, que parte de critérios que conhecemos culturalmente, repassados através da linguagem, para estabelecer uma análise preditiva de cenários. A inteligência artificial por análise preditiva busca, no lugar de oferecer uma resposta estatística para o problema apresentado, a resposta às questões diante da análise de contextos. Esta seria, senão a verdadeira inteligência artificial, uma mais apurada. Com isso em mente, os cientistas buscam simular as redes neurais no estabelecimento de sistemas de análise preditiva. Um exemplo nesse sentido é o robô algorítmico Genesis, desenvolvido no MIT (EUA). O Genesis foi treinado com romances e contos comuns à cultura americana (de Shakespeare aos irmãos Grimm), de modo que o computador aprendesse, mediante histórias – storytelling –, o que leva a determinadas ocorrências (ou “atitudes”) em tais narrativas, como, por exemplo, o regicídio, e adquirisse, com isso, um aprendizado “cultural” de contextos. A partir desses critérios, o robô algorítmico passou a ser capaz de desenvolver cenários futuros, podendo até mesmo identificar conceitos como revanche em histórias que não mencionam a palavra. Isto prova que a análise preditiva em um robô algorítmico consegue, se bem executada, predizer cenários, mesmo que estes não sejam óbvios. Esse processo de exame de cenários futuros, de acordo com critérios estabelecidos no passado e no presente, é a análise preditiva. Abaixo você verá uma imagem do Genesis em funcionamento. No primeiro exemplo, o Genesis é capaz de dizer que o homicídio ocorreu por autodefesa. No segundo, o robô algorítmico sabe identificar que o homicídio de Alex ocorreu por conta do desprezo que George nutriu por ele: APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 8 George kills Alex. Lover brandishes a knife George is Martha’s spouse. Martha is George’s spouse. George yells at Alex. Alex becomes angry. Alex brandishes a knife. Alex intends harming someone. George shoots Alex. Hypothetical George is Martha’s spouse. Martha is George’s spouse. George yells at Alex. Alex becomes angry. George despises Alex. George shoots Alex. Alex becomes dead. George kills Alex. Alex becomes dead. Figure 20: In the knife-brandishing version of a story raising a legal question, the elaboration graph indicates knife the brandishing is connected to the killing, suggesting self defense. Figure 21: In the hypothetical version, with the brandishing removed, Genesis presumes the explanation for killing has to do with despising, suggesting guilt. At the concept level, self defense becomes spiteful vengeance. (Figura 21: Numa versão hipotética removendo a ação com a faca, o Genesis presume que a explicação para a morte tem a ver com desprezo [já que não se trata de uma ação de autodefesa, vez que não há do que se defender], sugerindo que a pessoa deve ser considerada culpada pelo homicídio. Na mesma história, dessa vez sem a faca, o robô substitui o conceito final de autodefesa para vingança por rancor.) (Figura 20: A versão da história envolvendo o erguer de uma faca levanta uma questão legal. O gráfico elaborado [pelo robô algorítmico Genesis] indica que erguer a faca para alguém é uma ação que está conectada com a morte de alguém, sugerindo que a pessoa que seria vítima dessa ação reagiu em autodefesa.) Você percebeu a diferença para a análise estatística? Na análise estatística os robôs são treinados com padrões de resposta, aprendendo com as consideradas “corretas” e buscando, quando expostos a dados novos, o que for mais parecido com as respostas “certas”. APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 9 Na análise preditiva, não há uma resposta “correta”. O que indica que a resposta “certa” é o seu encaixe no contexto. Em vez de uma resposta correta, existe um contexto correto, o que é algo bastante mais complexo. A cada nova história adicionada, uma variável necessariamente mudará e tornará o contexto “correto” seguinte distinto do anterior. A análise preditiva é, então, uma técnica utilizada para prever cenários futuros a partir de um contexto de passado e presente. É assim também com o nosso cérebro, que aprende algo “novo” todos os dias. Não é incrível? 2. POSSÍVEIS APLICAÇÕES DA IA PREDITIVA Quando usamos computadores para processar e entender comportamentos padrões, conseguimos antecipar cenários. A inteligência artificial por análise preditiva vai além: ela prediz ações a partir de comportamentos que podem desviar de um padrão, otimizando as decisões da própria máquina. Ainda há um caminho bastante longo para que a análise preditiva e a simulação profunda de redes neurais alcancem o ponto-ótimo de utilização – algo que a análise estatística já entrega, com programas perfeitamente operacionais e muito interessantes –, mas já testemunhamos o início do uso dessa tecnologia. Podemos destacar, como aplicação da análise preditiva, a detecção de fraudes. Perceba que toda vez que você utiliza um cartão de débito ou crédito, uma notificação é enviada automaticamente. Os sistemas em operação, com a aplicação de análise estatística, conseguem já dizer se há um desvio de padrão de SAIBA MAIS O Massachusetts Institute of Technology (MIT) tem um programa de aulas abertas (ocw. mit.edu) – já falamos dele na primeira aula. Aconselho que, para se aprofundar ainda mais nas redes neurais, você assista a essa aula do Professor Patrick Winston, que trata das “redes neurais profundas”: Se você procura um material de cunho acadêmico sobre a análise preditiva e a simulação do cérebro humano, recomendo as publicações do Centro de Cérebro, Mente e Máquina do MIT (Center for Brains, Minds & Machines/MIT). https://www.youtube.com/watch?v=VrMHA3yX_QI&feature=youtu.be https://ocw.mit.edu/index.htm https://ocw.mit.edu/index.htm https://cbmm.mit.edu/publications https://cbmm.mit.edu/publications https://cbmm.mit.edu/publications APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 10 uso do cartão, sendo capazes de apontar, de maneira autônoma, uma fraude. A depender do risco, disparam ações que podem cumular no bloqueio do cartão. Ou seja, pela predição de comportamento, a máquina já é capaz de evitar alguns crimes. O mesmo pode ser percebido com a aplicação de análise preditiva à medicina preventiva: ao saber os fatores de risco de um paciente, seu histórico familiar e conhecer seu comportamento, é possível predizer os riscos de determinadas doenças, implementando cuidados preventivos. Talvez o mais palpável uso da análise preditiva esteja na inteligência artificial associada à visão. Isso porque os veículos autônomos já são uma realidade e seu uso será crescente nos próximos anos. Eles evitam acidentes e otimizam o tempo. Mas predizer cenários nos quais vidas humanas estão em jogo constantemente levanta alguns dilemas. Há um deles bastante discutido entre os acadêmicos do assunto: imagine um carro autônomo desgovernado operado por inteligência artificial com análise preditiva. Há dois ocupantes no carro e dois pedestres em seu caminho. Tome em consideração que há desfiladeiro em um lado da pista, sendo que a única via livre paraevitar a colisão com a barreira é o atropelamento dos pedestres. Os pedestres têm pouca chance de fuga: ou ficam na pista e tentam sobreviver colados ao muro ou pulam no desfiladeiro. Como o carro está equipado com IA capaz de predizer cenários disso tudo, ele terá que decidir: ou mata seus ocupantes ou os pedestres. Nesse caso, quem deverá ser morto? E quem será culpado pelas mortes? O projetista? O programador? A própria aplicação de IA? Essas respostas não existem completamente hoje. Mas é certo que mesmo a IA preditiva parte da capacidade humana de programar. Em último caso, o programador dá respostas primárias para a máquina (não vou estragar a surpresa, mas no final vamos falar mais sobre isso). No direito, a IA com aplicação de análise preditiva pode, no futuro, nos levar ao cenário da predição da vontade do agente. A análise preditiva consegue entregar possíveis cenários da determinação de um indivíduo de acordo com critérios objetivos de (i) instrução, (ii) posição socioeconômica, por exemplo, e subjetivos, como o (iii) potencial conhecimento da norma, o que pode ajudar no nível de conhecimento de um agente ao cometer um delito (tanto da situação quanto da lei), entregando uma punição melhor individualizada. Nos EUA esse tipo de discussão, envolvendo a aferição da inserção do indivíduo na sociedade, afeta não só o sistema de justiça, mas também o ensino superior. A College Board, entidade que controla o principal exame admissional https://www.collegeboard.org/ APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 11 de ensino superior, o SAT, divulgou recentemente a intenção de utilizar um “equalizador social” (The Environmental Dashboard), de modo a levar em conta, na hora da admissão, fatores sociais que podem ter influenciado a vida do candidato. Um sistema baseado em inteligência artificial que faça o mesmo, por exemplo, em casos penais, pode tornar a aplicação da lei mais justa. O Genesis é capaz de realizar operações do tipo “who-knows-what” (quem sabe o quê), que conseguem dizer, com elevado grau de acerto, o que um personagem de uma ação pretendia. Para se traçar a pretensão, é preciso que a máquina tenha noções de contexto de passado, presente e futuro, compreendendo uma linguagem gráfica e sendo capaz de expressar-se por ela. O que importa é, portanto, que se estabeleçam critérios para que a inteligência artificial entenda a história. Tem-se a possibilidade de, com a máquina, aferir-se o nível de quão livre era a vontade da pessoa no momento da ação. É possível, então, que, programada com dados que tomem em conta aspectos eleitos pela sociedade – que reputamos válidos, a título de exemplo: (i) instrução, (ii) posição socioeconômica e (iii) conhecimento da norma, a indicarem o nível de vulnerabilidade do indivíduo –, esse tipo de aplicação de inteligência artificial cognitiva, lastreada na análise preditiva, seja capaz de responder ao nível de autodeterminação dos sujeitos ao cometerem crimes, estabelecendo um modo tanto mais válido quanto mais justo de responsabilidade e, por consequência, de culpabilidade. Não é incrível onde podemos chegar? SAIBA MAIS Você sempre pensou na inteligência artificial como um robô humanoide? Bom, eu espero que, nesse momento, depois de nossas aulas, você pense nela muito mais como uma ciência de dados, atrelada a algoritmos. Como imagino que, agora, você deve estar nesse lado do campo, veja aqui uma reportagem interessante sobre por que a visão da IA como um robô de corpo quase humano está equivocada. Leia a matéria: Por que o novo filme do Exterminador do Futuro está irritando pesquisadores de inteligência artificial https://f5.folha.uol.com.br/cinema-e-series/2019/10/por-que-o-novo-filme-do-exterminador-do-futuro-esta-irritando-pesquisadores-de-inteligencia-artificial.shtml https://f5.folha.uol.com.br/cinema-e-series/2019/10/por-que-o-novo-filme-do-exterminador-do-futuro-esta-irritando-pesquisadores-de-inteligencia-artificial.shtml APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 12 CONCLUSÃO As técnicas de aprendizado pela máquina envolvem diferentes métodos de trabalho, sendo dois deles a computação estatística e a análise preditiva. Enquanto a primeira entrega a melhor resposta estatística para uma questão, sendo mais apropriada à análise de riscos do objeto, a segunda é capaz de predizer reações de acordo com parâmetros objetivos e subjetivos justificadamente. Entendemos que a análise preditiva, se programada a partir de critérios claros e estabelecidos democraticamente, pode, por exemplo, diferenciar o nível de livre determinação decisória de um indivíduo, contribuindo para a aferição da culpabilidade de maneira mais justa. Num volume crescente de big data, com sensores em todas as partes (de casas a relógios inteligentes), a IA com aplicação de análise preditiva tem elevado potencial de impacto na humanidade nas próximas décadas. À medida que a quantidade de dados aumenta e melhora a qualidade, auxiliada pela disponibilidade de energia de processamento de custo reduzido, a análise preditiva poderá entregar soluções que nem imaginamos ainda. Agora que você já está craque nos conceitos envolvendo a inteligência artificial, sabe diferenciar as técnicas que a envolvem, dizendo como cada uma se aplica, falta abordarmos alguns desafios que as máquinas (com a aplicação de IA, inclusive) têm imposto nos últimos anos. Esse será o assunto da nossa próxima e última aula, quando trataremos de criptografia, fake news e bloqueio de conteúdo. Vamos a esses próximos desafios? SAIBA MAIS E os limites éticos da IA? Leia mais sobre esse tema no artigo acadêmico “Ethical Issues in Advanced Artificial Intelligence”. https://nickbostrom.com/ethics/ai.html APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 13 REFERÊNCIAS BERWICK, Robert C.; CHOMSKY, Noam. Why only us: language and evolution. Cambridge: MIT Press, 2017. COLLEGE BOARD. Data-Driven Models to Understand Environmental Context. 2019. Disponível em: https://secure-media.collegeboard.org/digitalServices/pdf/ professionals/data-driven-models-to-understand-environmental-context.pdf. Acesso em 20.11.2019. WINSTON, Patrick. The strong story hypothesis and the directed perception hypothesis. AAAI Fall Symposium Series, 2011. Disponível em: https://dspace.mit. edu/bitstream/handle/1721.1/67693/Submitted.pdf?sequence=1&isAllowed=y. Acesso em: 19 nov. 2019. https://secure-media.collegeboard.org/digitalServices/pdf/professionals/data-driven-models-to-unders https://secure-media.collegeboard.org/digitalServices/pdf/professionals/data-driven-models-to-unders https://dspace.mit.edu/bitstream/handle/1721.1/67693/Submitted.pdf?sequence=1&isAllowed=y https://dspace.mit.edu/bitstream/handle/1721.1/67693/Submitted.pdf?sequence=1&isAllowed=y APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO ATUAL DA AI 14 INTRODUÇÃO 1. A ANÁLISE PREDITIVA E O MIMETISMO DO CÉREBRO HUMANO 2. POSSÍVEIS APLICAÇÕES DA IA PREDITIVA CONCLUSÃO Referências
Compartilhar