Entre_as_leis_da_robotica_e_a_etica_regu

Prévia do material em texto

Entre as leis da robótica e a ética: regulação para o adequado desenvolvimento 
da Inteligência Artificial 
Caitlin Mulholland 1
Isabella Z. Frajhof 2
Sumário: 1. Introdução; 2. Breves notas de como funcionam os robôs e sistemas de IA; 2.1. 
As características da Inteligência Artificial: uma ótica do Direito; 3. Princípios éticos para a 
IA; 4. É possível codificar princípios éticos?; 5. Conclusão; 6. Referências Bibliográficas. 
1. Introdução 
"– De fato – replicou Powell, amargurado. 
– Ele é um robô raciocinante. Maldito seja! Só acredita em raciocínio lógico. E há 
uma dificuldade a respeito… 
Não terminou a frase. 
– Qual é a dificuldade? – insistiu Donovan. 
– É possível provar tudo o que se deseja por um raciocínio lógico e frio, desde que se 
escolham os postulados convenientes. Nós temos os nossos e Cutie tem os dele". 
Este é um trecho do conto “Razão”, escrito por Isaac Asimov, em 1941, que foi 
compilado em seu famoso livro de contos “Eu, Robô”. Neste mesmo livro, Asimov inaugura 
suas Três Leis da Robótica, um conjunto de regras que tinha por objetivo controlar o 
comportamento dos robôs para permitir a convivência harmônica entre humanos e artefatos 
não-humanos. A primeira Lei determinava que: “Um robô não pode ferir um ser humano ou, 
por inação, permitir que um ser humano sofra algum mal” A segunda, dizia que: “um robô 
deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto quando tais ordens 
entrem em conflito com a 1ª Lei”. E a terceira previa que: “um robô deve proteger sua própria 
 Professora Associada do Departamento de Direito da PUC-Rio. Coordenadora do Grupo de Pesquisa DROIT - 1
Direito e Tecnologia. Doutora em Direito Civil (UERJ). Pesquisadora do Legalite PUC-Rio.
 Doutoranda e Mestre em Teoria do Estado e Direito Constitucional do Programa de Pós-Graduação em Direito 2
na Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio); Integrante do grupo de pesquisa DROIT 
(Direito e Novas Tecnologias). Pesquisadora do Legalite PUC-Rio.
1
existência desde que tal proteção não se choque com a 1ª ou a 2ª Leis”. Posteriormente, 
Asimov ainda acrescentou uma quarta lei, denominada como “Lei zero” . 3
Ao longo dos seus contos, Asimov ia testando estas regras, demonstrando como elas 
constantemente falhavam. O trecho acima ilustra a frustração de Donovan e Powell, dois 
astronautas em órbita em uma estação solar com o robô Cutie, pois este passa a não acreditar 
mais que foram os humanos que criaram os robôs, atribuindo à sua criação a uma força 
superior, the Master (o Mestre). Cutie passa a colocar em xeque todas as crenças e afirmações 
feitas pelos humanos e afirma que só responde às ordens do Mestre. A frustração dos 
humanos com o robô se justifica em razão da maneira como estes artefatos funcionam: são 
guiados por proposições lógicas, onde o que importa é a forma, e não exatamente o conteúdo 
dos postulados. Basta que as proposições comportem inferências que sigam de maneira 
correta o silogismo para que o robô aja racionalmente (portanto, corretamente). 
Diferentemente dos robôs, os humanos são capazes de avaliar criticamente uma 
conduta ou ideia que, mesmo que guiada por razões capazes de explicá-las, nem sempre vão 
ser boas o suficiente para justificá-las . É o caso, por exemplo, do assassinato de Renisha 4
McBride. Theodore Wafer, um americano de meia-idade, morador de um subúrbio 
tipicamente branco de Michigan, pensou que sua casa estava sendo ameaçada no meio da 
noite. Ele então pegou sua arma e foi até a porta da casa para conferir. Ao abri-la, ele 
encontrou Renisha, uma jovem negra, que estava em frente à sua casa aleatoriamente, atirou 
nela e ocasionou a sua morte. Quando Wafer foi a julgamento, a razão apresentada por sua 
defesa para justificar seu comportamento era que ele estava com medo e teria agido em 
legítima defesa, o que foi, contudo, rejeitado pelo tribunal, que o condenou por homicídio. Se 5
este caso fosse julgado por um algoritmo de tomada de decisão, será que ele alcançaria o 
mesmo resultado? 
 Apesar de o conceito de Inteligência Artificial (IA) depender de uma forte associação 
com a inteligência humana, os processos cognitivos de artefatos não-humanos e humanos são 6
 “Um robô não pode fazer mal à humanidade ou, por omissão, permitir que a humanidade sofra algum mal”.3
 MERCIER, Hugo; SPERBER, Dan. The Enigma of Reason: A new theory of human understanding. Harvard 4
University Press. Edição iBook, p. 192.
 Ibidem, p. 185.5
 SURDEN, Harry. Machine Learning and Law. 89 Washington Law Review 87, 2014, p. 89. Disponível em: 6
. Acessado em 03.01.2020
2
bastante diferentes, diante da forma como eles apreendem conhecimento. Ao mesmo tempo 
que esta diferença transforma radicalmente a eficiência destas máquinas, ela limita a sua 
capacidade de interpretar determinados contextos e “pensar e agir como um humano”. Tendo 
em vista o uso cada vez mais abrangente de sistemas de Inteligência Artificial, o debate sobre 
as maneiras de limitar e constranger seu comportamento estão na ordem do dia. Na ausência 
de uma regulação jurídica sobre o tema, a comunidade acadêmica, entidades governamentais 
e não-governamentais têm consolidado um conjunto de princípios éticos que devem guiar o 
adequado desenvolvimento da IA, desde a sua concepção até a sua implementação, a fim 
assegurar algumas balizas para estes sistemas. Contudo, será que os agentes inteligentes são 
capazes de atender a estes princípios? Este artigo busca explorar esta pergunta. 
2. Breves notas de como funcionam os robôs e sistemas de IA 
Existe uma grande dificuldade em definir o que é a Inteligência Artificial, e esta 
dificuldade está diretamente relacionada ao termo “inteligência”. A literatura técnica sobre o 
tema aponta para dois possíveis conceitos sobre a IA. Para Ben Coppin , o conceito 7
considerado mais simples a define como o “estudo de sistemas que agem de uma forma que 
para qualquer observador aparentaria ser inteligente” . O segundo traz uma definição mais 8
complexa, e indica que a IA “envolve o uso de métodos baseados no comportamento 
inteligente de humanos e outros animais para resolver problemas complexos”. Embora esta 9
última definição seja mais explícita que a primeira, a inteligência a qual estas máquinas e 
artefatos visam alcançar ou replicar é a inteligência humana . Este parâmetro “humano” 10
também é encontrado na definição da IA por acadêmicos do Direito. Por exemplo, Ryan Calo 
aponta que a Inteligência Artificial se vale de técnicas que tentam aproximar aspectos da 
 COPPIN, Ben. Artificial Intelligence Illuminated. 1a Edição. Massachusetts: Jones & Bartlett Learning, 2004, 7
p. 4.
 Tradução livre de: “Artificial intelligence is the study of systems that act in a way that to any observer would 8
appear to be intelligent”.
 Tradução livre de: “Artificial Intelligence involves using methods based on the intelligent behavior of humans 9
and other animals to solve complex problems”.
 Stuart Rusell e Peter Norvig definem a IA a partir de quatro principais categorias: (i) sistemas que agem como 10
humanos, (ii) sistemas que pensam como humanos, (iii) sistemas que pensam racionalmente e (iv) sistemas que 
agem racionalmente. RUSSELL, Stuart J.; NORVIG, Peter. Artificial Intelligence: a modern approach. 3a 
edição. New Jersey: Pearson Education Inc., 2009, p. 3
3
cognição humana a máquinas e Matthew Schrerer indica que a IA é constituída por 11
“máquinas que são capazes de performar tarefas que, se performadas por um humano, seria 
dito ser requerido inteligência”. 12
Atualmente, a concepção mais genérica do que seja Inteligência Artificial se sustenta na 
ideia de que as máquinas trabalham para alcançar determinados objetivos . Estes objetivos 13
são atendidos por meio de algumas características que estes agentes inteligentes possuem, 
como: percepção, aprendizado e autonomia. Pararealizar este objetivo, estes agentes possuem 
sensores que captam as informações no ambiente que estão inseridos (por exemplo, o 
Roomba faz o mapeamento de um quarto para limpá-lo), e vão adquirindo maior 14
conhecimento sobre o mundo externo, coletando dados sobre o mesmo, e somando este 
conhecimento à inteligência inicialmente embarcada no seu sistema. Esta inteligência lhe 
permite que o agente vá incrementando e desenvolvendo seu saber, construindo sua 
autonomia, permitindo que o mesmo aja conforme o objetivo inicialmente previsto por seus 
criadores. Para avaliar se o seu comportamento está adequado com este objetivo, ou seja, 
avaliar a sua performance, é estabelecida uma métrica que indica a sua taxa de sucesso (por 
exemplo, se o Roomba mapeou corretamente o ambiente identificando objetos no caminho e 
desviando dos mesmos, procedendo com uma limpeza adequada). Estes agentes inteligentes 
visam sempre otimizar sua função, agindo e se desenvolvendo sempre nesta busca. De forma 
resumida, os agentes inteligentes são coisas que interagem com um dado ambiente, adquirem 
conhecimento sobre o mesmo, e agem neste ambiente de acordo com a finalidade para a qual 
foram construídos . 15
 CALO, Ryan. Artificial Intelligence policy: a primer and roadmap. 51 U.C. Davis Law Review 300, 2017, p. 11
404. Disponível em: . Acessado em 
03.01.2020.
 Tradução livre de: “machines that are capable of performing tasks that, if performed by a human, would be 12
said to require intelligence”. SCHERER, Matthew U., Regulating Artificial Intelligence Systems: Risks, 
Challenges, Competencies, and Strategies. Harvard Journal of Law & Technology, Vol. 29, No. 2, Spring 2016, 
p. 362. Disponível em: http://jolt.law.harvard.edu/articles/pdf/v29/29HarvJLTech353.pdf. Acessado em 
13.09.2019.
 Ibidem, p. 361.13
 Ver em: https://www.irobot.com.br/roomba. Acessado em 16.02.2020.14
 RUSSELL, Stuart J.; NORVIG, Peter. Artificial Intelligence: a modern approach. 3a Edição. New Jersey: 15
Pearson Education Inc., 2009, p. 54 e seguintes.
4
Os agentes inteligentes podem ser hardware ou softwares; eles podem existir apenas 
digitalmente (como os algoritmos de recomendação), ou podem ter uma presença física no 
mundo (como o Roomba). Estes artefatos são regidos por códigos escritos em linguagem de 
computação, que formam um algoritmo , que é um conjunto de regras que tem como 16
objetivo realizar uma determinada tarefa. Os códigos utilizados para estipular o 
comportamento dos agentes inteligentes nem sempre são representados simbolicamente por 
meio de regras de if-then-else statements (se-isso-então-aquilo), ou seja, por enunciados 
lógicos. É comum que seja adotada uma abordagem não-simbólica, onde o conhecimento não 
é representado por símbolos, mas por aprendizado, adaptação ou inferência (como é o caso 
das redes neurais). As dificuldades e principais dilemas que surgem do uso de algoritmos se 
concentram basicamente neste último caso, pois não há regras explícitas que lastreiam o seu 
funcionamento, dificultando, ou até mesmo impossibilitando, a sua compreensão. 
A definição de IA apresentada pelo grupo especializado em Inteligência Artificial 
formado pela Comissão Europeia, Grupo Independente de Peritos de Alto Nível sobre a 
Inteligência Artificial (GPAN IA), abarca todos estes aspectos mencionados acima: 
Sistemas de Inteligência Artificial (IA) são softwares (e possivelmente hardwares) 
desenhados por humanos que, dado um objetivo complexo, atuam na dimensão física ou 
digital percebendo o seu ambiente por meio da aquisição de dados, interpretando os 
dados estruturados e não estruturados coletados, raciocinando sobre o conhecimento ou 
processando a informação derivada desse dado e decidindo a(s) melhor(es) ação(ões) 
para alcançar aquele objetivo. Sistemas de IA podem usar regras simbólicas ou 
aprenderem com modelos numéricos, e também podem adaptar seu comportamento 
analisando como o ambiente é afetado por suas ações pretéritas (...) . 17
Além da incerteza sobre o termo “inteligência”, uma outra dificuldade na definição da 
IA é que o seu termo é como um guarda-chuva para abrigar diferentes áreas de estudo, como: 
 O exemplo mais tradicional para explicar o que é um algoritmo é usar a analogia com uma receita de bolo.16
 Tradução livre de: “Artificial intelligence (AI) systems are software (and possibly also hardware) systems 17
designed by humans that, given a complex goal, act in the physical or digital dimension by perceiving their 
environment through data acquisition, interpreting the collected structured or unstructured data, reasoning on the 
knowledge, or processing the information, derived from this data and deciding the best action(s) to take to 
achieve the given goal. AI systems can either use symbolic rules or learn a numeric model, and they can also 
adapt their behaviour by analysing how the environment is affected by their previous actions”. COMISSÃO 
EUROPEIA. A definition of AI: Main capabilities and scientific disciplines. 2019b, p. 6. Disponível em: Acessado em 14.04.2020.
5
aprendizado de máquina, processamento de linguagem natural, visão computacional, robótica, 
jogos, sistemas especialistas, pesquisa operacional e estatística. É comum que uma mesma 
aplicação de IA junte essas diferentes áreas, como é o caso de recentes aplicações: os carros 
autônomos, as assistentes conversacionais (Siri, Alexa, Cortana), robôs marinhos ou sistemas 
que jogam xadrez . A história da IA tem demonstrado ser natural a eleição pela academia e 18
pela indústria, em uma determinada época, de uma ou outra área da IA , motivando o seu 19
desenvolvimento e sua pesquisa. Atualmente, para os juristas, duas sub-áreas da IA têm 
chamado atenção: o aprendizado de máquina (machine learning – ML) e a robótica. De 20
acordo com Ryan Calo e Jack Balkin, estas são as áreas da IA que demandarão maior atenção 
do Direito, pois ambas possuem características próprias que trazem novos e diferentes 
desafios regulatórios. 
A área de aprendizado de máquina tem por objetivo criar algoritmos que evoluem seu 
comportamento à medida que aprendem com os dados que recebem, tal como descrito acima. 
Estes algoritmos são usados para tarefas onde é difícil criar um conjunto definido de 
instruções para resolvê-las, tais como o reconhecimento facial e a decodificação da 
linguagem. Como o próprio nome indica, ML visa ensinar à máquina a identificar e 
reconhecer padrões – que não são passíveis de reconhecimento a olhos humanos –, a partir do 
seu treinamento com um certo conjunto de dados (input). A partir desse treinamento, a 21
máquina é apresentada a um novo conjunto de dados, nunca antes analisados por ela, para que 
sejam identificados padrões, “e, com base neles, gerar modelos que são usados para predição 
 Tal como o AlphaZero, criado pela DeepMind, derrotou o que era considerado como o melhor programa de 18
xadrez virtual. Ver em: THE GUARDIAN. AlphaZero AI beats champion chess program after teaching itself in 
four hours. Disponível em: Acessado em 11.04.2020.
 STONE, Peter et al.. Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial 19
Intelligence: Report of the 2015-2016 Study Panel, Stanford University, Stanford, CA, 2016. Disponível em: 
 Acessado em 15.04.2020.
 “Much of the contemporary excitement around AI, however, flows from the enormous promise of a particular 20
set of techniques known collectively as machine learning”. CALO, Ryan. Artificial Intelligence policy: a primer 
and roadmap. 51 U.C. Davis Law Review 300, 2017, pp. 405. Disponível em: .Acessado em 03.01.2020.
 LEMLEY, Mark A; CASEY, Bryan. Remedies for Robots. 86 University of Chicago Law Review 1311, 21
Stanford Law and Economics Olin Working Paper No. 523, 2019, p. 1325. Disponível em: https://
lawreview.uchicago.edu/publication/remedies-robots. Acessado em 29.07.2020.
6
a respeitos dos dados tratados (output).” O seu aprendizado vai evoluindo e se 22
aperfeiçoando por meio de feedbacks e técnicas estatísticas, fazendo com que seu algoritmo 
vá se adaptando e melhorando. A grande vantagem desta técnica é que ela é capaz “retirar dos 
programadores a difícil tarefa de produzir instruções explícitas para os computadores” além 
de “aprender exemplos sutis entre dados que podem passar despercebidos para os humanos ou 
até mesmo não serem reconhecidos” . 23
Apesar dos benefícios gerados pelo ML, é verdade que o seu uso abrangente e em 
diferentes contextos (diagnóstico médico, decidir pela soltura de um acusado, ou direcionar 
oportunidades empregatícias), levantam desafios éticos e jurídicos. Estes questionamentos se 
justificam pelo modo opaco como estes sistemas tomam as suas decisões, o que impede a 24
avaliação da legitimidade e legalidade do código e a compreensão de como e por que uma 25
determinada decisão foi alcançada. Além disso, a ausência de interferência humana no 26
funcionamento e na tomada de decisão desses agentes inteligentes também geram dilemas 
envolvendo a sua imputabilidade e responsabilidade civil em caso de danos . 27
Apesar da ampla difusão da tecnologia, existe uma assimetria na compreensão dos 
desenvolvedores e do público em geral em relação à autonomia destes artefatos. Thomas 
Burri, em 2015, aponta que uma das explicações para esta diferença seria o fato de os 28
desenvolvedores possuírem uma visão do estágio atual da tecnologia, enquanto os 
 MULHOLLAND, Caitlin. Responsabilidade Civil e Processos Decisórios Autônomos em Sistemas de 22
Inteligência Artificial (IA): autonomia, imputabilidade e responsabilidade. In: Ana Frazão; Caitlin Mulholland. 
(Org.). Inteligência Artificial e Direito: Ética, Regulação e Responsabilidade. 1a ed. São Paulo: Thomson 
Reuters, 2019, v. 1, p. 329.
 Tradução livre de: “ability to relieve programmers of the difficult task of producing explicit instructions for 23
computers” e “learn subtle relationships in data that humans might overlook or cannot recognize”. SELBST, 
Andrew D.; BAROCAS, Solon. Intuitive Appeal of Explainable Machines. 87 Fordham L. Rev. 1085, 2018, p. 
1.094. Disponível em: https://ir.lawnet.fordham.edu/4r/vol87/iss3/11. Acessado em 03.01.2020.
 PASQUALE, Frank. The Black Box Society: the secret algorithms that control money and information. 24
Harvard University Press, 2015; SELBST, Andrew D.; BAROCAS, Solon. Intuitive Appeal of Explainable 
Machines. 87 Fordham L. Rev. 1085, 2018. Disponível em: https://ir.lawnet.fordham.edu/4r/vol87/iss3/11. 
Acessado em 03.01.2020.
 SELBST, Andrew D.; BAROCAS, Solon. Intuitive Appeal of Explainable Machines. 87 Fordham L. Rev. 25
1085, 2018. Disponível em: https://ir.lawnet.fordham.edu/4r/vol87/iss3/11. Acessado em 03.01.2020.
 Ibidem.26
 Ver nota de rodapé n. 22. 27
 BURRI, Thomas. The Politics of Robot Autonomy. European Journal of Risk Regulation, 2016, pp. 341-360. 28
Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2815082. Acesso em 02.02.2020.
7
observadores têm uma visão futurística da mesma, que é fortemente influenciada pela cultura 
popular. Esta diferença, embora pareça trivial, não é quando estamos diante do desafio de 
pensar maneiras de regulá-las. Isto porque, nossos legisladores estão longe de serem experts 
sobre o assunto. A influência que filmes e a literatura, seja ficção ou não, exercem na 29
percepção e imaginário das pessoas sobre a tecnologia é algo mapeado e reconhecido por 
pesquisadores . Até mesmo as Três Leis da Robótica de Isaac Asimov têm sido utilizadas 30
como ponto de partida para discutir regulação sobre robótica na União Europeia. Embora se 31
defenda que o debate para regular tecnologias deva ocorrer com a ampla participação da 
sociedade, de maneira multissetorial, assim como se deu com o Marco Civil da Internet (Lei 32
nº 12.965/2014) , o contexto político e social nem sempre vai favorecer este tipo de cenário. 33
Assim, para evitar visões distópicas da tecnologia, é importante “que o Direito avance 
também para buscar compreender o que são robôs inteligentes e como o ordenamento jurídico 
deve reagir à sua progressiva inserção na sociedade” à medida que a tecnologia vai se 34
desenvolvendo de maneira complexa. Para caminhar nessa direção, é importante definir quais 
são as principais características e preocupações que a IA levanta. 
 O relatório produzindo pelas Nações Unidas chamado “I’d Blush If I Could” demonstra como o retrato de 29
robôs em produções cinematográficas americanas, como o HAL 9000, do filme 2001: A Space Odissey, e a 
assistente virtual que tem a voz de Scarlet Johansson no filme Her. Ambos contribuem para criação de um 
imaginário do que o público pode esperar dos robôs, no caso, a crítica feminista se dirigia na caracterização de 
robôs com vozes femininas e sua caracterização como coisas subservientes. UNESCO. I'd blush if I could: 
closing gender divides in digital skills through education. 2019. Disponível em: . Acessado em 12.09.2019, p. 98.
 BALKIN, Jack M.. The Path of Robotics Law. California Law Review, vol 6, 2015. Disponível em: https://30
ssrn.com/abstract=2586570. Acessado em 21.04.2017; e RICHARDS, Neil M.; SMART, William D.. How 
should we think about robots? In: CALO, Ryan; FROOMKIN, A. Michael; KERR, Ian (Org.). Robot Law. 
Northampton: Edward Elgar Publishing, 2016, pp. 3-24. 
 Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, nas recomendações da Comissão Europeia 31
sobre s disposições de direito civil sobre Robótica (2015/2013(INL)). Disponível em: . 
Acesso em: 25.07.2020. 
 SOUZA, Carlos Affonso de; LEMOS, Ronaldo. Marco Civil da Internet: construção e aplicação. Juiz de Fora: 32
Editar Editora Associada Ltda, 2016.
 Como é o caso da “Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet” (PLS 33
2630/2020), também conhecido como PL das Fake News que, apesar de ter sido colocada para consulta pública, 
tem recebido poucas contribuições. Ver em: SILVA, Priscilla. A Desinformação do PL das Fake News. Revista 
Jota, publicado em 01 de jun. de 2020. Disponível em: https://www.jota.info/coberturas-especiais/liberdade-de-
expressao/a-desinformacao-do-pl-das-fake-news-01062020. Acessado em 28.07.2020.
 DONEDA, Danilo; MENDES, Laura Schertel; SOUZA, Carlos Affonso Pereira de; ANDRADE, Norberto 34
Nuno Gomes de. Considerações sobre Inteligência Artificial, ética e autonomia pessoal. Pensar – Revista de 
Ciências Jurídicas, v. 23, 2018, p. 6.
8
2.1. As características da Inteligência Artificial: uma ótica do Direito 
De acordo com Ryan Calo , podem ser extraídas três características essenciais da IA 35 36
e de robôs que se valem de IA, que representam as possibilidades e as experiências que a sua 
arquitetura gera e circunscreve no mundo real. São elas: materialidade (embodiment), 
comportamento emergente (emergence) e valor social (social valence). A materialidade seria a 
capacidade daquele robô de “senti[r], navega[r] e atuar sob o mundo, geralmente exigindo 
uma presença física” . Ao invés de utilizar o termo “autonomia”, Calo se refere a esta 37
capacidade com o termo “emergence”, que representa a aptidão do robô em obedecer a 
comandos, “repet[ir] tarefas com uma paciência não humana, ou reproduz[ir] uma ação em 
condições de risco” construindo “um comportamento útil imprevisível” . Finalmente, o valor 38
social se refere ao reconhecimento de que os agentes inteligentes “são diferentes paranós, 
como se fossem agentes vivos” . Cada uma dessas características vai trazer diferentes 39
desafios regulatórios: a materialidade é capaz de causar danos físicos; o comportamento 
emergente torna imprevisível a ação, não sendo inteligível a compreensão dos motivos que o 
ocasionaram; e o valor social aponta para as diferentes naturezas jurídicas que atribuímos aos 
artefatos, que ora podem ser vistos por nós como pessoas, ora como animais ou até mesmo 
como objeto, o que poderá refletir na incidência de diferentes regimes de responsabilização. 
Outra discussão que Calo apresenta é qual será a melhor maneira de regular a IA e a 
robótica, se pela própria tecnologia (seu código) ou pela lei. Mesmo diante do seu 
comportamento emergente, Calo acredita que o código estaria apto a limitar e constranger o 
comportamento destes artefatos. Este é um ponto de discordância de Jack Balkin , conforme 40
 CALO, Ryan. Robotics and the Lessons of Cyberlaw. California Law Review, Vol. 103, No. 3, 2015, p. 532. 35
Disponível em: https://ssrn.com/abstract=2402972. Acessado em 21.04.2017.
 Jack Balkin crítica o fato de Calo fixar estas características como essenciais, pois entende que o uso da 36
tecnologia vai se adaptando, modificando e se desenvolvendo a partir dos seus usos sociais. BALKIN, Jack M.. 
The Path of Robotics Law. California Law Review, vol 6, 2015, p. 52. Disponível em: https://ssrn.com/
abstract=2586570. Acessado em 21.04.2017.
 Tradução livre de: “Sensing, navigating, and acting upon the world generally requires a physical presence, and 37
that physical presence opens up a universe of new possibilities”.
 Tradução livre de: “repeating a task with inhuman patience, or by reproducing an action in hazardous 38
conditions” e “unpredictably useful behavior and represents a kind of gold standard among many roboticists”.
 Tradução livre de: “They feel different to us, more like living agents”.39
 BALKIN, Jack M.. The Path of Robotics Law. California Law Review, vol 6, 2015. Disponível em: https://40
ssrn.com/abstract=2586570. Acessado em 21.04.2017.
9
exposto em um artigo escrito em resposta a Calo, onde indica que o comportamento 
emergente destes artefatos impossibilita que o código seja regulado, seja pelo próprio código, 
seja pela lei: code is lawless. 41
 Apesar da visão pessimista de Jack Balkin, já estão sendo debatidas propostas 
regulatórias sobre Inteligência Artificial, sendo que os documentos apresentados no âmbito da 
União Europeia têm ganhado os holofotes . A discussão encontra-se pautada, como se verá 42
abaixo, em diretrizes éticas e principiológicas, o que parece ser importante para evitar o 
estabelecimento de regras herméticas que impeçam a inovação e o desenvolvimento 
tecnológico. Diante das características da IA, em especial, da robótica e da área de 
aprendizado de máquina, será possível que o seu comportamento seja aderente aos princípios 
éticos? Será possível incorporá-los ao seu código? 
3. Princípios éticos para a IA 
Na ausência de regulação jurídica sobre o assunto, a observação de princípios éticos 
pode ser importante para maximizar os benefícios da IA e diminuir seus riscos. A questão 43
que se coloca é: quais princípios éticos? A utilização de princípios éticos como instrumento 
para a regulação da Inteligência Artificial, apesar de não conter uma natureza coercitiva e 
sancionatória típica da regulação jurídica, permite a criação de guias deontológicos que serão 
constituídos como a razão prima facie e o fundamento para o desenvolvimento e 
implementação da IA. Nesse caso, a governança da Inteligência Artificial será baseada em 
princípios que imporão uma regulação leve (soft law ou soft regulation), na medida em que 
servirão de limite para a expansão da IA, sem, contudo, prever uma penalidade específica em 
caso de desvio do padrão constituído. Tanto a União Europeia quanto outros organismos 
 Ibidem, p. 51.41
 V e r e m : h t t p s : / / e c . e u r o p a . e u / d i g i t a l - s i n g l e - m a r k e t / e n / a r t i f i c i a l -42
intelligence#:~:text=The%20General%20Data%20Protection%20Regulation,clarity%20in%20AI%20%2Dbased
%20applications.&text=%2D%20The%20Declaration%20of%20cooperation%20on,countries%20on%2010%20
April%202018. Acesso em 01.08.2020.
 Os autores se referem, na realidade, à constituição de quadros éticos corporativos. Contudo, esta mesma 43
afirmação também é adequada quando pensamos em princípios éticos no geral. DONEDA, Danilo; MENDES, 
Laura Schertel; SOUZA, Carlos Affonso Pereira de; ANDRADE, Norberto Nuno Gomes de. Considerações 
sobre Inteligência Artificial, ética e autonomia pessoal. Pensar – Revista de Ciências Jurídicas, v. 23, 2018, p. 
13.
10
internacionais - como, por exemplo, a OCDE e a Access Now - e instituições privadas - 44 45
como, por exemplo, a IBM e a Microsoft - instituíram guias de recomendação para a 46 47
adoção de princípios éticos para a regulação de IA. 
Os princípios éticos indicados pelos documentos consultados partem de um mesmo 48
pressuposto, qual seja, a necessidade de fomentar o desenvolvimento de uma Inteligência 
Artificial confiável e que seja auditável, permitindo que seus processos sejam conhecidos e 
controlados - ou controláveis - pelo ser humano. Respaldado por estes pressupostos, os 
princípios-guias que foram primeiramente eleitos para iniciar a construção de uma "Ética para 
a IA" foram importados da experiência da Bioética , considerada exemplar por promover, ao 49
mesmo tempo, a proteção da pessoa humana e o desenvolvimento da ciência . Estes 50
 Para uma leitura a respeito do Guia da OCDE sobre recomendações na regulação da Inteligência Artificial por 44
meio de princípios éticos, visitar a página: https://www.oecd.org/going-digital/ai/principles/. Os 36 países 
membros da OCDE aderiram aos Princípios da Inteligência Artificial da OCDE. O Brasil, apesar de não ser 
membro da OCDE, também aderiu ao documento, adotado a partir de maio de 2019. 
 Consultado em: https://www.accessnow.org/artificial-intelligence-we-just-became-a-member-of-the-45
p a r t n e r s h i p - o n - a i /
#:~:text=Access%20Now%20recognises%20that%20ethical,only%20be%20a%20first%20step. Acesso em 
10.08.2020.
 A respeito, ver: https://www.ibm.com/blogs/policy/trust-principles/. Acesso em 10.08.2020.46
 A respeito, ver: https://www.microsoft.com/en-us/ai/responsible-ai. Acesso em 10.08.2020.47
 Além das declarações de princípios de empresas e organismos internacionais (governamentais e não 48
governamentais), foram consultados também os seguintes documentos: (i) Relatório do European Group on 
Ethics in Science and New Technologies Artificial Intelligence, Robotics and ‘Autonomous’ Systems; (ii) 
Estratégia Brasileira para a Inteligência Artificial do MCTIC; (iii) Relatório "Orientações éticas para uma IA de 
confiança", do Grupo de Peritos de Alto Nível sobre a Inteligência Artificial; (iv) "The IEEE Global Initiative 
on Ethics of Autonomous and Intelligent Systems"; (v) Relatório da Access Now sobre "Human rights in the age 
of Artificial Intelligence", dentre outros.
 Sobre os princípios da bioética, sugere-se a consulta ao Relatório de Belmont: https://www.hhs.gov/ohrp/49
regulations-and-policy/belmont-report/read-the-belmont-report/index.html. Acesso em 17.08.2020.
 Em relação aos princípios da Bioética, Floridi et al, afirmam que podem ser transpostos concretamente para a 50
regulação da IA por meio da promoção do bem comum, preservação da dignidade humana e sustentabilidade 
(beneficência); proteção da privacidade da segurança e da prevenção de danos (não-maleficência); tutela do 
poder de decidir (autonomia); e promoção da prosperidade e preservação da solidariedade social (justiça). 
MITTELSTADT, Brent; ALLO, Patrick; TADDEO, Mariarosaria; WACHTER, Sandra; e FLORIDI, Luciano. 
2016. The Ethics of Algorithms: Mapping the Debate. Big Data & Society. 3(2), 2016. Disponível em https://
journals.sagepub.com/doi/full/10.1177/2053951716679679.Acesso em 28.07.2020.
11
princípios - beneficência; não-maleficência; autonomia e justiça - são a base para a 51
constituição de outros três princípios - estes específicos da IA - que servem de justificativa 
para a confiabilidade dos sistemas: (i) o princípio da justiça (fairness); (ii) o princípio da 
acurácia (accuracy); e (iii) o princípio da inteligibilidade (intelligibility). O reconhecimento 
desses princípios representa, resumidamente, a adoção de medidas que (i) impeçam a 
aplicação de sistemas de IA que violem o princípio da igualdade de tratamento; (ii) permitam 
reconhecer que os insumos utilizados pela IA e os resultados que advém de seu tratamento 
sejam precisos; e (iii) proporcionem à pessoa humana o conhecimento dos processos de 
decisão tomados pela IA. 
Dentre os documentos analisados, os Princípios de Asilomar - produto da Asilomar 52
Conference on Beneficial AI, realizado em 2017 - é dos mais relevantes, por se tratar de 
iniciativa multissetorial, reunindo em nível internacional acadêmicos, indústria, ONGs, entre 
outros atores, em busca de uma melhor compreensão dos limites para o desenvolvimento da 
IA. Dos 23 princípios reconhecidos, 13 princípios se referem à Ética e Valores (ethics and 
values). Não serão analisados todos os princípios, sendo destacados os seguintes: (i) princípio 
da segurança e precaução a danos; (ii) princípio da transparência sobre incidentes de 
segurança; (iii) princípio da responsabilidade pelas implicações morais do uso da IA; (iv) 
princípio da proteção e controle de dados pessoais; e (v) atendimento a valores humanos, 
dentre os quais se destacam os ideais de dignidade humana, liberdade e diversidade cultural. 
Outro documento que deve servir de parâmetro para a adoção de princípios éticos, é o 
preparado pelo Grupo Independente de Peritos de Alto Nível sobre a Inteligência Artificial 
(GPAN IA) , da União Europeia, que, em 2019, elaborou um Guia Ético para o que 53
 Para Floridi et al, "(...) affirming the principle of autonomy in the context of AI means striking a balance 51
between the decision-making power we retain for ourselves and that which we delegate to artificial agents. Not 
only should the autonomy of humans be promoted, but also the autonomy of machines should be restricted and 
made intrinsically reversible, should human autonomy need to be re-established (consider the case of a pilot able 
to turn off the automatic pilot and regain full control of the airplane). MITTELSTADT, Brent; ALLO, Patrick; 
TADDEO, Mariarosaria; WACHTER, Sandra; e FLORIDI, Luciano. 2016. The Ethics of Algorithms: Mapping 
the Debate. Big Data & Society. 3(2), 2016. Disponível em: https://journals.sagepub.com/doi/full/
10.1177/2053951716679679. Acesso em 28.07.2020, p. 698.
 Consulta em https://futureoflife.org/ai-principles/. Acesso em 18 de agosto de 2020.52
 https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence53
12
denominou de IA de Confiança. De acordo com o grupo, uma IA de confiança “tem três 54
componentes, que devem ser observadas ao longo de todo o ciclo de vida do sistema: a) deve 
ser Legal, cumprindo toda a legislação e regulamentação aplicáveis; b) deve ser Ética, 
garantindo a observância de princípios e valores éticos; c) deve ser Sólida, tanto do ponto de 
vista técnico como do ponto de vista social, uma vez que, mesmo com boas intenções, os 
sistemas de IA podem causar danos não intencionais”. Dentre os princípios éticos arrolados 55
pelo grupo, quatro se destacam, quais sejam, (i) o respeito da autonomia humana, (ii) a 
prevenção de danos, (iii) a equidade e (iv) a explicabilidade. De uma forma muito semelhante 
ao documento de Asilomar, o Guia Ético adota uma postura de promoção da tutela da pessoa 
humana por meio do respeito à sua autonomia e integridade, no que se refere à prevenção e 
precaução de danos. 
A Declaração de Montreal, de 2017, por sua vez, indica que os princípios éticos por 
ela adotados são como um guia moral que oferece uma estrutura ética promotora de direitos 
humanos. Ao lado dos princípios já mencionados nos demais documentos, a Declaração de 
Montreal indica a proteção à participação democrática como um norte para o 
desenvolvimento e utilização da IA, demonstrando uma preocupação genuína com o uso de 
sistemas de Inteligência Artificial para finalidades políticas autoritárias e não-democráticas. 
 A ideia geral por trás destes guias deontológicos é garantir que os processos em torno 
do desenvolvimento e utilização dos sistemas de IA cumpram determinados pressupostos, 
dentre os quais podemos destacar a obrigatoriedade de supervisão humana dos processos. 
Significa dizer que toda IA deve necessariamente ser centrada na pessoa humana, a ela 
direcionada e por ela supervisionada, engajando os sistemas para servir à coletividade, no 
sentido de amplificar não só a sua segurança, mas também garantir a autonomia e a 
capacidade de decidir das pessoas. Considerando essas premissas, os sistemas de IA devem, a 
um só tempo, potencializar os benefícios que geram para a humanidade, e prevenir os riscos 
que venham a causar à coletividade. A tarefa, à toda evidência, não é simples e requer um 
verdadeiro compromisso por parte não só dos desenvolvedores de sistemas de IA, mas 
 Dentre os princípios enumerados pelo GPAN IA encontram-se (i) a ação e supervisão humana; (ii) a solidez 54
técnica e segurança; (iii) privacidade e governança dos dados; (iv) transparência; (v) diversidade, não 
discriminação e equidade; (vi) bem-estar ambiental e societal; e (vii) responsabilização. 
 Orientações éticas para uma IA de confiança, p. 2.55
13
também da sociedade como um todo, no sentido de apoiar a IA quando confiável ou denunciar 
a IA que foge aos escopos dos códigos de ética e valores constituídos. 
 Por outro lado, ao sustentar que a IA deve ser centrada no humano (human centered), 
pode-se inferir que a regulação do desenvolvimento e uso da IA extrapola aquela determinada 
pelos princípios éticos e encontra guarida na tutela jurídica dos direitos fundamentais, 
previstos tanto na Constituição Federal, quanto em outras normas de caráter universal, como 
declarações e tratados internacionais. Assim, a abordagem à ética da IA seria também baseada 
nos direitos fundamentais, no sentido de ser por eles apoiada. O princípio da dignidade 
humana, o direito à liberdade e à igualdade, seriam as fontes para a construção de uma IA 
ética, confiável e humano-centrada. 
4. É possível codificar princípios éticos? 
Como indicado acima, podemos explicar, de maneira simplista, como esses artefatos 
podem funcionar de duas maneiras. A primeira maneira remonta ao início da IA, onde os 
algoritmos eram programados por meio de regras simples de if-else-then, compostas por um 
conjunto de instruções baseadas em lógica. Esta maneira de codificar, com regras simbólicas, 
permite a explicação e previsibilidade dos artefatos, mesmo que construídos para contextos 
complexos. Caso este tipo de regra fosse aplicado ao Roomba, seria algo como: “se sujeira, 56
então limpe, senão, continue andando”. Isto significa que, enquanto o ambiente estiver sujo, 
ele continuará se movimentando para limpá-lo. Neste cenário, o nível de incerteza do artefato 
é bastante reduzido, pois o Roomba é tipicamente utilizado em ambientes domésticos. Por 
isso, não seria necessário criar uma série de regras, tal como se este robô fosse utilizado em 
um campo de batalha, por exemplo, que é irregular e sujeito a grande variação climática. 
Estas condições tornam o ambiente incerto, o que exigiria a codificação de uma série de 
regras simbólicas para dar conta desta nova realidade, tornando a escalabilidade do uso deste 
artefato difícil ou até mesmo impossível. 57
 LEMLEY, Mark A; CASEY, Bryan. Remedies for Robots. 86 University of Chicago Law Review 1311, 56
Stanford Law and Economics Olin Working Paper No. 523, 2019, p. 1.323. Disponívelem: https://
lawreview.uchicago.edu/publication/remedies-robots. Acessado em 29.07.2020.
 Ibidem, p. 1.324.57
14
 Como apontam Mark Lemey e Bryan Casey, a técnica de aprendizado de máquina 
supera esse problema , pois ela não se vale de regras simbólicas, mas de regras não-58
simbólicas criadas pelo próprio sistema, o que “requer sacrificar algum nível granular de 
controle sobre os algoritmos da máquina” . Estes algoritmos são motivados a alcançarem um 59
determinado objetivo da maneira mais otimizada possível. O seu aprendizado ocorre por meio 
de exemplos, que são posteriormente validados por recompensas ou penalizações, bem como 
por modelos estatísticos. Por este motivo, para implementar uma proibição em seu 
comportamento, teria de ser atribuída uma consequência ou um peso negativo a uma ação não 
desejada. Desta forma, enquanto que para os modelos de aprendizado de máquina adotar ou 60
não uma conduta depende de um cálculo econômico de custo/benefício, para algoritmos com 
regras simbólicas a proibição de um comportamento seria considerada auto-executável. 
Lemey e Casey chamam este último caso de uma perspectiva normativa de aplicação de uma 
regra, enquanto a outra assumiria uma visão econômica. 61
Embora abstratamente pareça simples, não é. Um exemplo apresentado por Lemey e 
Casey, ora adaptado, demonstra isso. Para que um algoritmo simples entenda que deva parar 
diante de um sinal vermelho, seria suficiente que fosse codificado o seguinte comando “se 
sinal vermelho, então pare, senão, continue”. Por sua vez, um algoritmo de ML dependeria do 
reconhecimento dos custos negativos e positivos de avançar o sinal vermelho (potencial 
aplicação de multa, colisão com outro objeto, atropelamento de uma pessoa ou um animal, 
etc). Num exemplo hipotético, caso uma mulher grávida, em trabalho de parto, esteja indo em 
direção ao hospital pela manhã (por volta das 9h) em um dia de semana agitado, é razoável 
que ela não respeite os sinais de trânsito, avançando diversos sinais vermelhos para chegar ao 
hospital a tempo, sem colocar em risco a sua vida e a do bebê. Mudando de cenário: caso a 
mulher fosse até o hospital em um veículo autônomo, que tenha embarcado em seu sistema o 
algoritmo mais simples, ela poderia ter problemas em chegar a tempo no hospital, pois a regra 
de parar no sinal vermelho poderia atrasar este objetivo. Caso o veículo fosse operado por um 
 Ibidem, p. 1.324.58
 Tradução livre de: “requires sacrificing some degree of fine-grained control over a machine’s algorithms”. 59
Ibidem, p. 1.236.
 Ibidem, p. 1.348.60
 Ibidem, p. 1.349.61
15
algoritmo de ML, o sistema teria que calcular os riscos e os benefícios de avançar os sinais 
vermelhos. Nesse caso, deve ser levado em consideração o horário, o dia e o percurso que 
deve ser feito, avaliando quais são os riscos e as vantagens de respeitar os sinais fechados . 62
Uma dificuldade a mais é que os desenvolvedores são incapazes de preverem o 
comportamento desse algoritmo, e, portanto, não sabem como esta proibição irá interagir com 
outras regras. 63
 A regra proibitiva no exemplo acima não é vaga ou imprecisa, tampouco possui uma 
linguagem de textura aberta. Ainda assim, quando ela é projetada para ser codificada, seja no 
algoritmo simples ou no de ML, surgem dilemas que põem em xeque a sua capacidade de se 
ajustar a determinadas situações. Estes dilemas são ainda mais complexos quando pensamos 
em codificar princípios éticos, diante da plasticidade e indeterminação dos seus enunciados. 
Quando ocorrem controvérsias jurídicas envolvendo os mesmos, sempre há a necessidade de 
interpretação e de ponderação para solucionar o conflito, sempre dependendo de uma 
determinação contextual, e implicando em uma análise casuística da situação. 
Consequentemente, a análise onde “cada caso é um caso” afasta a possibilidade de construção 
de parâmetros de julgamento, fazendo com que não exista um padrão ou standard aplicável . 64
Como as máquinas não são capazes de compreender a semântica das palavras, tampouco fazer 
abstrações, a codificação de princípios implicaria na necessidade de parametrizar, quantificar 
e sopesar infinitas situações, o que inviabilizaria o uso de códigos simples ou levaria a 
resultados insatisfatórios no caso de ML, pela ausência de padrões. 
É neste sentido que Wachter et al., em um recente artigo (no prelo) , concluem que o 65
princípio de justiça (fairness) não deve ser codificado. Ao avaliaram a jurisprudência do 
 O exemplo foi pensado para criar uma situação em que seria um risco demasiado avançar os sinais vermelhos. 62
Caso fosse madrugada, e não a manhã de um dia de semana, por exemplo, seria razoável que o algoritmo de ML 
julgasse haver uma baixa probabilidade de acidente, atropelamento ou até mesmo a não aplicação da multa.
 Ibidem, p. 1.349.63
 Este é um problema recorrente da doutrina e jurisprudência brasileira. Isto fica evidente, por exemplo, nos 64
conflitos envolvendo direitos fundamentais, como a liberdade de expressão e direitos da personalidade. Sobre o 
tema, ver em: LEITE, Fábio Carvalho. Nem todo case é um hard case: reflexões sobre a resolução dos conflitos 
entre liberdade de expressão e os direitos da personalidade no Brasil. In: ABREU, Célia Barbosa; LEITE, Fábio 
Carvalho, PEIXINHO, Manoel Messias (Orgs.). Debates sobre Direitos Humanos Fundamentais. Vol. I. Rio de 
Janeiro: Editora Gramma, 2017, pgs. 209-231.
 WACHTER, Sandra; MITTELSTADT, Brent; RUSSELL, Chris. Why Fairness Cannot Be Automated: 65
Bridging the Gap Between EU Non-Discrimination Law and AI, no prelo. Disponível em: https://ssrn.com/
abstract=3547922. 
16
Tribunal de Justiça da União Europeia de casos envolvendo alegações de discriminação, os 
autores concluíram pela impossibilidade de codificar o que seria fairness nestes casos, um 
princípio ético tipicamente aplicado para avaliar a ocorrência ou não de discriminação. O 
motivo: foi verificada a ausência de parâmetros fixados pelo Tribunal que poderiam ser 
traduzidos e implementadas em sistemas automatizados. Em seu lugar, os autores sugerem 66
que sejam desenvolvidas ferramentas e aplicados métodos estatísticos que auxiliem julgadores 
a detectarem uma potencial discriminação, mas que a declaração de discriminação não seja 
automatizada, e sim revisada e aplicada por uma pessoa humana. Além disso, os autores 
apontam que o uso crescente e difundido de sistemas de IA deverá incentivar o Tribunal a 
criar estes parâmetros, de forma a permitir uma possível tradução de precedentes em um 
formato compreensível para as máquinas. 
Apesar dessa conclusão e de certo ceticismo dos juristas quanto à codificação de 
princípios éticos, é verdade que o Grupo Independente de Peritos de Alto Nível sobre a 
Inteligência Artificial (GPAN IA), em seu relatório que trata sobre ética e IA, aponta uma 
série de medidas técnicas (indicadores de qualidades, testes e validação, arquiteturas 
confiáveis e ethics-by-design, por exemplo) e não-técnicas (regulação, códigos de conduta, 
padronização, certificação, etc) que podem ser observados para a construção de sistemas de 
IA éticos e confiáveis (trustworthy) . Embora exista um grande desafio, Wachter et al. 67
apresentam uma vasta literatura técnica que tem se debruçado sobre o tema . Ademais, como 68
visto, a própria União Europeia tem apontado opções, ainda que genéricas, para assegurar a 
observância destes preceitos. A implementação de princípios éticos não significa apenas 
imputar uma regra ao sistema para que ele aja de maneira justa, equânime, não 
discriminatória, pois sua maneira de funcionar não permite algo tão simples quanto isso. Em 
casos de ML, seria até mesmo possível pensar formas de maximizar, gratificar e buscar 
alcançar determinados valores que atendam a estes princípios éticos, mas a imprevisibilidade 
do código – assim como a ausência de padrões nestes casos -- gera alguma insegurança sobre 
o seu sucesso.Ibidem, p. 44.66
 COMISSÃO EUROPEIA. A definition of AI: Main capabilities and scientific disciplines. 2019b, pp. 22-24. 67
Disponível em: Acessado 
em 14.04.2020.
 Ibidem.68
17
A complexidade do tema exige um esforço criativo para dar conta desta realidade. 
Uma solução que tem sido apontada pela doutrina especializada para fazer com que tais 
princípios sejam incorporados a sistemas de IA é a constituição de quadros éticos 
corporativos. Estes funcionam como uma “estrutura analítica e operacional destinada a 
orientar a estratégia dos atores corporativos e a moldar as suas práticas nesse domínio”, 69
permitindo que o desenvolvimento da tecnologia seja supervisionado e acompanhado pelo 
comitê. Junto a isso, o estabelecimento de estratégias de governança de algoritmos também 
agrega valor à atuação deste quadro ético, com a combinação de diferentes instrumentos 
regulatórios, que podem “variar desde os pontos de vista estritamente jurídico e regulatório 
até uma postura puramente técnica” . Este tipo de governança permite que haja um 70
monitoramento da criação de diretrizes éticas, além do estabelecimento de controles sobre a 
tecnologia. Assim, estes comitês têm o potencial de exercer um escrutínio ético rígido ao 
longo do ciclo de desenvolvimento da Inteligência Artificial, atendendo à ideia central de que 
a IA deve ser centrada no humano (human centered). 
5. Considerações Finais 
Na falta de uma regulação jurídica específica sobre a Inteligência Artificial, princípios 
éticos têm sido considerados para baliza dos progressos em IA, constituindo-se em limite 
interno – no desenvolvimento dos sistemas – e externo – nas aplicações e usos da tecnologia. 
Tem-se, assim, que as luzes da Ética e as leis de Asimov servem como ponto de partida para o 
estudo sobre os impactos jurídicos do desenvolvimento e da aplicação de ferramentas que 
utilizam IA. 
Os avanços da tecnologia permitem imaginar um futuro em que serão delegadas a 
sistemas de Inteligência Artificial decisões que irão, inevitavelmente, gerar danos a pessoas. 
Além da inexistência de uma regulação jurídica sobre a matéria nos ordenamentos jurídicos 
analisados, soma-se o desconhecimento sobre os impactos verdadeiros que esse tipo de 
tecnologia pode gerar na sociedade como um todo e nas relações subjetivas, em concreto. O 
 DONEDA, Danilo; MENDES, Laura Schertel; SOUZA, Carlos Affonso Pereira de; ANDRADE, Norberto 69
Nuno Gomes de. Considerações sobre Inteligência Artificial, ética e autonomia pessoal. Pensar – Revista de 
Ciências Jurídicas, v. 23, p. 1-17, 2018, p. 13.
 DONEDA, Danilo; ALMEIDA, Virgílio, A. F.. O que é governança de algoritmos? In: BRUNO, Fernanda et 70
al.. Tecnopolíticas da vigilância: perspectiva da margem. 1ª Edição. São Paulo: Boitempo, 2018, pp. 147.
18
fato de que os processos de decisões levadas a cabo pela IA autônoma não são conhecidos 
pelas pessoas, ocasionando a formação de verdadeiras caixas-pretas, opacas e impenetráveis 
ao conhecimento humano, gera incertezas sobre a possibilidade concreta da regulação 
jurídica, na medida em que não haveria condições de prever ou avaliar probabilisticamente os 
resultados danosos possíveis do aprendizado da IA. 
Em conclusão, enquanto não houver uma regulação dos sistemas de Inteligência 
Artificial – ainda que por meio de códigos deontológicos –, a indagação a respeito do 
adequado, seguro e confiável desenvolvimento e aplicação da IA permanecerá. Caberá à 
sociedade como um todo a árdua tarefa de exigir a implementação de um sistema de 
regulação apropriado que possibilite não somente o pleno desenvolvimento das tecnologias e 
sistemas de Inteligência Artificial, mas que beneficiarão a todos e promoverão a tutela da 
pessoa humana. 
19
Referências Bibliográficas 
BALKIN, Jack M.. The Path of Robotics Law. California Law Review, vol 6, 2015. 
Disponível em: https://ssrn.com/abstract=2586570. Acessado em 21.04.2017 
CALO, Ryan. Robotics and the Lessons of Cyberlaw. California Law Review, Vol. 103, No. 3, 
2015, pp. 513-564. Disponível em: https://ssrn.com/abstract=2402972. Acessado em 
21.04.2017. 
CALO, Ryan. Artificial Intelligence policy: a primer and roadmap. 51 U.C. Davis Law 
Review 300, 2017, pp. 399-435. Disponível em: . Acessado em 03.01.2020. 
COMISSÃO EUROPEIA. A definition of AI: Main capabilities and scientific disciplines. 
2019b. Disponível em: Acessado em 14.04.2020. 
COPPIN, Ben. Artificial Intelligence Illuminated. 1a Edição. Massachusetts: Jones & Bartlett 
Learning, 2004. 
DONEDA, Danilo; MENDES, Laura Schertel; SOUZA, Carlos Affonso Pereira de; 
ANDRADE, Norberto Nuno Gomes de. Considerações sobre Inteligência Artificial, ética e 
autonomia pessoal. Pensar – Revista de Ciências Jurídicas, v. 23, p. 1-17, 2018. 
DONEDA, Danilo; ALMEIDA, Virgílio, A. F.. O que é governança de algoritmos? In: 
BRUNO, Fernanda et al.. Tecnopolíticas da vigilância: perspectiva da margem. 1ª Edição. 
São Paulo: Boitempo, 2018, pp. 141-148. 
LEITE, Fábio Carvalho. Nem todo case é um hard case: reflexões sobre a resolução dos 
conflitos entre liberdade de expressão e os direitos da personalidade no Brasil. In: ABREU, 
Célia Barbosa; LEITE, Fábio Carvalho, PEIXINHO, Manoel Messias (Orgs.). Debates sobre 
Direitos Humanos Fundamentais. Vol. I. Rio de Janeiro: Editora Gramma, 2017, pgs. 
209-231. 
LEMLEY, Mark A; CASEY, Bryan. Remedies for Robots. 86 University of Chicago Law 
Review 1311, Stanford Law and Economics Olin Working Paper No. 523, 2019. Disponível 
em: https://lawreview.uchicago.edu/publication/remedies-robots. Acessado em 29.07.2020. 
MERCIER, Hugo; SPERBER, Dan. The Enigma of Reason: A new Theory of Human 
Understanding. Harvard University Press. Edição iBook. 
MITTELSTADT, Brent; ALLO, Patrick; TADDEO, Mariarosaria; WACHTER, Sandra; e 
FLORIDI, Luciano. 2016. The Ethics of Algorithms: Mapping the Debate. Big Data & 
Society. 3(2), 2016. Disponível em: https:/ / journals.sagepub.com/doi/full /
10.1177/2053951716679679. Acesso em 28.07.2020. 
20
MULHOLLAND, Caitlin. Responsabilidade Civil e Processos Decisórios Autônomos em 
Sistemas de Inteligência Artificial (IA): autonomia, imputabilidade e responsabilidade. In: 
Ana Frazão; Caitlin Mulholland. (Org.). Inteligência Artificial e Direito: Ética, Regulação e 
Responsabilidade. 1a ed. São Paulo: Thomson Reuters, 2019, v. 1, p. 293-323. 
PASQUALE, Frank. The Black Box Society: the secret algorithms that control money and 
information. Harvard University Press, 2015 
RICHARDS, Neil M.; SMART, William D.. How should we think about robots? In: CALO, 
Ryan; FROOMKIN, A. Michael; KERR, Ian (Org.). Robot Law. Northampton: Edward Elgar 
Publishing, 2016, pp. 3-24. 
RUSSELL, Stuart J.; NORVIG, Peter. Artificial Intelligence: a modern approach. 3a Edição. 
New Jersey: Pearson Education Inc., 2009. 
SCHERER, Matthew U., Regulating Artificial Intelligence Systems: Risks, Challenges, 
Competencies, and Strategies. Harvard Journal of Law & Technology, Vol. 29, No. 2, Spring 
2016. Disponível em: http://jolt.law.harvard.edu/articles/pdf/v29/29HarvJLTech353.pdf. 
Acessado em 13.09.2019. 
SELBST, Andrew D.; BAROCAS, Solon. Intuitive Appeal of Explainable Machines. 87 
Fordham L. Rev. 1085 (2018). Disponível em: https://ir.lawnet.fordham.edu/4r/vol87/iss3/11. 
Acessado em 03.01.2020 
SOUZA, Carlos Affonso de; LEMOS, Ronaldo. Marco Civil da Internet: construção e 
aplicação. Juiz de Fora: Editar Editora Associada Ltda, 2016. 
SURDEN, Harry. Machine Learning and Law. 89 Washington Law Review 87, 2014, , pp. 
87-115. Disponível em: . Acessado em 
03.01.2020. 
STONE, Peter; BROOKS Rodney; BRYNJOLFSSON Erik; CALO, Ryan; ETZIONI, Oren; 
HAGER, Greg; HIRSCHBERG,Julia; KALYANAKRISHNAN Shivaram; KAMAR, Ece; 
KRAUS, Sarit; LEYTON-BROWN, Kevin; PARKES, David; PRESS, William; SAXENIAN, 
AnnaLee; SHAH, Julie; TAMBE, Milind; TELLER, Astro. Artificial Intelligence and Life in 
2030. One Hundred Year Study on Artificial Intelligence: Report of the 2015-2016 Study 
Panel, Stanford University, Stanford, CA, 2016. Disponível em: Acessado em 15.04.2020. 
WACHTER, Sandra; MITTELSTADT, Brent; RUSSELL, Chris. Why Fairness Cannot Be 
Automated: Bridging the Gap Between EU Non-Discrimination Law and AI, no prelo. 
Disponível em: https://ssrn.com/abstract=3547922. 
21