ALGORITMOS FILOSOFICOS

Prévia do material em texto

1 
ALGORITMO FILOSÓFICO E A INCERTEZA MORAL 
 
 
Lopes Gregorio, Jefté1[1] 
Graduando em Sistemas de Informação – IFTO / Paraíso do Tocantins 
 
 
 
RESUMO 
Este estudo tem como principal objetivo, apresentar as capacidades desenvolvidas 
pela tecnologia da computação cognitiva. Trata-se de uma pesquisa de cunho 
exploratório e bibliográfico que apresenta a evolução da percepção de maquinas e 
algoritmos capazes de analisar dados, entender e interpreta-los para agir de acordo 
com a moral estabelecida pela esfera social. Para tanto, foi levantado uma série de 
artefatos para analisar e discutir a relação entre o avanço na computação cognitiva 
decorrente dos crescentes estudos de Machine Learning e Deep Learning, e a 
dificuldade pertinente em estabelecer um dilema moral. 
 
Palavras-chave: Computação cognitiva, Aprendizado de máquina, Algoritmos 
filosóficos, Moral, Machine Learning, Deep Learning. 
 
ABSTRACT 
This study has as main objective, to present the capacities developed by the 
technology of cognitive computing. It is an exploratory and bibliographic research that 
presents the history of the evolution and perception of machines and algorithms 
capable of analyzing data, understanding and interpreting them to act in accordance 
with the moral established by the social sphere. To this end, a series of artifacts was 
created to analyze and discuss the relationship between the advancement in cognitive 
computing resulting from the growing studies of Machine Learning and Deep Learning, 
and the pertinent difficulty in establishing a moral dilemma. 
 
Keywords: Cognitive computing, Machine learning, Philosophical algorithms, Moral, 
Machine Learning, Deep Learning. 
 
1 Graduando em Sistemas de Informação - IFTO - Paraíso do Tocantins / TO - paraiso@ifto.edu.br 
 2 
1. INTRODUÇÃO 
 
O avanço e a inovação da tecnologia nas últimas décadas foram e continuam 
sendo marcante para a construção da sociedade atual, caracterizada pela forte 
influência da globalização. Devido a esse avanço, originou-se várias áreas de estudos, 
novas maneiras de lidar com os diversos problemas, proporcionando uma maior 
facilidade na resolução. Logo, é possível afirmar que grande parte das áreas atuantes 
pelos seres humanos foi afetado pelo crescimento tecnológico, possibilitando avanço 
na educação, medicina, biologia, física, astronomia, comércios, industrias, nas 
próprias atividades domesticas e autônomos. 
 
Vale ressaltar que, o avanço na tecnologia contribuiu de maneira extraordinária 
para o desenvolvimento de novas maneiras de compreender e criar tecnologias como 
computação em nuvem, ciência de dados, internet das coisas (IoT), robotização, 
blockchain, business intelligence e a inteligência artificial sendo capaz de entender o 
diálogo de uma ou várias pessoas por meio do processamento natural de linguagem, 
interpretá-lo e gerar uma resposta com base no conhecimento empírico ou uma base 
de dados. No entanto, o crescimento imoderado da tecnologia proporcionou vários 
debates importantes relacionado ao futuro das máquinas inteligentes, entre eles, a 
questão da moral voltado para a aplicação em um ambiente desprovido de ações 
humanas, ou seja, nas tecnologias inteligentes decorrente dos avanços na ciência 
cognitiva. 
 
A moral é um conjunto de valores, normas e noções do que é certo ou errado, 
proibido ou permitido, dentro de uma determinada sociedade e/ou cultura. Segundo 
Émile Durkheim [2], um dos pensadores responsáveis pela origem da Sociologia no 
final do século XIX, a consciência social é fruto da coletividade, da soma e inter-
relação das várias consciências individuais. Dessa forma, as mais diferentes 
expressões culturais possuem diferentes sistemas morais para organização da vida 
em sociedade. Prova disso está nas diferenças existentes entre os aspectos da cultura 
 
2 David Émile Durkheim foi um sociólogo, antropólogo, cientista político, psicólogo social e filósofo 
francês. Formalmente, tornou a sociologia uma ciência e, com Karl Marx e Max Weber, é comumente 
citado como o principal arquiteto da ciência social moderna e pai da sociologia. Nasceu na França em 
1858 e lá viveu até sua morte, em 1917. 
 3 
ocidental e oriental. Logo, deve ter em mente que a moral, por ser fruto da consciência 
coletiva de uma determinada sociedade e/ou cultura, pode variar através da dinâmica 
dos tempos, ou seja, o que é moral hoje, pode não ser amanhã. 
 
Por muito tempo a moral social era debatido questões relacionadas a seres 
humanos, visto que, são os únicos que conhecem, classificam e exercem a moral. No 
entanto, o estudo do homem moderno, muitos pensadores já chegaram a conclusão 
de que a moral só pode se justificar, se sua origem for alguém com autoridade superior 
a todos os demais. No caso das crianças, seus pais. No caso do homem, Deus e/ou 
políticos. E no caso da máquina. Quem poderá exercer este papel? 
 
O caminho que norteia o avanço da inteligência artificial advinda da computação 
cognitiva está acarretando questões morais e sociais que devem ser discutidas e 
esclarecidas, visto que, algoritmos, tais como o do carro autônomo, pode haver 
momentos para tomadas de decisões rápidas, prevenindo ou amenizando acidentes. 
A discursão engloba exatamente como os algoritmos inteligentes vão tratar as 
tomadas de decisões. E identificar quais são os critérios que os algoritmos vão 
priorizar, e esclarecer a complexidade do conceito filosófico de moral atrelado ao 
algoritmo, denominando-o de algoritmo filosófico. 
 
Além dos carros autônomos existem outros algoritmos inteligentes como o perfil 
criado pela Microsoft em 2016, a Tay, contratação de empregos e até mesmo 
aplicações de identificação de fotos, todos eles apresentam um conjunto de regras 
morais que estão sendo colocadas e avaliadas, mas, por quem? Devido o conceito de 
moral ser abordado de forma subjetiva, a conclusão satisfatória de um resultado 
“moralmente” correto proveniente de uma decisão rápida processada por um algoritmo 
inteligente, dificilmente será alcançada. 
 
2. ALGORITMOS FILOSÓFICOS 
 
A etimologia da palavra ”Algoritmo” possui muitas divergências sobre a 
verdadeira origem, entretanto, a explicação mais aceita e difundida entre os 
estudiosos, se refere a um homem chamado Mohamed ben Musa Al-Khwarizmi, um 
 4 
matemático persa do século IX, cujas obras foram traduzidas no ocidente no século 
XII, tendo uma delas recebido o nome Algorithmi de número indorum (indiano), acerca 
dos algoritmos que trabalham sobre o sistema de numeração decimal. O seu trabalho 
mais famoso foi Al-jabr walmuquabalah, ou a ciência das Equações que, em última 
análise suscitaram o desenvolvimento da álgebra e dos algoritmos. 
 
Independentemente de sua real etimologia, a ideia principal contida na palavra 
refere-se à descrição sistemática da maneira de se realizar alguma tarefa. Ou seja, 
“Um algoritmo é constituído por um conjunto de expressões simbólicas que 
representam ações (escolher, atribuir, etc.) testes de condições (estruturas 
condicionais) e estruturas de controle (ciclos na estrutura sequencial do algoritmo) de 
modo a especificar o problema e respectiva solução.” Vasconcelos e Carvalho (2005). 
Para a Ciência da computação, o conceito de algoritmo foi formalizado em 1936 por 
Alan Turing [3] (Máquina de Turing) e Alonzo Church [4], que formaram as primeiras 
fundações da Ciência da computação. Sendo esta formalização descrita da seguinte 
forma: “Um algoritmo é um conjunto não ambíguo e ordenado de passos executáveis 
que definem um processo finito.” 
 
 O algoritmo pode variar entre uma simples receita de bolo e um complexo 
problema computacional. Por exemplo, se uma pessoa ou qualquer entidade resolver 
fazer um bolo e não saber por onde começar é necessário seguir ou criar instruções 
no qual vai auxiliar na criação do bolo e assim irá criar uma receita, ou seja, um 
algoritmo,logo o seu problema estará resolvido. Apesar do conceito de algoritmo ser 
simples, a sua criação em determinado contexto com problemas difíceis, pode torná-
lo complexo. 
 
 Com o surgimento de algoritmos complexos como os utilizados para resolver 
problemas e atividades envolvendo computação cognitiva, resultando nos carros 
 
3 Alan Mathison Turing (1912-1954) foi um matemático, lógico, criptoanalista e cientista da computação 
britânico. Foi influente no desenvolvimento da ciência da computação e na formalização do conceito de 
algoritmo e computação com a máquina de Turing, desempenhando um papel importante na criação 
do computador moderno. 
4 Alonzo Church (1903-1995) foi um matemático estadunidense. Atuou principalmente nas áreas 
de lógica matemática, teoria da recursão e teoria da computação. Entre suas maiores 
contribuições, estão o cálculo lambda, um sistema matemático formal que investiga funções, 
aplicação de funções. 
 5 
autônomos, robôs inteligentes, softwares capazes de identificar padrões, prever 
dados, entender e processar linguagens naturais. Esse aglomerado de inovações 
possibilitou o surgimento de estudos voltados para os algoritmos filosóficos, tal 
algoritmo é resultante da evolução tecnológica no campo da computação cognitiva, no 
qual é estudado a moral inserida nas tecnologias inteligentes. 
 
 Para entender melhor o termo algoritmo filosófico é preciso buscar suporte na 
filosofia para facilitar os impasses encontrados na definição e implementação desse 
algoritmo. A vista disso, é evidente que, a filosofia, a lei e a ciência cognitiva moderna 
revelam que os julgamentos da moral humana e responsabilidade, depende da 
autonomia. Isso explica por que crianças que parecem ter menos autonomia do que 
os adultos, são responsabilizados menos por atos ilícitos. 
 
 Para os pesquisadores, programadores e desenvolvedores, a autonomia em 
tecnologias inteligentes é entendida como a capacidade de trabalhar em ambientes 
dinâmicos inserido no mundo real por um longo período de tempo sem a intervenção 
de ações humanas. Entretanto, a sociedade assimila a questão da autonomia a 
capacidade mental de algo ou alguém. Existem divergências relacionado a autonomia 
das tecnologias inteligentes, onde alguns é contra a ideia de que algo que não seja 
humano é desprovido de princípios morais, logo não poderia distinguir o que é moral 
ou não sem a influência de um ator externo. 
 
 Apesar das questões morais ser discutidas, e alguns pontos de vista ser 
abordados relacionado a maneira como as pessoas veem a mente e propõe 
julgamentos morais, é importante enfatizar que a percepção não é monolítica, ou seja, 
existem muitas habilidades mentais, algumas das quais (por exemplo, a capacidade 
planejar com antecedência) são mais relevantes à autonomia e ao julgamento moral 
do que outros (por exemplo, a capacidade de sentir sede). A ciência cognitiva delineou 
essas habilidades relevantes para a autonomia no que diz respeito humanos, mas 
apenas um subconjunto deles é provavelmente importante para entender a 
moralidade em máquinas autônomas. 
 
 6 
2.1 ROBÔ DA MICROSOFT 
 
Criado pela Microsoft Corporation em 2016 a robô denominado como Tay, 
utilizava inteligência artificial, que tinha como objetivo interagir com usuários do Twitter 
e aprender a socializar a partir dessas interações, entretanto a robô foi Instigada por 
usuários no Twitter, devido aos termos impublicáveis utilizado para se referir a negros 
e mulheres, declarou suporte ao genocídio e demonstrou apoio à causa dos 
supremacistas brancos. “O Holocausto aconteceu?”, perguntou um usuário. “Ele foi 
inventado”, declarou a “inteligência artificial”, que postou um emoticon de aplauso em 
seguida. 
 
De acordo com a Microsoft, o projeto Tay foi desenvolvido para socializar com 
os usuários do Twitter através de “conversas informais e divertidas”. “Quanto mais 
você conversa com Tay, mais esperta ela fica”, assim, informou companhia. Devido 
aos resultados obtidos a Microsoft informou que o robô foi desativado para 
“manutenção e reajustes” e lamentou o “esforço coordenado de alguns para fazer o 
perfil responder de maneira inapropriada”. 
 
Apesar dos resultados obtidos ser considerado por muitos um fracasso, de 
certa forma o projeto foi um sucesso, visto que, o robô interagiu e aprendeu a partir 
das conversar com os usuários. O que incomodou as pessoas foi a incapacidade do 
algoritmo em entender o que é moralmente correto e o que não é. Acarretando em 
ofensas morais para alguns usuários. Vale ressaltar que a Moral é subjetiva, ou seja, 
o que é moral para um pode não ser para outro, ou a moral ontem é considerada 
errada hoje. 
 
2.2 CARRO AUTÔNOMO 
 
 Os algoritmos inteligentes presente na tecnologia dos carros autônomos 
possibilita a autonomia do carro no trânsito. Embora pesquisas indicam que os carros 
autônomos colidirão a taxas muito mais baixas do que os automóveis operados por 
seres humanos, os acidentes permanecerão inevitáveis e seus resultados terão 
importantes consequências éticas. É por isso que ao projetar e produzir carros 
 7 
autônomos foi necessário começar a considerar a ética dos chamados algoritmos 
de otimização de colisão, criando um algoritmo capaz de "otimizar" a falha. Em outras 
palavras, um algoritmo de otimização de colisão permite que um carro autônomo 
“escolha” a colisão que causaria a menor quantidade de dano ou dano, ou seja, a 
criação de algoritmo filosófico. 
 
 Em uma situação onde o motorista está dirigindo um carro e devido a um 
descuido ele entrou em uma situação de acidente possivelmente grave, que envolve 
sua própria vida e de outras pessoas fora do carro. O motorista vai ter a escolha de 
se ferir e possivelmente morrer sem ferir nenhuma outra pessoa fora do carro ou ferir 
e possivelmente matar as pessoas fora do carro para que ele possa sobreviver. 
Nessas situações há vários desfechos e todos os finais vai depender dos princípios 
morais que o motorista optar como correto. Entretanto, Como mencionado 
anteriormente o algoritmo do carro autônomo visa a menor taxa de fatalidade, dessa 
maneira fica a entender que o motorista, mesmo dentro de um carro com tecnologia 
inteligente avançada, corre risco de vida. Isso relutaria a compra de carros autônomos 
programados para possivelmente sacrificar seus proprietários em situações de 
acidentes para amenizar as fatalidades. 
 
 Essa questão é semelhante ao dilema do bonde, onde um bonde desgovernado 
vai atingir 5 pessoas inocentes que trabalham desprevenidas sobre a linha. Mas você, 
assistindo tudo, tem a chance de evitar a tragédia! Você pode acionar uma alavanca 
que leva o trem para outra linha, onde ele atingirá apenas uma pessoa. Esta pessoa 
virá a morrer, mas você salvará as outras cinco. Você mudaria o trajeto, salvando as 
5 e matando 1? Esse dilema surgiu na Universidade Harvard, criado pelo filósofo 
Greene. Afirma ele que 97% das pessoas salvariam os 5. Fazer isso significa agir 
conforme a corrente filosófica do utilitarismo, que define que a atitude mais correta é 
"a que resulta na maior felicidade para o máximo de pessoas". Nesse sentido seria o 
resultado do menor número de fatalidade. 
 
 Referente ao algoritmo filosófico, a montadora alemã Mercedes-Benz, uma das 
maiores empresas automobilística do mundo, deixou bem claro quais vidas serão 
prioridade em suas máquinas. Em uma entrevista para o site Car and Driver durante 
o Paris Motor Show, Christoph von Hugo, o responsável pelo sistema de direção 
 8 
assistida e de segurança ativa da companhia, abordou o problema de maneira sincera, 
declarando que a Mercedes-Benz vai proteger seus condutores sempre que possível. 
“Se você sabe que pode salvar pelo menos uma pessoa, pelo menos salve 
essa. Salve o que está no carro” disse Christoph von Hugo em entrevista durante o 
Paris Motor Show. Apesar disso, Christoph von Hugo explicouque esse tipo de 
programação só será incluído nos veículos mais avançados do segmento, que 
dispensem completamente a intervenção humana em seus trajetos – modelos de nível 
4 ou 5 de autonomia. Logo, os modelos mais simples vão agir conforme a decisão do 
motorista, visto que, ele estará na direção do veículo e não a assistência do Drive 
Pilot. Além disso, Christoph von Hugo afirma que, “é muito em breve o dilema do 
Bonde não será tão relevante como hoje, já que 99% do trabalho de engenharia 
empregado pela companhia está focado em prevenir que isso aconteça.” 
 
“Com certeza, os algoritmos filosóficos nunca serão perfeitos. Erros ainda vão 
acontecer, resultando em ferimentos, mortes e processos judiciais extremamente 
complicados. (Pela primeira vez na história, você poderá processar um filósofo pelos 
infelizes resultados de suas teorias, porque pela primeira vez na história você poderá 
provar que há uma ligação causal direta entre ideias filosóficas e eventos da vida real.) 
Contudo, para poder assumir o papel de motoristas humanos, os algoritmos terão de 
ser perfeitos. Terão de ser melhores que os humanos. Considerando que motoristas 
humanos matam mais de 1 milhão de pessoas todo ano, não será tão difícil assim. 
Tudo isso dito e feito, você ia preferir que o carro atrás do seu estivesse sendo dirigido 
por um adolescente bêbado ou pela equipe Schumacher-Kant[5]?” - Yuval Noah Harari, 
21 lições para o século 21, 2018. 
 
3 CONSIDERAÇÕES FINAIS 
 
 
5 Kristofer D. Kusano e Hampton C. Gabler, “Safety Benefits of Forward Collision Warning, Brake Assist, 
and Autonomous Braking Systems in Rear-End Collisions” (ieee Transactions on Intelligent 
Transportation Systems, v. 13, n. 4, pp. 1546-55, 2012). James M. Anderson et al., Autonomous Vehicle 
Technology: A Guide for Policymakers (Santa Monica: RAND Corporation, 2014, esp. pp. 13-5). Daniel 
J. Fagnant e Kara Kockelman, “Preparing a Nation for Autonomous Vehicles: Opportunities, Barriers 
and Policy Recommendations” (Transportation Research Part A: Policy and Practice, v. 77, pp. 167-81, 
2015). 
 9 
Como mencionado durante o artigo, a questão da moral é subjetiva, visto que, 
a mesma é formada e adaptada por meio do convívio em uma determinada sociedade 
e/ou cultura, ou até mesmo princípios seguidos por apenas um indivíduo. Além disso, 
princípios morais reconhecidos como “certos”, podem ser temporários, e 
posteriormente visto como atos imorais. Assim como a cadeira elétrica ou o 
enforcamento de prisioneiros, era visto como normas ou leis a serem seguidas, as 
mesmas passaram a ser proibidas devidos a brutalidade e a falta de humanidade, 
sendo reconhecido como um ato imoral, por certas religiões, culturas e/ou sociedades. 
Assim também, existe diversos princípios morais, e algumas parcelas deles variam 
conforme o grupo social no qual convive. Havendo mudanças de costumes, leis e 
normas. 
 
Devido a essa complexibilidade, a criação de um algoritmo filosófico, capaz de 
executar uma decisão baseado em seus princípios morais é um verdadeiro desafio, 
devido ao complexo ambiente em que se está inserido, onde variáveis importantes 
para compreensão do algoritmo está em constante mudanças, “onde, hora é certo, 
mas pode torna-se errado, ou aqui é errado e lá é certo.” Em um cenário onde um 
aplicativo de identificação de imagens de pessoas é colocado em teste para identificar 
alguém como Adolf Hitler, ao retorna uma resposta para o usuário é necessário medir 
respostas de saída do algoritmo, visto que, não se sabe se o usuário possui os 
mesmos princípios morais que o resultado do algoritmo vai disponibilizar. 
 
Somando se a isso é evidente que o exemplo da robô Tey que foi inserido nas 
redes socias para aprender a interagir com os usuários, estava em um ambiente 
repleto de pessoas no qual poderia haver distinções de princípios morais, devido a 
complexibilidade da situação, a tecnologia inteligente não soube distinguir o moral do 
imoral, ofendendo uma parcela da sociedade que considerava seus atos imorais. 
Entretanto como abordado anteriormente, o resultado obtido foi decorrente das 
interações complexas onde há diversas opiniões e visões do que é certo e errado, 
além disso houve pessoas que influenciaram a tecnologia “negativamente” para que 
ela se comporte de maneira errada a vista de outras pessoas, mas como os princípios 
morais são diversos, classificar o que é errado ou não se torna complexo, 
principalmente algo que está em fase de aprendizagem. 
 
 10 
Dessa forma os algoritmos filosóficos aplicados nos carros autônomos para 
permitir que o carro decida o melhor cenário possível, evitando o menor número de 
fatalidade e protegendo o motorista do carro, também enfrenta os mesmos problemas 
abordado acima, no qual, ainda é considerado um tabu na sociedade e para isso 
empresas pioneiras estão trabalhando para evitar esse cenário, entretanto a 
existência de seres humanos convivendo juntamente com tecnologias inteligentes 
favorece para a probabilidade da tecnologia se encontrar em momentos que precisam 
de decisões importantes, envolvendo acidentes. 
 
4 REFERÊNCIAS BIBLIOGRÁFICAS 
 
Bigman, Yochanan & Waytz, Adam & Alterovitz, Ron & Gray, Kurt. (2019). Holding 
Robots Responsible: The Elements of Machine Morality. Trends in Cognitive 
Sciences. 10.1016/j.tics.2019.02.008. 
Harrari, Y. N. (2018) 21 Lições para o século XXI, p.63, Lisboa: Elsinore. 
Braga de Vasconcelos, José & Carvalho, João. (2005). Algoritmia e Estruturas de 
Dados: Programação nas Linguagens C e Java. 
Filho G. F. Sousa, Alexandre E.S. Medeiros, (2014), Introdução a Computação, p.59 
Filosofia e Algoritmos: o dilema moral dos carros autônomos. Disponível em: 
<https://www.ab2l.org.br/filosofia-e-algoritmos-o-dilema-moral-dos-carros-
autonomos/>. Acesso em: 08 mar. 2020. 
https://www.ab2l.org.br/filosofia-e-algoritmos-o-dilema-moral-dos-carros-autonomos/
https://www.ab2l.org.br/filosofia-e-algoritmos-o-dilema-moral-dos-carros-autonomos/