Inteligência artificial e o Poder Judiciário

Prévia do material em texto

Inteligência artificial e o Poder Judiciário
Apresentação
A inteligência artificial já foi tema de filmes e livros de ficção. Sempre como previsão para um futuro distante, hoje é a realidade em que a atual sociedade está inserida. Essa tecnologia começou a ser estudada e desenvolvida há pouco menos de um século, porém teve um crescimento elevado nas últimas décadas. Na área do Direito, em especial, os estudos vêm se aprofundando cada vez mais, devido à crescente demanda.
A programação, a robótica, a psicologia, as neurociências e várias outras áreas do conhecimento contribuíram de maneira a impulsionar as aplicações da inteligência artificial, hoje sendo indispensável para o ser humano. Os algoritmos são capazes de transformar um conjunto de dados em respostas ordenadas e lógicas. Essas mudanças, tão rápidas e inovadoras, atuam de forma direta na sociedade, cabendo ao Direito atuar para receber essas transformações.
Nesta Unidade de Aprendizagem, você vai aprender sobre inteligência artificial, discriminação algorítmica e sobre o uso de inteligência artificial nos tribunais brasileiros. ​​​​​​​
Bons estudos.
Ao final desta Unidade de Aprendizagem, você deve apresentar os seguintes aprendizados:
· Explicar o que é inteligência artificial.
· ​​​​​​​Definir discriminação algorítmica.
· ​​​​​​​ Descrever o uso da inteligência artificial pelos mais diversos tribunais brasileiros.
Desafio
O uso de dispositivos, como o celular, por exemplo, se presta também a coletar e armazenar informações sobre os hábitos dos usuários. Serviços de localização, de streaming, de busca, de entrega de alimentos, assistentes virtuais, agenda, armazenamento em nuvem e redes sociais são ferramentas utilizadas para coletar dados dos usuários, monitorar hábitos e traçar perfis. Essas informações podem ser usadas para diversas finalidades, não sendo raro que sejam fornecidas sem a devida informação e consentimento do usuário. O artigo 5º, inciso I, da Lei Geral de Proteção de Dados (Lei nº 13.709/2018), define por dado pessoal a “informação relacionada a pessoa natural identificada ou identificável”. Nessa definição, são importantes três elementos: a noção de dado, sua titularidade por pessoa natural e a natureza do vínculo entre o dado e uma pessoa.
Parisier (2012) refere que grande parte das pessoas têm a ideia de que, quando buscam por um termo na internet, recebem os mesmos resultados dos outros usuários que procuraram o mesmo termo. Isso não é o que de fato ocorre. As pessoas recebem o resultado que um filtro personalizado sugere ser melhor para cada uma, de modo mais específico. O autor ainda traz a informação de que, no ano de 2003, os grupos que publicavam artigos e vídeos on-line recebiam a maior parte do dinheiro gasto pelos anunciantes em seus sites. Já no ano de 2010, receberam apenas 20%. A diferença foi percebida pelos detentores dos dados, o que leva à conclusão de que esses dados são ativos importantes, pois as informações obtidas direcionam vários posicionamentos de empresas frente aos seus usuários.
Com os dados coletados, os algoritmos buscam combinações e, em tempos de big data, não faltam dados a serem processados. Essa técnica de categorizar perfis é conhecida como profiling. A Lei Geral de Proteção de Dados, em seu artigo 20, diz que é direito do titular de dados “solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade”. Sem dúvida, tais informações são passíveis de gerar tipos de discriminação algorítmica.
Portanto, diante do que foi exposto, analise o seguinte caso.
Como advogado, com base na legislação, você deve orientar seu cliente sobre os seguintes questionamentos:
a) Seu cliente gostaria de saber como o clube chegou até ele e conseguiu seus dados. Há alguma atitude que pode ser adotada com relação a isso? 
b) Se o fornecimento dos dados do seu cliente foi feito sem o seu consentimento, é possível alguma medida legal?
Padrão de resposta esperado
a) É possível interpelar o clube de golfe sobre os dados pessoais do cliente, requisitando informações como: quais os dados possuem, como foram fornecidos, por quem foram fornecidos. A Lei Geral de Proteção de Dados pessoais assegura este direito aos titulares. O clube de golfe é obrigado a fornecer as informações sobre a coleta, o tratamento e o armazenamento dos dados pessoais do cliente. É possível, ainda, solicitar tais informações sobre o tratamento de dados e os algoritmos aos sites e serviços digitais que o usuário acessou para verificar as permissões que lhe foram dadas e se houve ou não alguma prática ilegal de transmissão de dados sem a ciência e sem o consentimento do titular.
b) Quando for verificado que os dados pessoais foram utilizados de maneira diversa do consentido pelo titular ou sem o consentimento e ciência da finalidade, é possível adotar algumas providências. A primeira delas é solicitar a exclusão de qualquer informação ou cadastro das bases de dados de quem coletou a informação. A outra é judicialmente exigir indenização por violação da privacidade, pois, nos termos do artigo 42 da Lei Geral de Proteção de Dados, "o controlador ou o operador que, em razão do exercício de atividade de tratamento de dados pessoais, causar a outrem dano patrimonial, moral, individual ou coletivo, em violação à legislação de proteção de dados pessoais, é obrigado a repará-lo”.
Infográfico
No intuito de dar maior celeridade ao andamento dos processos, que chegam ao Supremo Tribunal Federal (STF), foi desenvolvido um projeto de inteligência artificial chamado Victor, uma homenagem ao ministro Victor Leal Nunes que, entre os anos de 1960 e 1969, sistematizou o sistema de jurisprudências da corte em súmulas. Essa é uma das atribuições da tecnologia do Victor, além de analisar os pressupostos de admissibilidade.
Neste Infográfico, você conhecerá o Projeto Victor, que possibilita o uso da inteligência artificial pelos mais diversos tribunais. 
Conteúdo do Livro
O uso de tecnologia é, atualmente, indispensável para a vida em sociedade. Em qualquer aplicativo ou serviço, há coleta de dados que são utilizados para as mais diversas finalidades. A inteligência artificial é a responsável por dar aos dados a finalidade a que eles se destinam.
Com o uso de algoritmos, a inteligência artificial é capaz de se especializar e aprender. As máquinas estão conhecendo as preferências humanas, sendo uma presença constante para otimizar o tempo e facilitar escolhas. Isso não quer dizer que não existam problemas ou que essa tecnologia não cometa falhas, pois ainda há muito o que aperfeiçoar. O que se tem de certeza é que a presença da inteligência artificial causa impactos na vida e nos hábitos dos seres humanos. No Poder Judiciário, essa tecnologia, além de tema de algumas demandas judiciais, tem sido presente como uma alternativa possível nos procedimentos próprios dos tribunais. 
No capítulo Inteligência artificial e o Poder Judiciário, base teórica desta Unidade de Aprendizagem, você vai aprender o que é a inteligência artificial, como atua o algoritmo e como ele pode agir de maneira discriminatória, além de entender as aplicações possíveis dessa tecnologia nos tribunais brasileiros. 
Boa leitura.
Livro: DIREITO DIGITAL
Dica do Professor
Os algoritmos utilizados pela inteligência artificial são programados por seres humanos. As informações contidas neles e a maneira como devolvem os inputs podem conter vieses que resultam em discriminação algorítmica. Nem sempre é algo intencional, porém a máquina se comporta de maneira que gera uma resposta discriminatória.
Na Dica do Professor, você verá como os algoritmos são utilizados na coleta de dados e entenderá a discriminação algorítmica.
Exercícios
Respostas enviadas em: 13/04/2024 18:08
1. 
Kurt Cobain, do Nirvana, Amy Winehouse, Jimi Hendrix e Jim Morrison, do The Doors, morreram todos aos 27 anos de idade.A partir disso, surgiu um projeto chamado “As fitas do clube dos 27”. Esse projeto usa inteligência artificial para analisar canções, melodias e termos usados nas faixas dos artistas enquanto eram vivos. Depois, a tecnologia cria uma música inédita que poderia ter sido criada pelo artista. No caso do Nirvana, surgiu a faixa chamada Drowned in the sun.
Sobre a inteligência artificial, assinale a alternativa correta.
Você não acertou!
A. 
A inteligência artificial ainda não possui regramento especial no que se refere aos direitos autorais de criação, logo o projeto poderá apenas ser uma experiência. 
A inteligência artificial ainda não possui legislação específica que a regule em todas as áreas do Direito. Mesmo assim, já pode ser desenvolvida e seus projetos, comercializados, desde que atendam à legislação vigente e aplicável. Não é necessário, para tanto, recorrer às regras de Direito Internacional, exclusivamente. Uma máquina com inteligência artificial é capaz de atividade puramente criativa conforme os dados que lhe são fornecidos, seus algoritmos e o treinamento para que produza o resultado esperado. Em matéria de direitos autorais, a proteção dessa atividade criativa se dará de modo sui generis, ou seja, aplicando a legislação vigente adequando ao caso concreto.
Resposta incorreta.
B. 
A legislação brasileira ainda não conseguiu prever todas as aplicações e usos de inteligência artificial, por isso é possível aplicar, exclusivamente, regras de Direito Internacional.
A inteligência artificial ainda não possui legislação específica que a regule em todas as áreas do Direito. Mesmo assim, já pode ser desenvolvida e seus projetos, comercializados, desde que atendam à legislação vigente e aplicável. Não é necessário, para tanto, recorrer às regras de Direito Internacional, exclusivamente. Uma máquina com inteligência artificial é capaz de atividade puramente criativa conforme os dados que lhe são fornecidos, seus algoritmos e o treinamento para que produza o resultado esperado. Em matéria de direitos autorais, a proteção dessa atividade criativa se dará de modo sui generis, ou seja, aplicando a legislação vigente adequando ao caso concreto.
Resposta correta.
C. 
Ainda que não exista um regramento em matéria de direitos autorais para obras criadas pela inteligência artificial, a interpretação da lei existente poderá ser aplicada sui generis. 
A inteligência artificial ainda não possui legislação específica que a regule em todas as áreas do Direito. Mesmo assim, já pode ser desenvolvida e seus projetos, comercializados, desde que atendam à legislação vigente e aplicável. Não é necessário, para tanto, recorrer às regras de Direito Internacional, exclusivamente. Uma máquina com inteligência artificial é capaz de atividade puramente criativa conforme os dados que lhe são fornecidos, seus algoritmos e o treinamento para que produza o resultado esperado. Em matéria de direitos autorais, a proteção dessa atividade criativa se dará de modo sui generis, ou seja, aplicando a legislação vigente adequando ao caso concreto.
Resposta incorreta.
D. 
O ato criativo por uma máquina com inteligência artificial é independente do fornecimento de dados e do treinamento para que tenha o resultado esperado.
A inteligência artificial ainda não possui legislação específica que a regule em todas as áreas do Direito. Mesmo assim, já pode ser desenvolvida e seus projetos, comercializados, desde que atendam à legislação vigente e aplicável. Não é necessário, para tanto, recorrer às regras de Direito Internacional, exclusivamente. Uma máquina com inteligência artificial é capaz de atividade puramente criativa conforme os dados que lhe são fornecidos, seus algoritmos e o treinamento para que produza o resultado esperado. Em matéria de direitos autorais, a proteção dessa atividade criativa se dará de modo sui generis, ou seja, aplicando a legislação vigente adequando ao caso concreto.
Resposta incorreta.
E. 
O aprendizado da máquina, conhecido como machine learning, é pouco utilizado na sociedade, por isso não há muitas leis específicas com essa previsão. 
A inteligência artificial ainda não possui legislação específica que a regule em todas as áreas do Direito. Mesmo assim, já pode ser desenvolvida e seus projetos, comercializados, desde que atendam à legislação vigente e aplicável. Não é necessário, para tanto, recorrer às regras de Direito Internacional, exclusivamente. Uma máquina com inteligência artificial é capaz de atividade puramente criativa conforme os dados que lhe são fornecidos, seus algoritmos e o treinamento para que produza o resultado esperado. Em matéria de direitos autorais, a proteção dessa atividade criativa se dará de modo sui generis, ou seja, aplicando a legislação vigente adequando ao caso concreto.
2. 
A utilização em massa dos dados que abastecem os algoritmos os torna capazes de tomar decisões que proporcionam avanços, ao mesmo tempo em que podem discriminar e causar danos em situações concretas que demandam a atenção do Direito. Esses modelos e processos tornam a atuação da máquina cada vez maior, crescendo não só em quantidade de aplicações, mas também em qualidade. 
Diante disso, considere as seguintes afirmações. 
I – Desde a sua criação, o algoritmo é ensinado a tomar decisões sobre a sua finalidade. Todas as máquinas com inteligência artificial passam por essas etapas: identificam o comando, estudam o cenário a que estão inseridas e tomam as decisões para resolver os problemas baseados em fatos, registros e dados. Os algoritmos são treinados para simular o raciocínio humano.
Portanto:
II – O aprimoramento dos sistemas passa pelo trabalho de treinamento dos algoritmos, diversas vezes, na resolução de problemas. O grande risco que se corre com a adoção da inteligência artificial para a realização e julgamentos, é a forma com que esses algoritmos serão programados, podendo resultar em alguma decisão com prejuízos.
Sobre as afirmações I e II, assinale a alternativa correta.
Você acertou!
A. 
As duas afirmações são verdadeiras e a segunda é conclusão da primeira. 
As duas afirmações são verdadeiras e a segunda conclui a primeira, pois, por mais que o algoritmo seja treinado, ele é programado por seres humanos, podendo ter falhas em seu julgamento. Esse risco existe e, muitas vezes, é o que gera a discriminação algorítmica. 
Resposta incorreta.
B. 
A primeira afirmação é verdadeira e a segunda é falsa. 
As duas afirmações são verdadeiras e a segunda conclui a primeira, pois, por mais que o algoritmo seja treinado, ele é programado por seres humanos, podendo ter falhas em seu julgamento. Esse risco existe e, muitas vezes, é o que gera a discriminação algorítmica. 
Resposta incorreta.
C. 
As duas afirmações são falsas. 
As duas afirmações são verdadeiras e a segunda conclui a primeira, pois, por mais que o algoritmo seja treinado, ele é programado por seres humanos, podendo ter falhas em seu julgamento. Esse risco existe e, muitas vezes, é o que gera a discriminação algorítmica. 
Resposta incorreta.
D. 
As duas afirmações são verdadeiras, mas não há relação de causalidade entre elas. 
As duas afirmações são verdadeiras e a segunda conclui a primeira, pois, por mais que o algoritmo seja treinado, ele é programado por seres humanos, podendo ter falhas em seu julgamento. Esse risco existe e, muitas vezes, é o que gera a discriminação algorítmica. 
Resposta incorreta.
E. 
A primeira afirmação é verdadeira e a segunda é falsa porque não existe risco na programação do algoritmo para decisões judiciais. 
As duas afirmações são verdadeiras e a segunda conclui a primeira, pois, por mais que o algoritmo seja treinado, ele é programado por seres humanos, podendo ter falhas em seu julgamento. Esse risco existe e, muitas vezes, é o que gera a discriminação algorítmica. 
3. 
“A imagem de um juiz robô, ou uma máquina de decidir, continua sendo mais uma utopia na ideia de substituir o governo das pessoas pelo governo das máquinas. Considerando-se que ainda hoje só existem sistemas baseados em inteligências artificiaisfracas, é possível perceber que a evolução da informática não foi capaz de alcançar uma representação adequada de toda a complexidade ínsita ao Direito e ao processo de decisão judicial. Por mais completo e complexo que seja um sistema jurídico inteligente, uma máquina não pode substituir a capacidade de apreciação e valoração humana, tampouco pode motivar uma sentença, como deve fazer um juiz.” (OLIVEIRA; COSTA, 2018, p. 36). 
Analise as seguintes afirmativas.
I – A inteligência artificial pode servir como uma ferramenta de auxílio para a tomada de decisões jurídicas, justificando as decisões, mas não como substituta à atividade humana.
II – A inteligência artificial pode integrar todos os elementos essenciais a uma decisão judicial, sem qualquer impeditivo legal.
III – O resultado obtido por um sistema jurídico inteligente de uma máquina será mais justo e equitativo do que aquele feito por um ser humano.
IV – Julgar, em um processo, principalmente por envolver processo de valoração, é uma atividade única e exclusivamente humana, atribuída à pessoa do juiz.
V – Os algoritmos atuam de forma mecânica, eficiente e correta, por isso têm credibilidade no sistema judicial, sendo assim, são à prova de falhas.
A respeito dessas afirmativas, assinale a alternativa que apresenta as apenas as corretas.
Você não acertou!
A. 
Apenas I e V estão corretas. 
A afirmativa I está correta, pois, ainda que a inteligência artificial seja eficiente e possa ser usada como ferramenta auxiliar do ser humano, não pode substituí-lo nas decisões que precisam de justificativas. A afirmativa II está incorreta porque há princípios constitucionais e regramentos processuais que exigem o julgamento vinculado à pessoa do juiz, por isso a inteligência artificial não pode integrar todos os elementos essenciais a uma decisão judicial. A afirmativa III está incorreta porque não é possível afirmar que resultado obtido por um entendimento de uma máquina será mais justo e equitativo do que aquele feito por um ser humano, pois isso depende do algoritmo e de sua programação. A máquina emite um resultado de acordo com uma programação, podendo haver falha. A afirmativa IV está correta, pois a previsão legal é que o julgamento está vinculado ao convencimento do juiz. A afirmativa V está incorreta porque os algoritmos são programações que podem conter vieses, por isso também podem falhar. 
Resposta incorreta.
B. 
Apenas I, II e IV estão corretas. 
A afirmativa I está correta, pois, ainda que a inteligência artificial seja eficiente e possa ser usada como ferramenta auxiliar do ser humano, não pode substituí-lo nas decisões que precisam de justificativas. A afirmativa II está incorreta porque há princípios constitucionais e regramentos processuais que exigem o julgamento vinculado à pessoa do juiz, por isso a inteligência artificial não pode integrar todos os elementos essenciais a uma decisão judicial. A afirmativa III está incorreta porque não é possível afirmar que resultado obtido por um entendimento de uma máquina será mais justo e equitativo do que aquele feito por um ser humano, pois isso depende do algoritmo e de sua programação. A máquina emite um resultado de acordo com uma programação, podendo haver falha. A afirmativa IV está correta, pois a previsão legal é que o julgamento está vinculado ao convencimento do juiz. A afirmativa V está incorreta porque os algoritmos são programações que podem conter vieses, por isso também podem falhar. 
Resposta correta.
C. 
Apenas I e IV estão corretas.
A afirmativa I está correta, pois, ainda que a inteligência artificial seja eficiente e possa ser usada como ferramenta auxiliar do ser humano, não pode substituí-lo nas decisões que precisam de justificativas. A afirmativa II está incorreta porque há princípios constitucionais e regramentos processuais que exigem o julgamento vinculado à pessoa do juiz, por isso a inteligência artificial não pode integrar todos os elementos essenciais a uma decisão judicial. A afirmativa III está incorreta porque não é possível afirmar que resultado obtido por um entendimento de uma máquina será mais justo e equitativo do que aquele feito por um ser humano, pois isso depende do algoritmo e de sua programação. A máquina emite um resultado de acordo com uma programação, podendo haver falha. A afirmativa IV está correta, pois a previsão legal é que o julgamento está vinculado ao convencimento do juiz. A afirmativa V está incorreta porque os algoritmos são programações que podem conter vieses, por isso também podem falhar. 
Resposta incorreta.
D. 
Apenas II, III e IV estão corretas. 
A afirmativa I está correta, pois, ainda que a inteligência artificial seja eficiente e possa ser usada como ferramenta auxiliar do ser humano, não pode substituí-lo nas decisões que precisam de justificativas. A afirmativa II está incorreta porque há princípios constitucionais e regramentos processuais que exigem o julgamento vinculado à pessoa do juiz, por isso a inteligência artificial não pode integrar todos os elementos essenciais a uma decisão judicial. A afirmativa III está incorreta porque não é possível afirmar que resultado obtido por um entendimento de uma máquina será mais justo e equitativo do que aquele feito por um ser humano, pois isso depende do algoritmo e de sua programação. A máquina emite um resultado de acordo com uma programação, podendo haver falha. A afirmativa IV está correta, pois a previsão legal é que o julgamento está vinculado ao convencimento do juiz. A afirmativa V está incorreta porque os algoritmos são programações que podem conter vieses, por isso também podem falhar. 
Resposta incorreta.
E. 
Apenas III, IV e V estão corretas. 
AlA afirmativa I está correta, pois, ainda que a inteligência artificial seja eficiente e possa ser usada como ferramenta auxiliar do ser humano, não pode substituí-lo nas decisões que precisam de justificativas. A afirmativa II está incorreta porque há princípios constitucionais e regramentos processuais que exigem o julgamento vinculado à pessoa do juiz, por isso a inteligência artificial não pode integrar todos os elementos essenciais a uma decisão judicial. A afirmativa III está incorreta porque não é possível afirmar que resultado obtido por um entendimento de uma máquina será mais justo e equitativo do que aquele feito por um ser humano, pois isso depende do algoritmo e de sua programação. A máquina emite um resultado de acordo com uma programação, podendo haver falha. A afirmativa IV está correta, pois a previsão legal é que o julgamento está vinculado ao convencimento do juiz. A afirmativa V está incorreta porque os algoritmos são programações que podem conter vieses, por isso também podem falhar. 
4. 
As tecnologias que compõem o que se chama de big data e o aprendizado das máquinas de inteligência artificial, chamado de _______________, passam a ser utilizadas em um amplo grau de complexidade. Isso faz com que os __________ estejam em constante reanálise de padrões de interesses com base em um banco de dados previamente estabelecido pelo programador. Entretanto, os padrões algorítmicos podem se revelar ________________ e capazes de produzir uma nova espécie de dano, causado pelo que se pode nominar ______________. Isso ocorre quando determinado conteúdo é valorado negativamente ou excluído do output correspondente ao que o artifício compreende como relevante.
Assinale a alternativa que preenche corretamente as lacunas.
Você acertou!
A. 
Machine learning; algoritmos; enviesado; discriminação algorítmica.
As tecnologias que compõem o que se chama de big data e o aprendizado das máquinas de inteligência artificial, chamado de machine learning, passam a ser utilizadas em um amplo grau de complexidade. Isso faz com que os algoritmos estejam em constante reanálise de padrões de interesses com base em um banco de dados, previamente estabelecido pelo programador. Entretanto, os padrões algorítmicos podem se revelar enviesados e capazes de produzir uma nova espécie de dano, causado pelo que se pode nominar discriminação algorítmica.Isso ocorre quando determinado conteúdo é valorado negativamente ou excluído do output correspondente ao que o artifício compreende como relevante. Isso porque a aprendizagem da inteligência artificial é a machine learning, os algoritmos podem sempre ser modificados de acordo com o banco de dados e consoante com o que o programador determina. Quando há vieses na programação, é possível haver danos relacionados a ele, que é o que ocorre nos casos de discriminação algorítmica. 
Resposta incorreta.
B. 
Machine learning; robôs; falso; discriminação algorítmica.
As tecnologias que compõem o que se chama de big data e o aprendizado das máquinas de inteligência artificial, chamado de machine learning, passam a ser utilizadas em um amplo grau de complexidade. Isso faz com que os algoritmos estejam em constante reanálise de padrões de interesses com base em um banco de dados, previamente estabelecido pelo programador. Entretanto, os padrões algorítmicos podem se revelar enviesados e capazes de produzir uma nova espécie de dano, causado pelo que se pode nominar discriminação algorítmica. Isso ocorre quando determinado conteúdo é valorado negativamente ou excluído do output correspondente ao que o artifício compreende como relevante. Isso porque a aprendizagem da inteligência artificial é a machine learning, os algoritmos podem sempre ser modificados de acordo com o banco de dados e consoante com o que o programador determina. Quando há vieses na programação, é possível haver danos relacionados a ele, que é o que ocorre nos casos de discriminação algorítmica. 
Resposta incorreta.
C. 
Algoritmos; algoritmos; enviesado; dano moral.
As tecnologias que compõem o que se chama de big data e o aprendizado das máquinas de inteligência artificial, chamado de machine learning, passam a ser utilizadas em um amplo grau de complexidade. Isso faz com que os algoritmos estejam em constante reanálise de padrões de interesses com base em um banco de dados, previamente estabelecido pelo programador. Entretanto, os padrões algorítmicos podem se revelar enviesados e capazes de produzir uma nova espécie de dano, causado pelo que se pode nominar discriminação algorítmica. Isso ocorre quando determinado conteúdo é valorado negativamente ou excluído do output correspondente ao que o artifício compreende como relevante. Isso porque a aprendizagem da inteligência artificial é a machine learning, os algoritmos podem sempre ser modificados de acordo com o banco de dados e consoante com o que o programador determina. Quando há vieses na programação, é possível haver danos relacionados a ele, que é o que ocorre nos casos de discriminação algorítmica. 
Resposta incorreta.
D. 
Base de dados; vieses; dados falsos; dano moral.
As tecnologias que compõem o que se chama de big data e o aprendizado das máquinas de inteligência artificial, chamado de machine learning, passam a ser utilizadas em um amplo grau de complexidade. Isso faz com que os algoritmos estejam em constante reanálise de padrões de interesses com base em um banco de dados, previamente estabelecido pelo programador. Entretanto, os padrões algorítmicos podem se revelar enviesados e capazes de produzir uma nova espécie de dano, causado pelo que se pode nominar discriminação algorítmica. Isso ocorre quando determinado conteúdo é valorado negativamente ou excluído do output correspondente ao que o artifício compreende como relevante. Isso porque a aprendizagem da inteligência artificial é a machine learning, os algoritmos podem sempre ser modificados de acordo com o banco de dados e consoante com o que o programador determina. Quando há vieses na programação, é possível haver danos relacionados a ele, que é o que ocorre nos casos de discriminação algorítmica. 
Resposta incorreta.
E. 
Machine learning; vieses; enviesado; discriminação algorítmica.
As tecnologias que compõem o que se chama de big data e o aprendizado das máquinas de inteligência artificial, chamado de machine learning, passam a ser utilizadas em um amplo grau de complexidade. Isso faz com que os algoritmos estejam em constante reanálise de padrões de interesses com base em um banco de dados, previamente estabelecido pelo programador. Entretanto, os padrões algorítmicos podem se revelar enviesados e capazes de produzir uma nova espécie de dano, causado pelo que se pode nominar discriminação algorítmica. Isso ocorre quando determinado conteúdo é valorado negativamente ou excluído do output correspondente ao que o artifício compreende como relevante. Isso porque a aprendizagem da inteligência artificial é a machine learning, os algoritmos podem sempre ser modificados de acordo com o banco de dados e consoante com o que o programador determina. Quando há vieses na programação, é possível haver danos relacionados a ele, que é o que ocorre nos casos de discriminação algorítmica. 
5. 
Para o princípio da não discriminação, o tratamento deve ser igual a todas as pessoas e situações iguais. Significa que existe uma norma que estabelece a igualdade nas mais variadas áreas, inclusive no tratamento, direito à justiça, direito de objeção de consciência e liberdade. Ele se baseia no fundamento que a igualdade é uma consequência lógica da dignidade de ser humano e que, ocorrendo o contrário, haveria discriminação.
Sendo assim, leia as seguintes afirmações. 
I – A Lei Geral de Proteção de Dados retoma o princípio da não discriminação (art. 6º, IX) para o tratamento de dados pessoais, assim dispondo: Art. 6º, IX - não discriminação: impossibilidade de realização do tratamento para fins discriminatórios ilícitos ou abusivos.
Por isso:
II – É preciso que os algoritmos e a sua programação sejam passíveis de auditoria, pois nem sempre são programados com a intenção de causar algum tipo de discriminação.
Sobre essas afirmações, assinale alternativa correta.
Você não acertou!
A. 
A afirmação I é falsa e a II é verdadeira. 
Ambas as afirmações são verdadeiras. Por causa do princípio da não discriminação e de toda a segurança necessária ao tratamento de dados pessoais, a Lei Geral de Proteção de Dados Pessoais também prevê a possibilidade de auditar o algoritmo que pode causar dado por meio da discriminação. 
Resposta incorreta.
B. 
Ambas as afirmações são verdadeiras, mas a segunda não tem relação com a primeira.
Ambas as afirmações são verdadeiras. Por causa do princípio da não discriminação e de toda a segurança necessária ao tratamento de dados pessoais, a Lei Geral de Proteção de Dados Pessoais também prevê a possibilidade de auditar o algoritmo que pode causar dado por meio da discriminação. 
Resposta incorreta.
C. 
Ambas as afirmações são falsas, mas se justificam. 
Ambas as afirmações são verdadeiras. Por causa do princípio da não discriminação e de toda a segurança necessária ao tratamento de dados pessoais, a Lei Geral de Proteção de Dados Pessoais também prevê a possibilidade de auditar o algoritmo que pode causar dado por meio da discriminação. 
Resposta correta.
D. 
Afirmação I é verdadeira e dá causa à afirmação II, que também é verdadeira. 
Ambas as afirmações são verdadeiras. Por causa do princípio da não discriminação e de toda a segurança necessária ao tratamento de dados pessoais, a Lei Geral de Proteção de Dados Pessoais também prevê a possibilidade de auditar o algoritmo que pode causar dado por meio da discriminação. 
Resposta incorreta.
E. 
As duas afirmações são falsas e não têm relação. 
Ambas as afirmações são verdadeiras. Por causa do princípio da não discriminação e de toda a segurança necessária ao tratamento de dados pessoais, a Lei Geral de Proteção de Dados Pessoais também prevê a possibilidade de auditar o algoritmo que pode causar dado por meio da discriminação. 
Na prática
A inteligência artificial vem sendo utilizada para diversas finalidades. No mercado do marketing digital, serve de ferramenta para chegar até o consumidor. Mesmo estando tão difundida, deve-se sempre observar as regras jurídicas vigentes. 
Veja, Na Prática, um caso de uso da inteligência artificial no marketing digital.
Saiba maisPara ampliar o seu conhecimento a respeito desse assunto, veja abaixo as sugestões do professor:​​​​​​​
Pesquisa revela que 47 tribunais já investem em inteligência artificial
No site do Conselho Nacional de Justiça, você tem acesso ao relatório sobre o uso de inteligência artificial nos tribunais do Brasil. Protagonista na solução de conflitos, o Poder Judiciário tem investido no desenvolvimento de ferramentas de inteligência artificial. Confira.
https://www.cnj.jus.br/pesquisa-revela-que-47-tribunais-ja-investem-em-inteligencia-artificial/
Como eu luto contra o preconceito em algoritmos (em inglês)
Neste vídeo, a psicóloga Joy Buoloamwini fala sobre como enfrenta a discriminação algorítmica e como o preconceito algoritmo, enquanto preconceito humano, resulta em injustiça. Não se esqueça de ativar a legenda.
https://www.youtube.com/embed/FOD4vIHeo4s
A criatividade como fronteira entre humano e inteligência artificial
Neste vídeo, Roberto Vilhena, especialista em criatividade, abre a discussão sobre humanos, máquinas e o que os separam. A criatividade é apresentada como uma das fronteiras entre a inteligência humana e a artificial.
https://www.youtube.com/embed/snmgCRlWkcw
Discriminação algorítmica: conceito, fundamento legal e tipologia
Este artigo analisa o debate teórico sobre discriminação algorítmica, buscando esclarecer porque tais conceitos são relevantes na economia movida a dados. É uma referência no tema. Download modulo 5
image4.jpeg
image1.jpeg
image2.jpeg
image3.wmf