1 - Algoritmos Discriminatorios

Prévia do material em texto

jusbrasil.com.br
29 de Junho de 2024
Algoritmos Discriminatórios
Publicado por Marcos Castro há 10 meses
Primeiramente, o que é um algoritmo?
De forma simplificada, algoritmo é uma sequência de passos
bem definidos para executar uma determinada tarefa ou resol-
ver um problema.
Utilizamos algoritmos para tudo, como por exemplo para fazer
um delicioso bolo de chocolate.
1) Juntar os ingredientes;
2) Aquecer o forno;
3) Misturar farinha e leite;
4) Acrescentar fermento etc.
Na computação, o algoritmo nada mais é que o conjunto de ins-
truções e regras que um programa de computador (software)
possui para executar suas funções.
E o que é discriminação?
https://mcastrosouza750336.jusbrasil.com.br/
Discriminação é o ato de fazer distinções injustas ou preconcei-
tuosas entre pessoas com base em grupos, classes ou outras ca-
tegorias às quais elas pertençam como raça, cor, gênero, idade,
etnia, orientação sexual, dentre outros.
Precisamos definir também os conceitos de Inteligência Artifici-
al e Machine Learning (Aprendizado de Máquina).
Inteligência Artificial (IA) é utilizada na criação de sistemas que
podem simular a capacidade humana de aprender, raciocinar e
resolver problemas através de algoritmos e dados.
Já Machine Learning é um ramo da IA que permite que siste-
mas aprendam a partir de dados, através de algoritmos que
identificam padrões e tomam decisões.
Estamos rodeados de aplicações que utilizam Machine Learning
como por exemplo as sugestões de filmes da Netflix, carros
autônomos, tradutor do Google, reconhecimento facial do seu
iPhone, otimização de vendas da Amazon etc.
Em Machine Learning, treina-se um algoritmo para que ele pos-
sa aprender a partir de determinados dados (dataset) e assim
possa reconhecer padrões e automatizar decisões.
Esses dados utilizados no treinamento do algoritmo podem ge-
rar muitos problemas. Digamos que eu treine o meu algoritmo
com um conjunto de dados bem antigo, reproduzindo cenários
preconceituosos que não mais condizem com a realidade. Isso
teria um grande impacto negativo nas decisões desse algoritmo,
resultando em um tratamento injusto para os afetados.
Basicamente o algoritmo se utiliza de estatísticas para encontrar
determinado padrão e, assim, poder tomar uma decisão diante
de novas situações apresentadas.
Podemos imaginar um exemplo de algoritmo treinado a partir
de dados enviesados.
Vamos lá, digamos que uma determinada financeira se utilize
de um algoritmo de Machine Learning para oferecer taxas me-
nores em empréstimos a partir do score (pontuação) dos usuári-
os, sendo que os homens receberam taxas bem menores do que
as mulheres. Seria uma discriminação quanto ao gênero?
Agora imagine que você não consegue comprar determinado
produto em uma loja virtual por conta da sua localização geo-
gráfica. Isso violaria princípios do Direito do Consumidor? Seria
uma geodiscriminação?
No mundo virtual, estamos cercados de aplicações que não faze-
mos ideia do que se passa a nível algorítmico. É imprescindível
sabermos o que acontece por “debaixo dos panos” ou o funcio-
namento do algoritmo da empresa está protegido como segredo
de negócio?
Conforme dito anteriormente, algoritmos podem aprender com
os dados, podem reproduzir/simular comportamentos humanos
para o bem, mas também podem replicar um modelo viciado e
injusto, causando um impacto social negativo, discriminatório,
ferindo direitos e perpetuando as discriminações existentes no
país.
Disponível em: https://www.jusbrasil.com.br/artigos/algoritmos-discriminatorios/1949588932
Informações relacionadas
Izadora Barbieri
Artigos • há 2 anos
https://izadorazb.jusbrasil.com.br/
https://izadorazb.jusbrasil.com.br/
Discriminação algorítmica e Lei Geral de Proteção de Dados
Temos ouvido falar com frequência que os algoritmos das redes sociais,
conferem maior entrega de conteúdo, de determinado grupo de pessoas na
rede. Recentemente, um robô coreano instalado no Facebook…
Marcos Castro
Artigos • há 6 meses
Poliamor como formação familiar
Poliamor também é chamado de poliafetividade. Essa formação familiar
consiste em mais de duas pessoas que se enlaçam matrimonialmente para
constituir uma família. É uma questão de afeto e de…
Marcos Castro
Artigos • há 4 meses
Crime de Prevaricação
O crime de prevaricação está previsto no Art. 319 do Código Penal . Art. 319 -
Retardar ou deixar de praticar, indevidamente, ato de ofício, ou praticá-lo contra
disposição expressa de lei, para…
Marcos Castro
Artigos • há 5 meses
Gratuidade da Justiça no CPC
Não há acesso a justiça se não houver gratuidade da justiça para aqueles que
não possuem poder econômico para acessar ao Judiciário. Tanto a pessoa
natural quanto a pessoa jurídica, brasileira ou…
Marcos Castro
Artigos • há 4 meses
IRDR - Incidente de resolução de demandas repetitivas
O IRDR tem relação direta com o princípio da coletivização dos julgamentos e do
julgamento por precedentes. Esse incidente está localizado a partir do artigo
976 do CPC . O referido artigo expressa…
https://www.jusbrasil.com.br/artigos/discriminacao-algoritmica-e-lei-geral-de-protecao-de-dados/1377223622
https://mcastrosouza750336.jusbrasil.com.br/
https://mcastrosouza750336.jusbrasil.com.br/
https://www.jusbrasil.com.br/artigos/poliamor-como-formacao-familiar/2105773152
https://mcastrosouza750336.jusbrasil.com.br/
https://mcastrosouza750336.jusbrasil.com.br/
https://www.jusbrasil.com.br/artigos/crime-de-prevaricacao/2207558031
https://mcastrosouza750336.jusbrasil.com.br/
https://mcastrosouza750336.jusbrasil.com.br/
https://www.jusbrasil.com.br/artigos/gratuidade-da-justica-no-cpc/2146240090
https://mcastrosouza750336.jusbrasil.com.br/
https://mcastrosouza750336.jusbrasil.com.br/
https://www.jusbrasil.com.br/artigos/irdr-incidente-de-resolucao-de-demandas-repetitivas/2168536492
Jusbrasil
Sobre nós
Ajuda
Newsletter
Cadastre-se
Para todas as pessoas
Consulta processual
Artigos
Notícias
Encontre uma pessoa advogada
Para profissionais
Jurisprudência
Doutrina
Diários Oficiais
Peças Processuais
Modelos
Legislação
Seja assinante
API Jusbrasil
Transparência
Termos de Uso
https://sobre.jusbrasil.com.br/
https://ajuda.jusbrasil.com.br/
https://www.jusbrasil.com.br/newsletter/
https://www.jusbrasil.com.br/cadastro/
https://www.jusbrasil.com.br/consulta-processual/
https://www.jusbrasil.com.br/artigos/
https://www.jusbrasil.com.br/noticias/
https://www.jusbrasil.com.br/advogados/
https://www.jusbrasil.com.br/jurisprudencia/
https://www.jusbrasil.com.br/doutrina/
https://www.jusbrasil.com.br/diarios/
https://www.jusbrasil.com.br/pecas/
https://www.jusbrasil.com.br/modelos-pecas/
https://www.jusbrasil.com.br/legislacao/
https://www.jusbrasil.com.br/pro/
https://insight.jusbrasil.com.br/
https://www.jusbrasil.com.br/termos-de-uso
A sua principal fonte de informação jurídica. © 2024 Jusbrasil. Todos
os direitos reservados.
   
Política de Privacidade
Proteção de Dados
https://www.instagram.com/jusbrasil/
https://www.instagram.com/jusbrasil/
https://www.instagram.com/jusbrasil/
https://www.instagram.com/jusbrasil/
https://twitter.com/jusbrasil/
https://twitter.com/jusbrasil/
https://twitter.com/jusbrasil/
https://twitter.com/jusbrasil/
https://www.linkedin.com/company/jusbrasil/
https://www.linkedin.com/company/jusbrasil/
https://www.linkedin.com/company/jusbrasil/
https://www.linkedin.com/company/jusbrasil/
https://www.youtube.com/c/jusbrasil/
https://www.youtube.com/c/jusbrasil/
https://www.youtube.com/c/jusbrasil/
https://www.youtube.com/c/jusbrasil/
https://www.jusbrasil.com.br/politica-de-privacidade
https://www.jusbrasil.com.br/seguranca-e-privacidade