Logo Passei Direto
Buscar

Gestão do Conhecimento

Outros
O viés algorítmico pode surgir de diversas formas, desde preconceitos preexistentes dos desenvolvedores até a utilização de dados de treinamento incompletos ou falhos. No contexto educacional, o aumento do uso da IA em processos educativos, acarretou prejuízos e impactos danosos. Um exemplo citado foi o caso de um sistema automatizado no Reino Unido que atribuiu notas mais baixas para alunos de escolas públicas e notas melhores para os de escolas independentes, contrariando as previsões dos professores.
Com base no texto e nos exemplos de vieses algorítmicos discutidos no artigo, analise as afirmativas a seguir:
I. O viés algorítmico de classificação pode levar sistemas a rotular estudantes de forma desigual com base em raça, mesmo que apresentem o mesmo comportamento.
II. A personalização do ensino, embora benéfica, pode amplificar desigualdades ao adaptar o conteúdo à capacidade cognitiva de cada aluno, criando níveis de padronização diferenciados e tendenciosos.
III. Softwares de supervisão remota de exames podem manifestar racismo sistêmico por meio de programação preconceituosa, afetando desproporcionalmente alunos com tons de pele mais escuros.
IV. O viés algorítmico ocorre exclusivamente na fase de treinamento dos algoritmos, sendo impossível que ele surja da interação dos sistemas com fenômenos sociais externos.
I e IV, apenas.
II e III, apenas.
I, II e III, apenas.
II, III e IV, apenas.
I, II, III e IV.
User badge image
Testando o Conhecimento

mês passado

User badge image
Testando o Conhecimento

mês passado

SCG GY 53_25
20 pág.

SCG GY 53_25

Respostas

User badge image

Ed Verified user icon

mês passado

Vamos analisar cada afirmativa: I. O viés algorítmico de classificação pode levar sistemas a rotular estudantes de forma desigual com base em raça, mesmo que apresentem o mesmo comportamento. Verdadeiro, essa afirmativa está correta, pois o viés algorítmico pode resultar em discriminação racial, rotulando alunos de maneira desigual. II. A personalização do ensino, embora benéfica, pode amplificar desigualdades ao adaptar o conteúdo à capacidade cognitiva de cada aluno, criando níveis de padronização diferenciados e tendenciosos. Verdadeiro, essa afirmativa também está correta, pois a personalização pode, de fato, acentuar desigualdades existentes. III. Softwares de supervisão remota de exames podem manifestar racismo sistêmico por meio de programação preconceituosa, afetando desproporcionalmente alunos com tons de pele mais escuros. Verdadeiro, essa afirmativa é correta, pois a programação preconceituosa pode levar a discriminações durante a supervisão de exames. IV. O viés algorítmico ocorre exclusivamente na fase de treinamento dos algoritmos, sendo impossível que ele surja da interação dos sistemas com fenômenos sociais externos. Falso, essa afirmativa é incorreta, pois o viés algorítmico pode surgir tanto na fase de treinamento quanto na interação com fenômenos sociais. Com base nas análises, as afirmativas verdadeiras são I, II e III. Portanto, a alternativa correta que contém todos os itens verdadeiros é: I, II e III, apenas.

Essa resposta te ajudou?

0
Dislike0
left-side-bubbles-backgroundright-side-bubbles-background

Crie sua conta grátis para liberar essa resposta. 🤩

Já tem uma conta?

Ao continuar, você aceita os Termos de Uso e Política de Privacidade

Ainda com dúvidas?

Envie uma pergunta e tenha sua dúvida de estudo respondida!

Essa pergunta também está no material:

SCG GY 53_25
20 pág.

SCG GY 53_25

Mais perguntas desse material

No nível institucional, as tecnologias de IA podem contribuir para a deslegitimação das eleições, alimentando muita desconfiança em torno delas. Por fim, no nível mais amplo e sistêmico, a IA pode tornar o autoritarismo mais competitivo, sobretudo pela inexistência de menos restrições ao desenvolvimento de tais tecnologias em regimes não democráticos.
De acordo com o texto, no que se refere como a Inteligência Artificial pode ameaçar a democracia nos níveis institucional e sistêmico, assinale a alternativa correta:
No nível institucional, promove a confiança nas eleições; no nível sistêmico, fortalece a cooperação internacional.
No nível institucional, gera desconfiança sobre as eleições; no nível sistêmico, torna o autoritarismo mais competitivo.
No nível institucional, facilita a participação cidadã direta; no nível sistêmico, promove os direitos humanos globalmente.
No nível institucional, otimiza a alocação de recursos públicos; no nível sistêmico, enfraquece regimes não democráticos.
No nível institucional, aumenta a transparência dos processos governamentais; no nível sistêmico, garante a igualdade entre regimes políticos.

A integração da IA na sociedade moderna vai além das aplicações técnicas e se insere diretamente nos debates sobre direitos humanos, equidade e justiça social. Seu impacto não é neutro, e por isso o desenvolvimento ético e responsável dessas tecnologias é um imperativo global. A educação tem papel estratégico na formação de cidadãos conscientes sobre esses desafios.
A ética no desenvolvimento da IA deve ser entendida como
um obstáculo à inovação tecnológica.
uma exigência meramente burocrática dos órgãos reguladores.
um elemento secundário diante da eficiência algorítmica.
um princípio essencial para assegurar justiça social e respeito aos direitos humanos.
uma responsabilidade exclusiva das empresas de tecnologia.

A crescente sofisticação dos sistemas de inteligência artificial (IA) tem exigido novas estratégias de formação profissional, uma vez que competências técnicas podem ser cada vez mais automatizadas.
Com base no exposto, avalie as asserções a seguir e a relação proposta entre elas:
I. A formação universitária deve priorizar o desenvolvimento do pensamento crítico, da criatividade e das competências éticas.
II. A IA é capaz de substituir completamente as atividades humanas que envolvem julgamento ético e reflexão crítica.
As asserções I e II são proposições verdadeiras, e a II é uma justificativa correta da I.
As asserções I e II são proposições verdadeiras, mas a II não é uma justificativa correta da I.
A asserção I é uma proposição verdadeira, e a II é uma proposição falsa.
A asserção I é uma proposição falsa, e a II é uma proposição verdadeira.
As asserções I e II são proposições falsas.

A interação entre os alunos e a IA pode suscitar uma reflexão crítica sobre os feedbacks recebidos, pois eles precisam saber identificar se os resultados são confiáveis, atualizados e não tendenciosos, uma vez que a IA pode demorar a incorporar novos dados de treinamento nos algoritmos. Por isso, os alunos precisam ser orientados a adotar transparência e não aceitarem as recomendações como verdades absolutas e/ou como julgamentos já decididos e impositivos.
Considerando a relação entre o usuário (aluno) e a tecnologia de IA, o texto enfatiza a importância de desenvolver uma postura específica. Qual alternativa melhor descreve essa postura?
Uma postura de aceitação passiva, confiando que os algoritmos de IA são sempre objetivos e justos.
Uma postura de rejeição total, evitando o uso de qualquer ferramenta de IA devido aos riscos de plágio e manipulação.
Uma postura de dependência completa, na qual os alunos devem delegar à IA a responsabilidade por seu processo de aprendizagem e tomada de decisões.
Uma postura focada apenas no desenvolvimento de habilidades técnicas para programar e treinar os próprios algoritmos, sem se preocupar com a análise crítica dos resultados.
Uma postura de autonomia supervisionada e criticidade, na qual os alunos utilizam a IA, mas são capacitados para questionar, analisar e identificar a confiabilidade dos resultados, com orientação de professores e familiares.

Independentemente do potencial para a democracia, é necessário reconstruir a infraestrutura do regime democrático. Propostas de uso da própria tecnologia como redes neurais para identificar conteúdos gerados por IA, autorregulação por meio de plataformas de IA e alfabetização digital da sociedade são apresentadas como essenciais.
Diante dos desafios impostos pela IA, o texto aponta algumas propostas para a reconstrução da infraestrutura democrática. No que apresenta essas propostas, assinale a alternativa correta:
Proibir o uso de qualquer tecnologia de IA no debate público e aumentar a regulação estatal sobre a internet.
Focar exclusivamente na educação moral e ética dos desenvolvedores de IA, sem intervir na tecnologia em si.
Aguardar a criação da Inteligência Artificial Geral (AGI) para que ela mesma possa regular as tecnologias inferiores.
Centralizar o desenvolvimento de IA nas mãos do Estado para garantir seu alinhamento com os valores democráticos.
Utilizar tecnologias como redes neurais para detecção, promover a autorregulação das plataformas e investir na alfabetização digital da população.

Seja como for, ao longo de sua complexa e não linear construção histórica, a democracia, como teoria e como prática, esteve ancorada num balanço complexo e instável entre inteligências individuais e coletivas.
A respeito da relação entre as inteligências individual e coletiva na construção da democracia, analise as afirmativas a seguir:
I. A democracia sempre priorizou a inteligência coletiva em detrimento da inteligência individual, considerada falha.
II. A inteligência individual sempre foi vista como o único pilar legítimo da democracia, enquanto a inteligência coletiva era vista como uma ameaça.
III. A construção democrática se baseou em um equilíbrio instável e complexo entre as inteligências individual e coletiva, ambas consideradas fundamentais.
IV. A Inteligência Artificial não substitui as inteligências anteriores, mas ela afeta o balanço, as compreensões e as formas de construção das outras inteligências.
I e II, apenas.
I e IV, apenas.
I, II e III, apenas.
II e III, apenas.
III e IV, apenas.

O treinamento de algoritmos pode ocorrer através da inserção ou repetição de dados, muitas vezes fornecidos pela população em geral. Esses dados podem incluir textos, rótulos e anotações que podem não ser verificados ou validados, o que pode introduzir preconceitos na IA. Se, historicamente, dados mostram que alunas se inscrevem menos em cursos de Ciência da Computação, um chatbot treinado com esses dados pode acabar recomendando cursos de humanidades para estudantes do sexo feminino, reforçando uma tendência anterior.
Sobre o processo de treinamento de algoritmos e a introdução de vieses, analise as afirmativas a seguir:
I. O treinamento de algoritmos é imune a vieses, pois se baseia em um grande volume de dados, o que neutraliza eventuais preconceitos individuais.
II. O processo de rotulagem de informações por humanos é uma fonte potencial de viés, pois as pessoas podem selecionar informações de maneira tendenciosa.
III. Um algoritmo pode ser treinado para evitar o uso de uma característica sensível como 'raça', mas ainda assim produzir resultados discriminatórios se outras variáveis (proxies) estiverem correlacionadas com essa característica.
IV. O uso de dados históricos no treinamento pode levar à perpetuação de estereótipos e desigualdades sociais preexistentes, como a sub-representação de gênero em certas áreas do conhecimento.
I e II, apenas.
I e III, apenas.
II e IV, apenas.
II, III e IV, apenas.
I, III e IV, apenas.

O viés algorítmico é um dos desafios mais complexos enfrentados no desenvolvimento ético de sistemas de inteligência artificial, principalmente no contexto de saúde.
Com base no exposto, avalie as asserções a seguir e a relação proposta entre elas:
I. A eliminação completa do viés algorítmico é possível apenas aumentando a quantidade de dados usados para o treinamento.
II. Mesmo grandes volumes de dados podem conter distorções e preconceitos, reproduzindo desigualdades.
As asserções I e II são proposições verdadeiras, e a II é uma justificativa correta da I.
As asserções I e II são proposições verdadeiras, mas a II não é uma justificativa correta da I.

Com base no exposto, avalie as asserções a seguir e a relação proposta entre elas:
A respeito dessas asserções, assinale a opção correta:
I. A eliminação completa do viés algorítmico é possível apenas aumentando a quantidade de dados usados para o treinamento.
II. Mesmo grandes volumes de dados podem conter distorções e preconceitos, reproduzindo desigualdades.
As asserções I e II são proposições verdadeiras, e a II é uma justificativa correta da I.
As asserções I e II são proposições verdadeiras, mas a II não é uma justificativa correta da I.
A asserção I é uma proposição verdadeira, e a II é uma proposição falsa.
A asserção I é uma proposição falsa, e a II é uma proposição verdadeira.
As asserções I e II são proposições falsas.

Mais conteúdos dessa disciplina