Prévia do material em texto
9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 1/11 PROVA ON-LINE Entrega Sem prazo Pontos 60 Perguntas 10 Disponível depois 29 ago em 10:00 Limite de tempo 60 Minutos Tentativas permitidas Sem limite Instruções Histórico de tentativas Tentativa Tempo Pontuação MAIS RECENTE Tentativa 1 20 minutos 54 de 60 Pontuação desta tentativa: 54 de 60 Enviado 23 set em 15:46 Esta tentativa levou 20 minutos. ATENÇÃO: Verifique em "Notas" se você não atingiu o aproveitamento necessário nesta disciplina. Caso você já tenha realizado uma prova anterior e opte por uma nova tentativa, será identificado como uma prova extra e resultará em pagamento de taxa extra. INSTRUÇÕES DA AVALIAÇÃO ON-LINE A prova tem a duração de 60 minutos. Ao clicar em PROVA ON-LINE, no menu “Testes” você iniciará a prova. A partir daí não será possível desistir de realizá-la. A prova é composta de 10 questões objetivas, cada uma no valor de 6 pontos. Ao final do teste não se esqueça de enviá-lo, clicando no botão “ENVIAR TESTE”. Só utilize esse botão quando tiver finalizado a avaliação. Se necessário, durante a prova, entre em contato pelo link “Atendimento”. ATENÇÃO: Todas as provas iniciadas e que não houverem sido submetidas serão automaticamente encerradas pelo sistema transcorridos os 60 minutos de duração. Boa Prova! Fazer o teste novamente https://pucminas.instructure.com/courses/90425/quizzes/336773/history?version=1 https://pucminas.instructure.com/courses/90425/quizzes/336773/take?user_id=196222 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 2/11 0 / 6 ptsPergunta 1 A classificação de imagens representa uma tarefa fundamental na área de visão computacional, sendo desafiadora tanto devido ao “gap” semântico existente entre os dados de entrada e o resultado desejado, quanto às dificuldades oriundas das variações de ponto de vista, iluminação e forma, entre outras. Ao contrário de métodos tradicionais baseados em regras e restrições previamente codificadas, abordagens para a classificação de imagens baseada em dados parecem ter mais sucesso. Marque a alternativa que não representa uma atividade típica e necessária relacionada a uma abordagem baseada em dados para a classificação de imagens: Utilizar um método de aprendizado de máquina para treinar um classificador. ocê respondeuocê respondeu Processar as imagens para se extrair bordas e contornos para, em seguida, se inferir sobre os objetos representados. esposta corretaesposta correta Reunir um conjunto de imagens juntamente com seus rótulos. Avaliar o classificador treinado utilizando um conjunto de imagens para teste. 6 / 6 ptsPergunta 2 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 3/11 Ao se construir e treinar um modelo, muitas vezes é necessário determinar uma série de hiperparâmetros, tais como: qual distância será usada, o número de vizinhos a serem analisados, a quantidade de camadas em uma rede neural artificial, o número de neurônios por camada, entre outros. Marque a afirmação correta relacionada ao ajuste de hiperparâmetros: A validação cruzada permite realizar uma avaliação mais isenta dos hiperparâmetros, uma vez que o uso de várias subdivisões tende a reduzir o viés (positivo ou negativo) que poderia existir se apenas uma única divisão do conjunto de treinamento fosse utilizada. Correto!Correto! A validação cruzada procura realizar uma série de avaliações, de modo a determinar a performance associada a um dado hiperparâmetro independentemente da maneira como os dados foram divididos em subconjuntos ou mesmo do conteúdo desses subconjuntos que são usados para treino e validação. É muito usual que se divida o conjunto de teste, de forma a se ter um subconjunto de dados para se avaliar quais valores de hiperparâmetros funcionam melhor. Em uma validação cruzada de 3 dobras, divide-se o conjunto de treinamento em 3 subconjuntos e, de forma cíclica, se utiliza de cada um deles como conjunto de treinamento enquanto os outros dois são usados para validação dos hiperparâmetros. Experimentar quais valores de hiperparâmetros funcionam melhor utilizando o conjunto de teste pode ser uma boa estratégia. 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 4/11 6 / 6 ptsPergunta 3 Redes neurais artificiais são modelos inspirados pelo sistema nervoso e são capazes de realizar o aprendizado de máquina a partir dos dados, tendo sido usadas para resolver uma grande variedade de tarefas, tais como visão computacional e reconhecimento de voz, que são difíceis de abordar por meio de métodos tradicionais da IA. Marque a alternativa que representa uma afirmação incorreta: Em um neurônio artificial, as entradas são primeiramente submetidas a uma função de ativação para só depois serem combinadas em uma única saída por meio de uma soma ponderada. Correto!Correto! Na verdade, ocorre exatamente o oposto, as entradas são primeiramente combinadas por meio de um somatório ponderado para só depois se aplicar uma função de ativação ao resultado do somatório e se produzir a saída do neurônio artificial. Uma rede neural feed-forward têm neurônios agrupados em camadas, sendo que os neurônios de uma mesma camada não são conectados entre si e o sinal percorre a rede em uma única direção, da entrada para a saída. A função de ativação é essencial para introduzir um componente de não linearidade nas redes neurais artificiais e com isso aumentar a capacidade de representação e aproximação destas. Uma rede neural com mais neurônios possui uma maior capacidade. 6 / 6 ptsPergunta 4 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 5/11 A otimização da função de perda de uma rede neural busca obter um modelo que seja capaz de realizar boas predições. Para tanto, procura-se alcançar um ponto de mínimo da função de perda utilizando a direção contrária do gradiente. Marque a alternativa que não representa uma atividade relacionada ao método do gradiente: Calcular o gradiente da taxa de aprendizado. Correto!Correto! No método do gradiente, deve-se calcular o gradiente da função de perda em relação aos pesos e utilizá-lo juntamente com o tamanho do passo (ou taxa de aprendizado) para se ajustar os pesos de forma a se obter preferencialmente um novo conjunto de pesos mais próximo do ótimo. Não faz nenhum sentido e nem é necessário se calcular o gradiente da taxa de aprendizado (ou tamanho do passo). Usar o gradiente da função de perda e o tamanho do passo para modificar os pesos ou parâmetros a cada passo do método. Avaliar a função de perda em relação ao conjunto de pesos ou parâmetros atuais. Ajustar o conjunto de pesos ou parâmetros de modo a obter um novo conjunto, de preferência, mais próximo do ótimo. 6 / 6 ptsPergunta 5 O método de propagação retrógrada (ou backpropagation) permite se obter os gradientes em um grafo de computação de forma eficaz. Marque a alternativa que representa uma afirmação incorreta: 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 6/11 Um elemento de adição no grafo de computação faz com que o gradiente da perda em relação a saída desse elemento seja distribuído para todas as entradas desse elemento uma vez que todas as derivadas “locais” são unitárias. Caso um elemento do grafo de computação apresente várias saídas (ou ramificações), durante o passo retrógado deve utilizar apenas o maior dos valores de gradiente da perda em relação às saídas. Correto!Correto! Na verdade, caso ocorra umaramificação (isto é, um elemento do grafo possua várias saídas), deve-se realizar a soma de todos os gradientes da perda relacionadas a cada uma das saídas antes de se aplicar a regra da cadeia para obtenção dos gradientes em relação às entradas. O método de propagação retrógrada (ou backpropagation) se baseia na utilização da regra da cadeia. A derivada da perda em relação a uma entrada de um elemento qualquer do grafo de computação pode ser obtida a partir da derivada da saída desse elemento em relação a essa entrada e o gradiente da perda em relação a saída do mesmo elemento. 6 / 6 ptsPergunta 6 Existem diversos esquemas para a atualização de pesos que podem ser adotados em uma rede neural profunda como alternativas à estratégia básica utilizada pelo método SGD. Marque a alternativa que representa uma afirmação incorreta: 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 7/11 Os métodos RMSProp e ADAGRAD normalizam os gradientes, funcionando muito bem em conjuntos de dados com grande variação na magnitude dos mesmos como, por exemplo, em dados textuais. O método ADAM (“Adaptive Moment Estimation”) pode ser visto como uma combinação dos métodos RMSProp e ADAGRAD. Correto!Correto! Na verdade, o método ADAM pode ser visto como uma combinação entre do uso de “momentum” com o método RMSProp. O uso de “momentum” permite que as atualizações “se acumulem” nas direções rasas (de pouca variação) e que elas se reduzam nas direções íngremes (de muita variação), fazendo com que se evite uma trajetória em “zig-zag”. O NAG (“Nesterov Accelerated Gradient”) apresenta uma taxa de convergência mais rápida que o “momentum” tradicional pelo menos em teoria e para problemas de otimização convexa. 6 / 6 ptsPergunta 7 A normalização em lote (“batch normalization”) faz com que cada dimensão das ativações (isto é, dos resultados de uma camada) se comportem segundo uma distribuição gaussiana com média nula e desvio padrão unitário. Marque a alternativa que representa uma afirmação incorreta: Permite taxas de aprendizagem mais altas. 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 8/11 Durante a predição (ou teste), os valores de média e variância não são calculados com base no lote atual, sendo utilizado um único par fixo de média e variância obtido durante o treinamento. Reduz a forte dependência da inicialização. Não melhora o fluxo gradiente através da rede. Correto!Correto! Na verdade, um dos principais efeitos da adoção da normalização em lote é a melhoria do fluxo de gradientes viabilizando tanto o treinamento de redes com um número maior de camadas quanto um aumento da taxa de aprendizado utilizada nesse processo. 6 / 6 ptsPergunta 8 As redes AlexNet e VGG representam dois importantes marcos na evolução das redes neurais profundas aplicadas à tarefa de classificação de imagens. Marque a alternativa que representa uma afirmação incorreta: A rede VGG introduziu a ideia de se utilizar filtros menores em redes mais profundas, uma vez que eles conseguem o mesmo efeito e cobertura de filtros maiores utilizando um número menor de parâmetros. A rede VGG foi a primeira a se utilizar da função de ativação ReLU (“Rectified Linear Unit”). Correto!Correto! Na verdade, a rede AlexNet foi a primeira a utilizar a função de ativação ReLU. 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 9/11 Foi necessário se utilizar de forma intensiva de “data augmentation” para treinamento da rede AlexNet. A rede AlexNet alcançou uma redução da taxa de erro de aproximadamente 10%. 6 / 6 ptsPergunta 9 Redes recorrentes introduzem em seus projetos a presença de ciclos e a noção de tempo. Marque a alternativa que representa uma afirmação incorreta: Em uma rede recorrente, o gradiente ao longo da dimensão temporal pode tanto crescer como reduzir exponencialmente, inviabilizando o treinamento caso se considere um intervalo de tempo (isto é, tamanho de sequência de entrada) razoável. As unidades LSTM (“Long Short Term Memory”) e variações conseguem por meio do uso de uma memória (ou estado) de célula garantir um bom fluxo de gradientes ao longo do tempo e, consequentemente, viabilizar o treinamento de intervalos de tempo mais longos. Em uma rede recorrente, as camadas podem ser empilhadas de forma a se produzir versões profundas, em que cada camada é responsável por adicionar um nível maior de abstração e se utiliza se diferentes parâmetros durante os diferentes intervalos de tempo (em um mesmo nível). Correto!Correto! 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 10/11 Uma camada de rede recorrente sempre irá utilizar os mesmos parâmetros para todos os intervalos de tempo (isto é, os parâmetros de um mesmo nível são independentes do tempo). Rede recorrente pode ser “estendida” em várias etapas de tempo, produzindo um grafo acíclico direcionado que viabiliza o uso da propagação retrógrada (“backpropagation”), porém seu tamanho dependerá do comprimento da sequência de entrada. 6 / 6 ptsPergunta 10 O tamanho do passo (“stride”) e o uso de preenchimento (“padding”) afetam os resultados de uma camada convolucional. Marque a alternativa que representa uma afirmação incorreta: Para uma entrada de tamanho N x N e um filtro de tamanho F x F, a dimensão da saída será (N – F) / S + 1, em que S representa o tamanho do passo (“stride”). Uma camada convolucional com 6 filtros de tamanho 1×1 aprende como realizar uma combinação dos mapas de ativação (ou características) da entrada para produzir 6 novos mapas (ou características) na saída. Nas camadas convolucionais com passo unitário e filtros de tamanho F x F, é comum se utilizar de preenchimento por meio de uma borda de zeros com tamanho (F – 1) / 2. 9/23/22, 3:47 PM PROVA ON-LINE: 08 - Redes Neurais e Aprendizagem Profunda (2022) https://pucminas.instructure.com/courses/90425/quizzes/336773 11/11 Preenchimento não ajuda a minimizar o efeito da redução rápida de dimensionalidade espacial. Correto!Correto! Para um filtro de tamanho F, o preenchimento realizado de forma a acrescentar uma borda de zeros com tamanho (F – 1) / 2 é capaz de eliminar o efeito de redução da dimensão espacial quando o passo for 1. Pontuação do teste: 54 de 60