Buscar

1. Qual das alternativas abaixo representa a principal diferença entre os algoritmos SGD (Gradiente descendente estocástico) e o Adam? O SGD é ma...

1. Qual das alternativas abaixo representa a principal diferença entre os algoritmos SGD (Gradiente descendente estocástico) e o Adam?

O SGD é mais eficiente que o Adam e não necessita de ajustes da taxa de aprendizagem durante o processo de treinamento.

O Adam, embora seja um algoritmo de segunda ordem, é mais eficiente do ponto de vista computacional que o SGD.

O SGD consiste num método de primeira ordem, já o Adam representa um método de segunda ordem.

Ao contrário do SGD, o algoritmo Adam utiliza médias móveis para obter uma estimativa do momentum e do gradiente.

Os dois algoritmos são quantitativamente equivalentes, porém o SGD é um método em lote enquanto o Adam é um método on-line.

a) O SGD é mais eficiente que o Adam e não necessita de ajustes da taxa de aprendizagem durante o processo de treinamento.
b) O Adam, embora seja um algoritmo de segunda ordem, é mais eficiente do ponto de vista computacional que o SGD.
c) O SGD consiste num método de primeira ordem, já o Adam representa um método de segunda ordem.

Essa pergunta também está no material:

rn semana 4
4 pág.

Redes Neurais I Universidade Virtual do Estado de São PauloUniversidade Virtual do Estado de São Paulo

💡 1 Resposta

User badge image

Ed Verified user icon

A alternativa correta é a letra D: "Ao contrário do SGD, o algoritmo Adam utiliza médias móveis para obter uma estimativa do momentum e do gradiente." Essa é a principal diferença entre os algoritmos SGD e Adam. O SGD utiliza apenas o gradiente para atualizar os pesos, enquanto o Adam utiliza médias móveis do gradiente e do momentum para atualizar os pesos.

0
Dislike0

✏️ Responder

SetasNegritoItálicoSublinhadoTachadoCitaçãoCódigoLista numeradaLista com marcadoresSubscritoSobrescritoDiminuir recuoAumentar recuoCor da fonteCor de fundoAlinhamentoLimparInserir linkImagemFórmula

Para escrever sua resposta aqui, entre ou crie uma conta

User badge image

Outros materiais