Logo Passei Direto
Buscar
No ajuste fino de modelos de linguagem, a técnica LoRA permite incorporar conhecimento paramétrico sem alterar todos os pesos do modelo base. A atualização dos parâmetros é fatorada em duas matrizes de rank baixo, reduzindo drasticamente a quantidade de pesos treináveis em comparação ao treinamento completo. Ao implementar LoRA em um projeto, avalie as afirmações a seguir e a relação proposta entre elas. I - A redução de memória no LoRA decorre da fatoração que limita graus de liberdade treináveis ao rank escolhido. PORQUE II - O rank determina a dimensionalidade intrínseca da atualização, controlando diretamente a quantidade de parâmetros inseridos no adaptador. A respeito dessas asserções, assinale a opção correta. Grupo de escolhas da pergunta As asserções I e II são proposições falsas. A asserção I é uma proposição falsa, e a II é uma proposição verdadeira. A asserção I é uma proposição verdadeira, e a II é uma proposição falsa. No answer text provided. As asserções I e II são proposições verdadeiras, e a II é uma justificativa correta da I. As asserções I e II
User badge image
Fabiano Lacerda

há 3 meses

Respostas

User badge image

Ed Verified user icon

há 3 meses

Vamos analisar as asserções: I - A redução de memória no LoRA decorre da fatoração que limita graus de liberdade treináveis ao rank escolhido. Verdadeiro. LoRA reduz a quantidade de parâmetros treináveis ao fatorar a atualização em matrizes de rank baixo, limitando os graus de liberdade e, consequentemente, o uso de memória. II - O rank determina a dimensionalidade intrínseca da atualização, controlando diretamente a quantidade de parâmetros inseridos no adaptador. Verdadeiro. O rank define a dimensão das matrizes fatoradas, controlando quantos parâmetros são adicionados e treinados. Além disso, a asserção II justifica corretamente a I, pois a redução de memória ocorre justamente porque o rank limita os parâmetros treináveis. Portanto, a alternativa correta é: As asserções I e II são proposições verdadeiras, e a II é uma justificativa correta da I.

Essa resposta te ajudou?

0
Dislike0

Ainda não achou a resposta?

  • Integrado com os principais modelos de IA do mercado
  • Respostas em segundos
  • IA treinada para estudantes brasileiros.
PasseIA logoEvolua sua forma de estudar

Cadastre-se ou realize login

Ainda com dúvidas?

Envie uma pergunta e tenha sua dúvida de estudo respondida!

Mais conteúdos dessa disciplina