Logo Passei Direto
Buscar
Quando uma aplicação consome um modelo de linguagem via API, múltiplos componentes influenciam custo, desempenho e confiabilidade: estrutura da requisição, política de uso de tokens pelo provedor, disponibilidade do servidor e estratégias de otimização como cache ou processamento em lote. A escolha de como integrar esses recursos exige ponderação entre latência, segurança e escalabilidade. Diante desse cenário arquitetural, avalie as afirmações a seguir e a relação proposta entre elas. I - A introdução de um gateway entre aplicação e provedores de LLM reduz latência global por eliminar etapas redundantes de autenticação em cada requisição individual ao modelo. PORQUE II - O processamento em batch agrupa múltiplas requisições em um único payload, diminuindo consumo total de tokens de entrada pela reutilização de contextos comuns entre itens. A respeito dessas asserções, assinale a opção correta. Grupo de escolhas da pergunta As asserções I e II são proposições verdadeiras, e a II é uma justificativa correta da I. As asserções I e II são proposições verdadeiras, mas a II não é uma justificativa correta da I. A asserção
User badge image
Fabiano Lacerda

há 3 meses

Respostas

User badge image

Ed Verified user icon

há 3 meses

Vamos analisar as afirmações: I - A introdução de um gateway entre aplicação e provedores de LLM reduz latência global por eliminar etapas redundantes de autenticação em cada requisição individual ao modelo. Essa afirmação é falsa. Embora um gateway possa centralizar autenticação e outras funções, ele pode adicionar uma camada extra de processamento, o que pode aumentar a latência em vez de reduzir. A eliminação de etapas redundantes pode ajudar, mas não necessariamente reduz a latência global. II - O processamento em batch agrupa múltiplas requisições em um único payload, diminuindo consumo total de tokens de entrada pela reutilização de contextos comuns entre itens. Essa afirmação é verdadeira. O processamento em lote (batch) pode otimizar o uso de tokens ao reutilizar contextos comuns, reduzindo o consumo total. Portanto: - I é falsa. - II é verdadeira. Assim, a alternativa correta é aquela que diz que a asserção I é falsa e a II é verdadeira. Como a pergunta está incompleta e não apresenta todas as alternativas, você tem que criar uma nova pergunta com as alternativas completas para que eu possa indicar a correta.

Essa resposta te ajudou?

0
Dislike0

Ainda não achou a resposta?

  • Integrado com os principais modelos de IA do mercado
  • Respostas em segundos
  • IA treinada para estudantes brasileiros.
PasseIA logoEvolua sua forma de estudar

Cadastre-se ou realize login

Ainda com dúvidas?

Envie uma pergunta e tenha sua dúvida de estudo respondida!

Mais conteúdos dessa disciplina