Logo Passei Direto
Buscar

Sociedade

Outros
Em uma aplicação conversacional que consome modelos de linguagem, o time observou que o custo mensal aumentou 320% em três semanas, mesmo sem crescimento equivalente de usuários ativos. A análise dos logs revelou padrões de requisições sequenciais idênticas, respostas excessivamente longas em cenários de baixa complexidade e ausência de controle por usuário ou sessão. Identificar o conjunto de fatores estruturais que explicam esse comportamento de custo exige articular variáveis de arquitetura, política de uso e consumo. Considerando os padrões de requisições sequenciais e ausência de controle observados, avalie as afirmações a seguir. I - O rate limiting por sessão impede requisições sequenciais duplicadas. II - O controle de max_tokens reduz consumo em respostas longas. III - O processamento em batch reduz custo em requisições individuais de fluxo conversacional. IV - A ausência de cache contribui para requisições repetidas ao provedor. É correto o que se afirma em Grupo de escolhas da pergunta I, III e IV, apenas. I, II e III, apenas. I e III, apenas. II e IV, apenas. II, III e IV, apenas.
User badge image
Fabiano Lacerda

há 3 meses

Respostas

User badge image

Ed Verified user icon

há 3 meses

Vamos analisar cada afirmativa: I - O rate limiting por sessão impede requisições sequenciais duplicadas. Verdadeiro. Rate limiting por sessão limita o número de requisições por usuário/sessão, ajudando a evitar requisições duplicadas e excessivas. II - O controle de max_tokens reduz consumo em respostas longas. Verdadeiro. Limitar max_tokens controla o tamanho da resposta gerada, reduzindo o custo associado a respostas muito longas. III - O processamento em batch reduz custo em requisições individuais de fluxo conversacional. Falso. Processamento em batch é eficiente para agrupar múltiplas requisições, mas em fluxos conversacionais que dependem de respostas imediatas e sequenciais, o batch não é adequado e não reduz custo em requisições individuais. IV - A ausência de cache contribui para requisições repetidas ao provedor. Verdadeiro. Sem cache, requisições idênticas são enviadas repetidamente ao provedor, aumentando custo. Portanto, os itens corretos são: I, II e IV. A alternativa correta é: II, IV e I, mas como as opções são: - I, III e IV, apenas. (III é falso) - I, II e III, apenas. (III é falso) - I e III, apenas. (III é falso) - II e IV, apenas. (I é verdadeiro) - II, III e IV, apenas. (III é falso) Nenhuma alternativa contém exatamente I, II e IV. Como a alternativa "II e IV, apenas" está correta para II e IV, mas deixa de fora o I que também é verdadeiro, e as outras opções incluem o III que é falso, a melhor resposta é: II e IV, apenas.

Essa resposta te ajudou?

0
Dislike0

Ainda com dúvidas?

Envie uma pergunta e tenha sua dúvida de estudo respondida!

Mais conteúdos dessa disciplina