P95 é a pior latência?
Não. É o valor abaixo do qual estão 95% das medições; os 5% restantes podem ser maiores.
Imersão
ImersãoDois dias para transformar IA em criatividade aplicada. In CompanyO método do IA Lab dentro do seu escritório.Conteúdos abertos
Área do alunosó para alunos
Latency · Tempo de resposta
Latência é o tempo transcorrido entre o início de uma operação e a resposta ou conclusão observada em um ponto definido.
A medição precisa declarar início, fim e perspectiva. Latência de rede, modelo e experiência total são valores diferentes.
Distribuições e percentis mostram caudas que a média esconde. P95 indica o valor abaixo do qual ficam 95% das observações.
Relógios e spans medem durações por etapa. Métricas agregam valores por rota, versão, região e resultado.
Orçamentos de latência distribuem o tempo aceitável entre fila, rede, recuperação, modelo, ferramentas e renderização.
Um assistente responde em dois segundos na mediana, mas ultrapassa dez segundos no P95; o trace mostra saturação na recuperação documental.
Medições sem fronteira comum não são comparáveis. Clock, cache e aquecimento alteram resultados.
Otimizar tempo isoladamente pode reduzir qualidade, segurança ou custo de forma indesejada.
Tracing, Observabilidade, Throughput, Inference, Monitoramento de modelo
Não. É o valor abaixo do qual estão 95% das medições; os 5% restantes podem ser maiores.
Pode reduzir o tempo até o primeiro conteúdo, mas não necessariamente o tempo total de conclusão.
Revisado em 2026-10-18.