IA Lab by amano
Neste termo

Quantização

Quantization · Redução de precisão numérica

Quantização é a representação de pesos, ativações ou cálculos de um modelo com menor precisão numérica para reduzir memória, custo ou tempo de execução.

avaliação, observabilidade e qualidadenível intermediário a avançadoevolução rápida

O que é

Valores originalmente em ponto flutuante podem ser mapeados para formatos menores, como inteiros de oito bits ou precisões reduzidas.

A técnica pode ser aplicada depois do treinamento ou incorporada ao treinamento para adaptar o modelo ao erro de quantização.

Como funciona

Escalas e pontos zero relacionam valores reais ao intervalo discreto. Calibração observa ativações representativas.

Testes comparam tamanho, latência, consumo e qualidade por tarefa, dispositivo e conjunto de avaliação.

Um exemplo

Um modelo de classificação é quantizado para executar localmente, mas só é adotado depois de comparar recall das classes críticas no dispositivo final.

Onde aparece na prática

  • Edge: Executar modelos em dispositivos com memória limitada.
  • Serviço: Reduzir custo e acelerar inferência quando o hardware oferece suporte.
  • Privacidade: Viabilizar processamento local, sem confundir isso com garantia de proteção.

Conceitos que costumam ser confundidos

  • Quantização × poda: Quantização reduz precisão dos valores; poda remove parâmetros ou conexões.
  • Pós-treino × QAT: Pós-treino converte um modelo pronto; QAT simula quantização durante o treinamento.

Limitações e riscos

A perda de qualidade varia por arquitetura, tarefa, camada e hardware. Métricas médias podem esconder classes afetadas.

Formato menor não garante aceleração se o runtime ou dispositivo não possuir kernels adequados.

Perguntas frequentes

Quantização sempre reduz qualidade?

Pode manter qualidade próxima em alguns casos, mas a diferença precisa ser medida na tarefa e no hardware-alvo.

Modelo menor sempre fica mais rápido?

Não. A aceleração depende do runtime, kernels, memória e dispositivo.

Fontes principais

Revisado em 2026-10-18.