IA Lab by amano
Neste termo

Viés em IA

AI Bias · Algorithmic Bias · Viés Algorítmico

Viés em IA é uma inclinação sistemática que pode produzir diferenças indesejadas ou prejudiciais no comportamento, nos resultados ou nos impactos de um sistema.

avaliação, observabilidade e qualidadenível básico a intermediárioevolução lenta

O que é

O viés pode surgir nos dados, na formulação do problema, nos rótulos, no modelo, na interface ou no modo de uso.

Nem toda diferença é automaticamente injusta, por isso a análise precisa considerar contexto, grupos afetados e consequências.

Como funciona

Sistemas aprendem e aplicam padrões dentro de escolhas humanas e institucionais. Amostras desiguais ou variáveis substitutas podem reproduzir distorções.

A gestão exige mapear impactos, medir resultados por grupos pertinentes, documentar decisões e criar mecanismos de revisão.

Um exemplo

Um modelo treinado apenas com portfólios de uma região pode avaliar estilos de outras regiões com menor consistência, ainda que a métrica média pareça boa.

Onde aparece na prática

  • Seleção: Auditar critérios e resultados em decisões sobre pessoas.
  • Crédito e seguro: Avaliar disparidades e justificativas em usos regulados.
  • Design e imagem: Revisar estereótipos e ausência de grupos nas saídas.

Conceitos que costumam ser confundidos

  • Viés estatístico × dano: Um desvio mensurável e um impacto injusto se relacionam, mas não são conceitos idênticos.
  • Modelo × sistema: O risco pode surgir também na coleta, interface, regra de negócio e decisão humana.

Limitações e riscos

Não existe uma única métrica de equidade adequada a todos os contextos.

Remover um atributo sensível não impede que outras variáveis funcionem como aproximações.

Perguntas frequentes

Neutralidade dos dados elimina viés?

Dados não são neutros por definição; refletem processos de coleta, categorias e decisões anteriores.

Uma auditoria única resolve o problema?

Não. Mudanças de dados, população e uso exigem acompanhamento contínuo.

Fontes principais

Revisado em 2026-10-18.