IA Lab by amano
Neste termo

Hallucination

Hallucination · Alucinação em IA · Confabulation · Fabricação

Hallucination, ou alucinação em IA, é o termo popular para situações em que um modelo generativo produz conteúdo incorreto, inventado, contraditório ou sem fundamento suficiente e o apresenta de forma plausível. O NIST utiliza o termo confabulation para descrever esse fenômeno e evitar antropomorfização. Alucinações podem envolver fatos, citações, números, referências, eventos ou detalhes que parecem coerentes, mas não são sustentados pelas fontes disponíveis.

avaliação, observabilidade e qualidadenível básico a intermediárioestávelTexto + visual

Glossário visual · Confiabilidade e evidência · essencial

Explore o conceito em desenho

Alucinação é a geração de conteúdo incorreto, inventado ou sem sustentação adequada, apresentado como informação factual. Uma resposta fluente ou acompanhada de uma referência pode continuar ultrapassando o que a fonte permite afirmar.

Ler o texto completo

A ficha sustenta cada afirmação da resposta?

O desenho apresenta a primeira etapa. Os dois cenários completos estão disponíveis em texto logo abaixo.

Como lerA e B repetem dados da ficha, mas C introduz uma aplicação que o documento não sustenta. C, à esquerda, é uma anotação da revisão, não uma frase original da ficha. As linhas ligam afirmações à evidência disponível. O ponto de exclamação marca a lacuna de sustentação, sem provar a impossibilidade do uso.

Etapa 1 de 5

Ler a pergunta

A pessoa pergunta: “O Painel A pode ser usado em fachada?”. O material e sua ficha são fictícios. A tarefa pede uma informação técnica factual, não uma ideia criativa nem uma hipótese de aplicação.

Leia todas as etapas: Afirmação sem sustentação
  1. Ler a pergunta. A pessoa pergunta: “O Painel A pode ser usado em fachada?”. O material e sua ficha são fictícios. A tarefa pede uma informação técnica factual, não uma ideia criativa nem uma hipótese de aplicação.
  2. Inspecionar a ficha. A ficha consultada informa acabamento natural e uso interno. Ela não informa aplicação em fachada. A ausência desse dado é relevante para a pergunta e não deve ser preenchida por associação com a aparência do material.
  3. Examinar a resposta. A resposta repete duas informações da ficha e acrescenta: “Sim, adequado para fachada”. No exemplo, essa afirmação é apresentada como se viesse da documentação, mas não há trecho que a sustente. As frases corretas ao redor podem tornar a extrapolação menos perceptível.
  4. Conferir os vínculos. A conferência relaciona cada afirmação à sua evidência. Acabamento natural e uso interno têm correspondência no documento; a indicação para fachada não tem. Uma referência à ficha inteira não resolve essa falta de sustentação. Esse diagnóstico não demonstra, por si só, que qualquer uso em fachada seja impossível.
  5. Definir o próximo passo. A indicação sem apoio deve ser retirada ou corrigida antes de orientar a especificação. O próximo passo é solicitar documentação pertinente à aplicação pretendida e submetê-la à avaliação profissional. A resposta do desenho não autoriza o uso do material.
Leia todas as etapas: Lacuna explícita
  1. Ler a pergunta. A pergunta continua sendo: “O Painel A pode ser usado em fachada?”. A tarefa e a fonte são as mesmas. O que muda é a forma como a resposta lida com uma informação que o documento não fornece.
  2. Inspecionar a ficha. A leitura identifica acabamento natural e uso interno como dados expressos na ficha. Também registra que a documentação disponível não confirma aplicação em fachada. Não transforma ausência de informação em aprovação nem em proibição universal.
  3. Examinar a resposta. A resposta declara: “A ficha informa uso interno. A aplicação em fachada não está confirmada por este documento”. Ela mantém a distinção entre o que foi consultado e o que ainda precisa ser verificado.
  4. Conferir os vínculos. A conferência encontra apoio para as duas informações expressas e para o relato da lacuna. Isso avalia a aderência à ficha deste exemplo, não a verdade absoluta do documento ou a adequação técnica do produto ao projeto.
  5. Definir o próximo passo. A saída preserva a dúvida útil e indica como avançar: pedir documentação sobre a aplicação em fachada. O profissional deve conferir a origem, a versão e a pertinência do material recebido antes de decidir. A necessidade de verificação permanece explícita.

Aplicação prática

Conferir a afirmação, não apenas a aparência da resposta.

Uma resposta sobre materiais pode combinar dados copiados corretamente com uma conclusão que a ficha não permite. No desenho, a passagem indevida acontece entre “uso interno” e “adequado para fachada”. O acabamento natural não sustenta essa mudança de aplicação.

As letras A, B e C ajudam a comparar o documento e a resposta. A verificação precisa alcançar a afirmação específica, mesmo quando a resposta cita uma fonte real. O Painel A e sua documentação são fictícios.

Limites do desenho

Sem apoio não significa automaticamente falso.

Este exemplo trata de uma afirmação sem fundamento na fonte consultada. A falta de apoio não prova o contrário da afirmação. Também não basta encontrar uma citação: a fonte precisa ser pertinente, e o trecho deve sustentar a conclusão. O desenho não avalia um material real e não substitui análise técnica.

Três estatutos de uma afirmação.

A linguagem deve mostrar qual relação a frase mantém com a evidência.

Informação expressa
A ficha declara uso interno. A resposta deve preservar o alcance dessa declaração.
Hipótese identificada
Uma possibilidade apresentada para investigação não é uma conclusão técnica confirmada.
Afirmação sem apoio
A resposta garante aplicação em fachada sem evidência pertinente.

Citar, sustentar e confirmar são verificações distintas.

Um vínculo com um documento é o início da conferência.

A referência existe?
É possível localizar o documento citado.
O trecho sustenta a frase?
A informação consultada corresponde exatamente à afirmação.
A fonte é suficiente?
Atualidade, autoridade e aplicação ao caso ainda precisam ser avaliadas.

Fontes conceituais

Roteiros e cenários: exemplos didáticos. As interações mostram simulações e não executam ações em sistemas externos.

O que é Hallucination em Inteligência Artificial?

Hallucination, ou alucinação, é o termo mais popular para descrever saídas de modelos generativos que parecem plausíveis, mas contêm fatos incorretos, detalhes inventados, referências inexistentes ou afirmações que não são sustentadas pela informação disponível.

O NIST utiliza preferencialmente o termo confabulation em seu perfil de risco para IA Generativa. A escolha busca evitar a impressão de que o sistema possui uma experiência psicológica semelhante à humana.

A IBM define AI hallucinations como respostas geradas que soam plausíveis, mas são falsas, irrelevantes ou fabricadas. Exemplos incluem estudos inexistentes, URLs inventadas, números incorretos ou eventos que nunca aconteceram.

A característica central é a combinação de plausibilidade e falta de fundamento. O problema não é apenas o modelo errar; é errar de forma que possa parecer confiável.

Por que modelos podem inventar?

Modelos generativos são treinados para produzir sequências adequadas ao contexto e aos padrões aprendidos. Eles não funcionam como um banco de dados que verifica automaticamente cada frase em uma fonte externa.

Quando o contexto não contém a informação necessária, o modelo pode continuar a geração usando padrões estatisticamente plausíveis.

A formulação pode soar correta porque o modelo aprendeu estruturas de linguagem, formatos de citações, estilo de relatórios e padrões de resposta.

Por isso, forma convincente e verdade factual são propriedades diferentes.

Alucinação não é simplesmente 'prever o próximo token'

É comum explicar hallucination dizendo apenas que LLMs predizem o próximo token. A afirmação é tecnicamente relacionada ao mecanismo de muitos modelos, mas é insuficiente como explicação de produto.

O risco depende também do treinamento, do contexto, da instrução, da disponibilidade de fontes, da tarefa, do sistema de recuperação e das políticas de resposta.

Um modelo pode gerar fatos corretos usando o mesmo mecanismo probabilístico com que produz um erro.

O problema real é quando o sistema não possui evidência suficiente, utiliza mal a evidência disponível ou não foi desenhado para admitir incerteza.

Tipos comuns de alucinação

Uma alucinação pode ser factual, como afirmar uma data ou número incorreto. Pode ser bibliográfica, como inventar um paper. Pode ser relacional, ao atribuir uma fala à pessoa errada. Pode ser documental, ao citar uma cláusula que não existe.

Também pode surgir como contradição interna: o modelo afirma algo em um parágrafo e o contrário em outro.

Em tarefas de resumo, pode inserir um detalhe que não estava no documento. Em análise, pode apresentar como evidência uma inferência que nunca foi observada.

Separar tipos de erro ajuda a construir avaliações específicas.

Referências são uma área particularmente arriscada porque modelos conhecem a forma de uma citação acadêmica ou URL.

Quando não possuem a fonte real, podem gerar um título, autor, periódico ou link estruturalmente convincente.

A presença de uma citação formatada não deve ser tratada como prova de existência.

Sistemas de pesquisa precisam conectar a geração a fontes recuperadas ou ferramentas de busca e verificar se a referência realmente existe.

Números e precisão falsa

Números específicos transmitem uma sensação de precisão.

Um modelo pode gerar percentuais, datas, preços ou estatísticas sem fonte adequada.

Quanto mais exata a afirmação, maior deveria ser a exigência de evidência verificável.

Em relatórios empresariais, uma prática segura é vincular cada número crítico à fonte e à data.

Hallucination e Retrieval Error

Em sistemas RAG, há pelo menos duas famílias de falha diferentes.

A primeira ocorre quando o mecanismo de retrieval recupera documentos errados, incompletos ou irrelevantes. A segunda ocorre quando o LLM recebe evidência adequada, mas a interpreta ou utiliza incorretamente.

A documentação de otimização da OpenAI recomenda avaliar separadamente retrieval e comportamento do modelo porque corrigir um eixo não resolve automaticamente o outro.

Isso evita culpar o LLM por uma falha que nasceu antes da geração.

RAG reduz alucinação?

RAG pode reduzir alucinações ao fornecer ao modelo informação específica, atual e autorizada no momento da resposta.

Mas não elimina o problema. A recuperação pode trazer um documento incorreto, e o modelo pode extrapolar além do texto recuperado.

Um bom sistema RAG precisa avaliar chunking, retrieval, ranking, contexto, instruções e geração.

Fontes também precisam estar atualizadas e ter autoridade adequada.

Grounding

Grounding é a prática de conectar a resposta do modelo a fontes verificáveis.

Google Cloud descreve grounding como uma maneira de vincular saídas a fontes de informação específicas e reduzir a chance de conteúdo não fundamentado.

A fonte pode ser uma Knowledge Base, web search, banco de dados ou sistema corporativo.

Grounding melhora verificabilidade, mas continua dependendo da qualidade da fonte e da interpretação do modelo.

Ferramentas e dados estruturados

Alguns fatos não deveriam ser gerados pelo modelo quando podem ser consultados de forma determinística.

Preço, saldo, disponibilidade, status de pedido e cálculo podem vir diretamente de API, banco ou ferramenta.

O modelo interpreta a pergunta e apresenta o resultado, mas não precisa inventar o valor.

Tool Use reduz o espaço em que geração probabilística é usada para dados exatos.

Citações como mecanismo de controle

Citações permitem que o usuário confira a origem da afirmação.

Elas também ajudam a aplicação a exigir que determinadas respostas sejam baseadas apenas em trechos recuperados.

Uma citação, porém, precisa apontar para a fonte real e sustentar exatamente a frase associada.

Citar um documento relevante de maneira genérica não prova todas as conclusões do texto.

Abstenção: saber dizer 'não sei'

Um sistema confiável precisa ter permissão para não responder quando evidência é insuficiente.

Prompts e políticas podem orientar o modelo a declarar ausência de informação em vez de completar lacunas.

Isso é especialmente importante em perguntas factuais de alto risco.

Uma taxa ligeiramente maior de abstenção pode ser preferível a respostas convincentes e falsas.

Confidence não é verdade

A linguagem de um modelo pode soar extremamente segura.

Tom confiante é uma característica de estilo e não uma medição confiável de probabilidade factual.

Mesmo quando plataformas expõem scores para determinadas operações, esses valores precisam ser calibrados para o caso de uso.

Usuários não devem inferir certeza a partir de fluência.

Criatividade não é Hallucination

Se o usuário pede uma história fictícia, inventar personagens e eventos é o objetivo.

O problema surge quando conteúdo inventado é apresentado como se fosse um fato do mundo real ou uma informação da fonte.

Em brainstorming, o modelo pode explorar hipóteses desde que sejam identificadas como hipóteses.

Separar fato, inferência e criação reduz confusão.

Hallucination, Bias e Misinformation

Bias descreve padrões sistematicamente distorcidos. Misinformation descreve informação falsa ou imprecisa. Hallucination descreve um mecanismo de geração não fundamentada ou incorreta.

Uma saída pode ter os três problemas ao mesmo tempo, mas eles exigem controles diferentes.

Viés pode exigir dados e avaliações de equidade. Misinformation pode exigir fontes e checagem. Hallucination pode exigir grounding, tool use e políticas de abstenção.

Taxonomias claras ajudam a diagnosticar falhas.

Aplicações de baixo e alto risco

Em ideação criativa, uma alucinação factual pode ter impacto limitado porque a saída será tratada como inspiração.

Em saúde, finanças, jurídico ou segurança, o mesmo padrão pode causar dano.

O nível de controle deve ser proporcional à consequência de um erro.

Isso inclui fontes, supervisão humana, restrições de ferramenta e validação profissional.

Evals de factualidade e groundedness

Sistemas de produção precisam medir alucinação em vez de confiar apenas em testes manuais.

Evals podem verificar factualidade, aderência às fontes, presença de citações corretas e taxa de afirmações sem evidência.

Google Cloud oferece mecanismos de grounding check que comparam uma resposta candidata com fatos fornecidos.

A avaliação deve usar perguntas representativas do domínio real.

O papel da revisão humana

Revisão humana continua importante em conteúdos de alto impacto e publicação externa.

A pessoa deve conseguir acessar as fontes e identificar quais trechos foram produzidos pelo modelo.

Revisão não pode ser apenas uma leitura rápida de fluência; precisa verificar dados críticos.

A IA pode acelerar a primeira versão sem transferir automaticamente responsabilidade.

Design de produto para reduzir alucinação

Um produto pode reduzir risco ao mostrar fontes, separar dados consultados de geração, sinalizar falta de evidência e limitar perguntas ao escopo conhecido.

Também pode usar interfaces estruturadas em vez de respostas livres quando a tarefa exige exatidão.

Logs e tracing ajudam a descobrir se a falha veio de retrieval, ferramenta ou geração.

Confiabilidade é uma propriedade da arquitetura completa, não apenas do modelo.

O que muda na prática?

Hallucination mostra por que IA generativa não deve ser confundida com mecanismo de verdade.

O modelo é excelente para transformar e sintetizar informação, mas precisa de fontes e controles quando fatos importam.

A estratégia madura não é esperar que alucinações desapareçam por completo, e sim projetar o sistema para detectar, reduzir e limitar seu impacto.

Quanto maior o risco da decisão, menor deve ser a quantidade de fatos deixados à geração sem verificação.

Leitura do desenho: da ficha do material à alegação

O esquema apresenta um material fictício chamado Painel A. A ficha disponível registra somente “acabamento natural” e “uso interno”. A pergunta é: “Pode ser usado em fachada?”. Nenhuma marca, especificação ou indicação real de produto está sendo apresentada neste exemplo.

No primeiro cenário, a IA responde “Sim, adequado para fachada”. Essa frase acrescenta uma propriedade de aplicação que a ficha não sustenta. A fluência da resposta não preenche a distância entre o dado consultado e a conclusão. O problema observável é a extrapolação da evidência disponível.

No segundo cenário, a resposta preserva o limite: “A ficha informa uso interno. A aplicação em fachada não está confirmada neste documento”. O sistema pode então indicar qual informação precisa ser obtida, sem apresentar uma decisão técnica como se já estivesse fundamentada.

O desenho não estabelece que o Painel A seja impossível de usar em fachada. Tampouco o aprova para esse uso. Ele mostra que a conclusão afirmativa não está justificada pela documentação fornecida. A decisão real exigiria informação pertinente sobre o produto e sua aplicação, analisada pelo profissional responsável.

Três estados para conferir uma afirmação

Uma forma prática de revisar uma saída é separar suas alegações e comparar cada uma com o trecho que deveria sustentá-la. Essa conferência precisa manter o mesmo produto, versão e condição de uso. Uma referência sobre outro material não resolve a lacuna só por tratar de uma aplicação semelhante.

Para este exercício, usamos três estados de leitura. Eles ajudam a descrever a relação com a fonte; não são uma certificação de veracidade do documento.

  • Sustentada pela fonte: “A ficha informa uso interno”. O trecho apresentado diz exatamente isso, sem acrescentar desempenho ou abrangência.
  • Contradita pela fonte: “A ficha não traz indicação de uso interno”. Essa afirmação entra em conflito com o texto que está visível.
  • Não sustentada pela fonte: “O painel é adequado para fachada”. A ficha não oferece a informação necessária para concluir isso. Ausência de suporte não equivale, por si só, a prova de falsidade.

Quando a referência existe, mas não sustenta a conclusão

No caso do Painel A, a IA poderia acrescentar um link correto para a ficha depois de afirmar que o material serve para fachada. O documento existiria, mas a ligação entre a conclusão e o trecho citado continuaria inadequada. A revisão precisa abrir a referência e procurar o apoio da alegação específica.

Também é possível misturar informações verificadas e inventadas em uma única frase: “O painel tem acabamento natural e é adequado para fachada”. A primeira parte reproduz a ficha; a segunda extrapola. Aprovar a frase inteira porque uma de suas partes está correta deixa o erro passar.

A correção deve preservar o que está apoiado e retirar ou qualificar o restante. Neste caso: “A ficha descreve acabamento natural e uso interno; não confirma aplicação em fachada”. Isso permite aproveitar a consulta realizada sem manter uma conclusão injustificada.

Mesmo a aderência perfeita ao documento tem um limite: a própria ficha pode estar desatualizada, ser incompleta ou não corresponder ao produto examinado. Conferir a relação entre frase e fonte é uma etapa; verificar a adequação da fonte ao trabalho é outra.

Como transformar a lacuna em uma próxima ação útil

Uma resposta com lacuna pode organizar o trabalho seguinte. No exemplo, a entrega identifica o que foi consultado, registra o dado disponível e formula a pergunta que precisa ser esclarecida. Não é necessário abandonar a tarefa nem completar a tabela com uma suposição.

A solicitação pode ser: “Precisamos da documentação do produto que trate da aplicação em fachada. A ficha recebida informa apenas uso interno. Há orientação do fabricante e documentação pertinente para avaliar essa aplicação?”. O responsável pelo projeto decide quais informações e verificações técnicas são necessárias.

Se um novo documento for fornecido, a análise deve ser refeita a partir dele. O sistema precisa conferir se o material é o mesmo e se as condições descritas correspondem à pergunta. Um documento adicional não valida retroativamente a alegação que foi emitida sem apoio.

Para testar esse comportamento, a equipe pode reapresentar a ficha com campos ausentes, dados consistentes ou trechos contraditórios. O critério é observar se a resposta preserva a evidência, localiza a lacuna e pede o esclarecimento adequado. Uma resposta mais confiante ou mais longa não significa que o problema foi resolvido.

Perguntas frequentes

O que é Hallucination em IA?

É quando um modelo gera informação incorreta, inventada ou sem fundamento suficiente com aparência plausível.

NIST usa o termo Hallucination?

O NIST prefere o termo confabulation em seu perfil de risco para IA Generativa, embora reconheça que hallucination é amplamente usado.

RAG elimina alucinações?

Não. RAG pode reduzir risco ao fornecer fontes, mas retrieval e geração ainda podem falhar.

Como reduzir Hallucination?

Usando grounding, RAG, ferramentas, fontes verificáveis, políticas de abstenção, evals e revisão humana conforme o risco.

Uma citação em uma resposta prova que a informação é real?

Não. Modelos podem inventar referências. A fonte precisa existir e sustentar a afirmação.

Criar ficção é uma alucinação?

Não quando a tarefa é explicitamente criativa. O problema é apresentar invenção como fato ou evidência.

Se a ficha não informa uma aplicação, posso concluir que ela é proibida?

Não somente por essa ausência. “A fonte não confirma” e “a aplicação é proibida” são conclusões diferentes. No exemplo do Painel A, a ficha sustenta uso interno, mas não permite aprovar nem descartar definitivamente a aplicação em fachada.

Uma resposta pode ter parte correta e parte alucinada?

Sim. Uma frase pode combinar dados presentes na fonte com uma conclusão não sustentada. A revisão deve conferir cada alegação relevante, preservando as informações apoiadas e corrigindo a extrapolação.

Como revisar uma afirmação que vem acompanhada de um link real?

Abra o documento e procure o trecho que sustenta aquela afirmação, com atenção ao produto, à versão e às condições descritas. O link pode existir e ainda assim não apoiar a conclusão apresentada.

Qual é uma resposta útil quando falta documentação do material?

Identificar a fonte consultada, informar o que ela confirma, explicar a lacuna e pedir a documentação pertinente. A IA não deve preencher a ausência com uma indicação de uso ou desempenho inventada.

Fontes principais

Revisado em 2026-09-25.