Alucinação em inteligência artificial: o que significa

De onde vem o termo alucinação em inteligência artificial?

Em uma frase: o termo nasceu na pesquisa sobre modelos de linguagem. Ele descreve um texto bem escrito e correto na gramática, mas falso ou sem base.

Uma revisão ampla do tema (preprint) define assim: conteúdo "fluente e sintaticamente correto, mas factualmente impreciso ou sem apoio em evidência externa". O manual de uso responsável de IA generativa do TCM-SP trata "incorreções factuais" como sinônimo de alucinação.

Para quem quer mais. Uma tese do MIT CSAIL separa dois tipos:

• Alucinação paramétrica: a resposta foge dos fatos do mundo porque a informação falta ou está fraca nos parâmetros do modelo. Isso é comum com fatos raros, conceitos culturais específicos e conteúdo fora do inglês.
• Alucinação contextual: a resposta contradiz ou ignora um texto que foi entregue ao modelo. Isso acontece até quando a informação correta está ali.

As causas são várias. Um estudo sobre perguntas médicas cita falhas na coleta dos dados de treino, dados duplicados e estratégias de geração que introduzem aleatoriedade. Um exemplo dessas estratégias é a amostragem top-k, que escolhe entre as palavras mais prováveis em vez de pegar sempre a primeira. O mesmo estudo cita também o efeito "bola de neve": um erro pequeno no começo puxa erros maiores depois. O HALOGEN, apresentado na ACL, conclui que as alucinações não parecem ter uma causa única e isolada.

Como o termo é usado hoje?

Em uma frase: os próprios laboratórios usam o termo para descrever um limite conhecido dos seus modelos, e os testes públicos tentam medir esse limite.

O model card do Gemini 4 Carbon, do Google DeepMind, foi publicado em 10 de novembro de 2026. Ele reconhece as alucinações como uma limitação geral dos modelos de fundação. Um model card é a ficha técnica do modelo, com usos, métricas e riscos.

Na medição, o termo aparece em formas diferentes. O teste Harvey LAB-AA v1.1, da Artificial Analysis, avaliou modelos como GPT-6 Astra, Claude Opus 5.5 e Grok 4.7. Ele mede ao mesmo tempo se a resposta cumpre a tarefa e se está livre de alucinação. Outros testes medem com que frequência o modelo inventa uma resposta em vez de admitir que não tem a informação.

Por isso, um número de um teste não se compara diretamente com o número de outro. Rankings de preferência, como os de arena, medem outra coisa e não são uma taxa de alucinação (verificado em nov/2026).

Exemplos citados na tese do MIT CSAIL:

• dizer que a Torre Eiffel fica em Berlim;
• inventar referências com formato de citação convincente;
• citar jurisprudência inexistente, o que já levou a sanções contra advogados que confiaram em peças geradas por IA.

Alucinação é a mesma coisa que mentira da IA?

Em uma frase: não. Mentir exige intenção. O modelo gera o texto mais plausível, e às vezes esse texto é falso.

Veja as confusões mais comuns.

• "Só acontece quando falta informação." Não é só isso. No HALOGEN, numa tarefa de resumo, 83% das alucinações vinham de o modelo processar mal o texto fornecido. Só 17% vinham de um fato externo introduzido na resposta.
• "Entregar documentos resolve." Ajuda, mas não resolve tudo. RAG (retrieval-augmented generation) busca documentos confiáveis e os coloca no pedido para fundamentar a resposta. Mesmo assim, o modelo pode ignorar o que recebeu. E a busca não ajuda quando a base consultada não tem a informação.
• "Se a resposta soa segura, está certa." O modelo apresenta o falso com a mesma fluência e confiança do verdadeiro. A revisão sobre o tema aponta que métodos baseados na confiança do próprio modelo costumam falhar quando ele está muito confiante numa resposta errada.

O que você pode fazer, em qualquer modelo (Gemini, Claude, GPT ou outro):

• peça as fontes e abra os links;
• confira nomes, datas, números e citações;
• desconfie mais em temas raros.

O manual do TCM-SP chama de "controle de alucinação" o uso combinado de RAG, verificadores e citações obrigatórias, sempre com supervisão humana. Em saúde, dinheiro ou lei, a IA ajuda a entender o assunto, mas a decisão deve passar por um profissional.