Alucinação

Quando o modelo gera algo plausível, mas falso. É consequência direta de prever o texto mais provável, não o verdadeiro.

Um LLM otimiza plausibilidade, não verdade. Por isso ele pode inventar uma referência, uma API ou um número com total confiança. Dá para reduzir alucinações com contexto melhor (RAG), restrições de saída e verificação, mas não dá para eliminá-las por decreto.

Veja também: LLM (Large Language Model), RAG (Retrieval-Augmented Generation), Eval (avaliação de LLM)