Alucinação de IA no atendimento é quando o chatbot afirma, com toda a convicção, um preço, um prazo ou uma regra que não existe. Ele nunca diz "não sei" — prefere preencher o buraco com algo que soa perfeito. E, no atendimento ao cliente, esse buraco custa dinheiro e, às vezes, processo.
Não é bug raro nem detalhe técnico. É como o modelo funciona por padrão: ele completa o texto mais provável, não consulta uma verdade. Se você liga um chatbot no WhatsApp sem amarrar de onde ele tira cada resposta, cedo ou tarde ele promete o que a sua empresa não vai cumprir.
O caso que virou referência jurídica
Em fevereiro de 2024, um tribunal civil da Colúmbia Britânica, no Canadá, condenou a Air Canada por causa do próprio chatbot. A ferramenta inventou uma política de reembolso por luto que a companhia não oferecia daquela forma. O cliente seguiu a orientação do bot, teve o pedido negado depois — e o tribunal mandou a empresa honrar o que a IA havia prometido, por "negligent misrepresentation" (informação enganosa por negligência). O caso foi noticiado por veículos como Forbes e AI Business.
A defesa da companhia foi tentar dizer que o chatbot era "uma entidade separada", responsável pelas próprias respostas. O tribunal derrubou na hora: o bot é parte do site da empresa, e a empresa responde por tudo que ele diz. Foi pouco dinheiro no processo — cerca de 650 dólares canadenses —, mas virou referência. O recado ficou: no atendimento, a IA fala em nome da sua marca.
No Brasil o princípio é o mesmo. Pelo Código de Defesa do Consumidor, a oferta transmitida obriga o fornecedor — e um chatbot é canal do fornecedor. Com o Marco Legal da IA avançando e a ANPD colocando inteligência artificial no radar de fiscalização em 2026, tratar "foi o robô que falou" como desculpa é ingenuidade jurídica. A responsabilidade é de quem liga a ferramenta.
Por que o modelo inventa (e por que isso não some sozinho)
Um LLM como Claude, GPT ou Gemini não guarda um banco de fatos sobre a sua empresa. Ele prevê a próxima palavra mais provável dado o contexto. Sem a informação certa na frente dele, o mais provável costuma ser uma resposta bem escrita e errada. Confiança não é sinônimo de acerto — e é justamente a confiança que engana o cliente.
Os números confirmam. Um benchmark de 2026 com 37 modelos mediu taxas de alucinação entre 15% e 52%, dependendo da tarefa; os cinco melhores modelos ficam na faixa de 10% a 20%. Em geração aberta, sem fonte, a taxa sobe para algo entre 40% e 80%. Já quando o modelo apenas resume um texto que recebeu, cai para menos de 2%. A lição está aí: o problema raramente é o modelo, é deixá-lo responder sem base.
Onde a alucinação mais dói no atendimento
Pergunta factual e específica é o terreno mais perigoso: "qual o prazo de entrega para o meu CEP?", "esse plano cobre tal coisa?", "tem desconto à vista?". São exatamente as perguntas que fecham venda — e as que o bot mais inventa quando não tem os dados reais conectados. Onde você mais precisa de precisão é onde ele mais escorrega.
As quatro camadas que seguram a alucinação
Não existe um botão de "desligar alucinação". O que funciona é defesa em camadas, da mais barata para a mais cara: cada uma corta um tipo de erro, e juntas derrubam a maior parte. Um estudo de Stanford de 2024 mostrou que combinar recuperação de dados, ajuste com feedback humano e guardrails reduziu alucinações em até 96% frente ao modelo cru. Não é zero — mas é outra realidade.
- Aterramento (grounding): proíba o modelo de responder de cabeça. A regra no prompt é explícita — só responda com base no material fornecido; se não estiver ali, não invente. É o ajuste mais barato e o que remove a maior fatia de erro.
- RAG (buscar antes de responder): conecte o bot à base real da empresa — tabela de preços, política de troca, prazos, catálogo. Antes de escrever, ele busca o trecho certo e responde ancorado nele. É o que transforma "achismo provável" em "consulta ao dado".
- Abstenção com limite de confiança: ensine o bot a dizer "não tenho essa informação, vou te passar para o time" quando a certeza for baixa. Um "não sei" honesto vale mais que uma resposta inventada — funciona como disjuntor: na dúvida, ele para em vez de arriscar.
- Escalada para humano: em pergunta sensível (jurídica, financeira, reclamação), o bot entrega para uma pessoa. A IA resolve o volume repetitivo; o humano fica com o que tem risco. Essa fronteira bem desenhada é o que separa automação de dor de cabeça.
Repare na ordem: aterramento e abstenção custam pouco e resolvem muito; o RAG exige integração — o tipo de amarração que uma boa integração via API resolve, ligando o bot ao sistema onde o dado vive de verdade. Mas mesmo o RAG bem feito não zera o risco: análises de 2025 mostram sistemas RAG corporativos ainda alucinando acima de 10% em perguntas reais. Por isso as camadas se somam, não se substituem.
Como montar um atendimento com IA que não inventa
Na prática, dá para transformar isso num roteiro. Vale tanto para quem vai construir um chatbot de atendimento com IA do zero quanto para quem vai contratar e precisa saber o que cobrar do fornecedor.
- Mapeie as 20 perguntas que mais chegam e a resposta verdadeira de cada uma. É a sua base de conhecimento — sem ela, não há RAG que funcione.
- Escreva no prompt a regra de ouro: responder só com base na base; fora dela, encaminhar. Sem essa trava, o modelo volta a inventar.
- Conecte a base viva ao bot (preço, estoque e prazo saem do sistema, não de um PDF de seis meses atrás). Dado velho também é alucinação, só que sua.
- Defina os gatilhos de escalada para humano por escrito: assunto jurídico, valor acima de um limite, cliente irritado, pergunta fora do escopo.
- Teste com casos reais antes de ligar para o público: rode de 50 a 100 perguntas de verdade e confira cada resposta. Meça a taxa de erro, não confie no "pareceu bom".
- Monitore em produção: registre o que o bot respondeu, revise amostras toda semana e corrija a base quando ele errar. Alucinação não se resolve uma vez; se mantém sob controle.
Esse último ponto separa amador de profissional. Ferramentas de avaliação (as chamadas evals) medem quantas respostas do bot batem com a base real, em vez de você descobrir o erro pela reclamação do cliente. Sem medir, você pilota no escuro — e o cliente vira o seu teste de qualidade.
A pergunta certa não é "a IA pode errar?". Toda IA pode. É "quando ela não souber, ela inventa ou ela passa para a gente?". Essa única decisão separa um atendimento que vende de um que vira processo.
Perguntas frequentes
O que é alucinação de IA no atendimento?+
É quando o chatbot responde com convicção uma informação falsa — um preço, prazo ou política que não existe. Acontece porque o modelo completa o texto mais provável em vez de consultar um dado real; sem a informação certa conectada, ele preenche o vazio com algo que só parece correto.
Dá para eliminar 100% das alucinações?+
Não com honestidade. Mesmo os melhores modelos erram de 10% a 20% em tarefas factuais, e sistemas RAG corporativos ainda passam de 10% em perguntas reais. Dá, sim, para derrubar o erro drasticamente com defesa em camadas — grounding, RAG, abstenção e escalada para humano — e para fazer o bot dizer "não sei" em vez de inventar.
Minha empresa é responsável se o chatbot der uma informação errada?+
Sim. No caso Air Canada, em 2024, o tribunal condenou a companhia pelo que o bot prometeu e rejeitou a ideia de que o chatbot seria uma entidade separada. No Brasil, pelo Código de Defesa do Consumidor, a oferta transmitida obriga o fornecedor. Na prática, a IA fala em nome da sua marca.
RAG resolve a alucinação sozinho?+
Ajuda muito, mas não sozinho. O RAG conecta o modelo à sua base real e reduz o erro de forma expressiva, só que depende de base atualizada e ainda deixa uma fração de erro. Por isso ele entra junto com aterramento, limite de confiança e escalada para humano, não no lugar deles.
Como sei se o meu chatbot está inventando?+
Medindo. Rode um conjunto de perguntas reais e confira cada resposta contra a informação verdadeira antes de liberar para o público, e revise amostras em produção toda semana. Sem avaliação (evals), você só descobre o erro pela reclamação do cliente.
Vale a pena automatizar o atendimento mesmo com o risco de alucinação?+
Vale, desde que bem amarrado. A IA dá conta do volume repetitivo com custo baixo, e o risco fica controlado quando ela sabe a hora de passar para o humano. O erro caro é ligar um bot solto, sem base e sem limites — aí a economia vira prejuízo.
Quer um atendimento com IA que vende sem inventar? A VELTRIX faz um diagnóstico gratuito: a gente olha as perguntas que mais chegam na sua operação, de onde vêm as respostas hoje e onde o bot pode escorregar — e desenha o fluxo com base real, limites de confiança e escalada para humano, usando automação inteligente com IA. Manda as dúvidas mais comuns dos seus clientes que a gente mostra onde está o risco.
Quer aplicar isso no seu negócio?
Diagnóstico gratuito com nosso time. Sem compromisso.