O chatbot confirmou. A informação era falsa. Quem fica com o prejuízo?

O atendimento disse que ele podia comprar. Depois da compra, a companhia disse que o atendimento estava errado.

Jake Moffatt precisava viajar após a morte da avó. Ao consultar a Air Canada sobre a tarifa de luto, recebeu do chatbot uma orientação: pagar o preço normal e pedir a redução depois. Seguiu o conselho. Quando tentou receber a diferença, descobriu que a empresa não aceitava o pedido após a viagem. Guardara a conversa; acabou levando-a a um tribunal.¹

Nos Estados Unidos, outros usuários de um sistema de conversa também chegaram a um tribunal com respostas salvas. Eram advogados que haviam pedido ao ChatGPT decisões judiciais para defender um cliente. As referências pareciam completas, mas os processos não existiam. A tentativa de usá-los terminou numa sanção de 5 mil dólares.²

O passageiro que confiou na mensagem foi indenizado. Os profissionais que confiaram na pesquisa foram punidos. Para entender a diferença, é preciso sair da tela e acompanhar o que cada pessoa fez com a resposta.

Chatbot é um programa que conversa com o usuário. O nome não esclarece como produz as mensagens: o ChatGPT gera texto, enquanto os autos canadenses não identificam a tecnologia usada pela Air Canada. A questão comum aos casos é a confiança que aquelas mensagens despertaram.

O link certo não corrigiu a resposta errada

Em novembro de 2022, Moffatt precisava viajar de Vancouver a Toronto. O chatbot — o programa de conversa no site da empresa — informou um prazo de noventa dias após a emissão para solicitar a tarifa de luto retroativamente. Na mesma resposta, indicou uma página cuja política não permitia aquele pedido depois da viagem.

A resposta errada continha, portanto, um caminho para a regra certa. A empresa sustentou que Moffatt poderia tê-la consultado. Isso deixava ao passageiro a tarefa de decidir qual das duas partes do site merecia confiança.

O tribunal da Colúmbia Britânica, uma província canadense, recusou esse argumento. A companhia havia fornecido informação enganosa por falta do cuidado necessário; Moffatt tinha motivos razoáveis para confiar nela e sofrera um prejuízo por isso. Não havia razão evidente para ele saber que uma parte do site era confiável e a outra não. Em fevereiro de 2024, a empresa foi condenada a pagar 650,88 dólares canadenses de indenização, além de juros e taxas.¹

Antes do julgamento, o atendimento já reconhecera por e-mail que o chatbot havia usado palavras enganosas. A admissão não devolveu o dinheiro. Entre corrigir uma frase e reparar o que alguém fez por causa dela, havia uma viagem comprada.

O advogado pediu ao chatbot que conferisse o chatbot

Roberto Mata processava a Avianca por uma lesão que atribuía a um carrinho de serviço durante um voo. Para sustentar sua posição, os advogados de Mata apresentaram precedentes: decisões de outros processos que poderiam ajudar o tribunal a julgar aquele caso.

Steven Schwartz fizera a pesquisa com o ChatGPT. Peter LoDuca assinara o documento. Quando os advogados da companhia e o tribunal não conseguiram localizar várias das decisões, solicitaram cópias. O material apresentado trouxe mais inconsistências. O juiz Kevin Castel identificou seis precedentes fictícios, com citações e trechos fabricados.²

Um anexo preserva a tentativa de Schwartz de confirmar o que encontrara. Ele perguntou ao próprio ChatGPT se as referências eram falsas. O programa reafirmou que existiam e citou Westlaw e LexisNexis, bases conhecidas de pesquisa jurídica.

Conversa reproduzida no anexo B de Mata v. Avianca, página 43, girada para facilitar a leitura. Documento judicial.

A resposta tinha adquirido nomes respeitáveis, mas continuava sem decisões. Os nomes das bases davam à resposta a aparência de um endereço verificável. Faltava fazer a viagem: abrir a base, encontrar o processo e conferir o que havia sido decidido. Perguntar novamente ao ChatGPT produzira outra mensagem, não essa verificação.

A sequência de alertas pesou no julgamento. Castel não tratou o uso de inteligência artificial como uma infração por si só. Examinou a entrega de referências falsas e a insistência nelas mesmo depois de pedidos de esclarecimento. A penalidade de 5 mil dólares foi imposta conjuntamente aos dois advogados e ao escritório, além de outras providências.

O prejuízo também ultrapassava o erro de quem pesquisou. Os advogados da outra parte perderam tempo tentando encontrar processos inexistentes, e o tribunal teve de investigar o material. A ordem de sanções chama atenção para esse trabalho transferido aos outros. Uma resposta inventada não fica confinada à tela quando alguém a apresenta como prova.²

O contraste começa a se esclarecer. A Air Canada controlava a oferta sobre a qual seu atendimento falava. Já os advogados apresentavam uma pesquisa ao tribunal e tinham o dever de conferir as decisões citadas. A responsabilidade não desapareceu em nenhum dos casos quando a frase passou a ser produzida por um programa.

E se o atendimento fosse no Brasil?

Os julgamentos estrangeiros não decidem um caso brasileiro. Aqui, porém, a discussão sobre informação errada de fornecedores já encontra regras no Código de Defesa do Consumidor. O artigo 30 prevê que uma informação suficientemente precisa sobre o produto ou serviço, veiculada por qualquer meio, obriga o fornecedor e integra o contrato. O artigo 14 trata de danos por defeitos do serviço e por informações insuficientes ou inadequadas, com as condições e exclusões previstas na lei.³

Se houver recusa de cumprimento da oferta, o artigo 35 prevê alternativas como exigir seu cumprimento, aceitar prestação equivalente ou encerrar o contrato, com restituição e perdas e danos. A aplicação depende da mensagem, do que foi contratado e das circunstâncias do prejuízo. O primeiro passo da análise é bastante concreto: recuperar o que a empresa informou e o que o consumidor fez a partir dessa informação.

As decisões não resolveram toda a cadeia de responsabilidades. Não julgaram, por exemplo, uma eventual obrigação de indenizar por parte de quem desenvolveu os sistemas. Julgaram a companhia que informou seu cliente e os profissionais que apresentaram referências falsas. Estender as conclusões a outros envolvidos exigiria examinar outras relações e outros fatos.

Nos dois casos, a conversa salva permite acompanhar o momento em que palavras viraram uma ação: uma passagem comprada, uma petição entregue. Depois do erro, também houve escolhas. A companhia recusou a diferença; os advogados insistiram nas referências mesmo após os alertas.

Moffatt procurara o atendimento para saber como agir e seguiu a orientação da empresa. Os advogados procuraram o programa para obter material que ainda lhes cabia conferir. As telas se pareciam. Ao decidir quem ficaria com o prejuízo, os tribunais olharam para as obrigações de quem estava dos dois lados delas.

Notas e fontes

1. Civil Resolution Tribunal da Colúmbia Britânica, Moffatt v. Air Canada, 2024 BCCRT 149, decisão de 14 de fevereiro de 2024, especialmente parágrafos 24–44. A condenação foi de CAD 650,88 de indenização, totalizando CAD 812,02 com juros anteriores à decisão e taxas. Os autos não esclarecem se o chatbot era generativo. ↩ ↩²

2. Tribunal federal do Distrito Sul de Nova York, ordem de sanções em Mata v. Avianca, juiz Kevin Castel, 22 de junho de 2023. A ordem registra seis precedentes fictícios, a sequência de alertas e a sanção conjunta de US$ 5 mil aos dois advogados e ao escritório, além de outras providências. ↩ ↩² ↩³

3. Brasil, Código de Defesa do Consumidor, Lei nº 8.078/1990, texto compilado consultado em 14 de setembro de 2026, artigos 14, 30 e 35. A aplicação a uma situação de atendimento automatizado depende dos fatos e do enquadramento jurídico; os julgamentos canadense e americano não foram apresentados como precedentes vinculantes no Brasil. ↩