A IA prometeu. Quem vai cumprir?

Imagine uma conversa de atendimento que termina assim: seu pedido será resolvido até sexta-feira. A frase chega depressa, redigida com segurança, talvez acompanhada de um pedido de desculpas pelo transtorno. Você deixa de procurar outra solução. Adia uma compra, avisa alguém, reserva a manhã. Na sexta, descobre que nenhum pedido foi aberto. O diálogo ocorreu; o trabalho, não. Entre uma coisa e outra, você já gastou uma parcela da vida.

O erro mais fácil de identificar está na informação sobre o prazo. O mais interessante aconteceu antes: uma frase reorganizou o futuro de quem a leu. É por isso que a discussão sobre inteligência artificial perde algo quando se concentra apenas em saber se a resposta está correta. Certas respostas fazem mais do que informar. Levam alguém a esperar, a desistir de uma alternativa, a entregar uma decisão. Precisam ser examinadas também pelo compromisso que põem em circulação.

Uma IA capaz de conversar com desenvoltura torna esse problema especialmente visível, mas não o inventou. Empresas já prometiam por formulários, gravações, cartas e atendentes impedidos de resolver o que ouviam. A novidade está na possibilidade de produzir, para cada pessoa, uma fala com a forma de atenção individual. A resposta parece nascer de sua dificuldade específica. Isso pode ser útil e pode ser verdadeiro enquanto descrição do diálogo. Ainda falta saber o que essa atenção consegue mover fora dele.

Uma conversa não termina na última resposta

Em “Computing Machinery and Intelligence”, de 1950, Alan Turing substitui a pergunta geral sobre máquinas pensantes por um problema mais delimitado. Parte de um jogo em que um interrogador tenta distinguir um homem de uma mulher por respostas escritas; o homem tenta induzi-lo ao erro. Depois pergunta o que aconteceria se uma máquina ocupasse esse lugar. A escrita afasta pistas do corpo e da voz. Turing reconhece, aliás, a objeção de que uma máquina poderia pensar de maneira diferente da humana. Seu experimento não precisava resolver de antemão toda a filosofia da mente.

O cliente de um serviço tem, porém, um problema que o interrogador do jogo pode deixar de lado: vai depender do que ouviu. Um diálogo convincente é uma realização diferente de uma obrigação sustentada ao longo do tempo. A conversa produz efeitos depois de desaparecer da tela, quando já não há um interlocutor presente para reformular o pedido ou corrigir um mal-entendido.

Podemos imaginar duas máquinas igualmente hábeis em explicar como reservar um quarto. Uma apenas descreve o procedimento; outra está autorizada a fazer a reserva, consulta a disponibilidade e emite uma confirmação reconhecida pelo hotel. A qualidade verbal das duas pode ser idêntica. O que permite preparar a mala é a ligação entre a segunda resposta e uma organização capaz de receber o hóspede. Acrescentar essa ligação não diminui o feito linguístico. Esclarece a natureza da confiança que ele merece.

Seria injusto cobrar de Turing a resposta a essa questão administrativa e moral. Mais útil é estender sua disposição para trocar perguntas grandiosas por diferenças verificáveis. Diante de uma assistência automatizada, podemos perguntar que ação ocorreu, como será reconhecida amanhã e quem poderá corrigi-la. São perguntas menos espetaculares do que a existência de uma mente na máquina. Para a pessoa que precisa chegar ao hotel, têm uma urgência maior.

A atenção que o leitor completa

Em 1966, Joseph Weizenbaum descreveu ELIZA, um programa que construía respostas por regras de decomposição e recombinação de frases, acionadas por palavras-chave. Nos roteiros discutidos no artigo, a conversa imitava certos procedimentos de uma entrevista psicoterapêutica. Essa moldura fazia diferença: uma pergunta que revelaria desconhecimento em outra situação podia ser recebida como convite a continuar falando. Weizenbaum chamava a atenção para o conhecimento e a compreensão que o próprio interlocutor atribuía ao programa.

ELIZA não é uma descrição técnica suficiente dos modelos atuais. A comparação útil está no papel da situação. Quando um texto aparece no espaço de atendimento de uma empresa, não lemos somente a sequência de palavras. Lemos também o lugar de onde ela parece vir. A marca no alto da página, o acesso ao histórico do pedido e o tratamento pelo nome oferecem razões para supor que aquela conversa pertence a uma relação de serviço.

Assim, nem toda confiança numa máquina é credulidade. Uma pessoa pode saber perfeitamente que conversa com um sistema automático e, ainda assim, esperar que a organização honre o que ele confirmou. O mesmo acontece com uma passagem emitida sem intervenção humana perceptível. Não é necessário atribuir sentimentos ao bilhete para contar com o embarque. O usuário pode estar enganado sobre a capacidade operacional de um chatbot sem estar enganado sobre a natureza artificial de seu interlocutor.

Essa diferença importa porque o conselho para não antropomorfizar as máquinas pode acabar cobrando do usuário a correção de um problema que a própria interface organizou. Se um serviço se apresenta como capaz de resolver, a expectativa de resolução não nasce apenas da imaginação de quem pede. Foi convidada. A pergunta cultural passa a ser como distribuímos a obrigação de compreender: quanto o cliente deve saber sobre o funcionamento do sistema antes que a empresa tenha de sustentar suas palavras?

Não há resposta única para todos os usos. Num exercício literário, a frase “estarei à sua espera” pode criar uma cena sem reservar nenhum encontro. Numa conversa sobre uma encomenda, as mesmas palavras podem orientar uma viagem. O contexto distingue as situações. Uma máquina que participa de ambas precisa de meios para tornar perceptível a passagem da invenção à prestação de serviço. A soltura verbal, sozinha, não fornece essa fronteira.

Prometer não é relatar uma intenção

J. L. Austin oferece um instrumento preciso em How to Do Things with Words. Dizer algo pode ser fazer algo: prometer, autorizar, advertir. O êxito desses atos depende de circunstâncias e convenções, não apenas de uma frase bem formada. Nas primeiras conferências, Austin distingue falhas que impedem um ato de se realizar de abusos, como a falta de sinceridade. Uma promessa feita de má-fé não deixa, por isso, de ter sido feita. O falante não se livra dela anunciando que nunca teve a intenção correspondente.

Aplicada à IA, essa distinção desarruma uma saída confortável. Não basta alegar que o sistema estava apenas produzindo linguagem para concluir que ninguém assumiu compromisso algum. Isso descreve um processo, mas ainda não esclarece o valor da fala no lugar em que foi emitida. Também não basta dizer que toda frase com aparência de promessa obriga automaticamente qualquer pessoa associada ao programa. É preciso reconstruir a situação: o serviço oferecido, a autoridade atribuída àquela resposta, o uso que o destinatário podia razoavelmente fazer dela.

Um caso real dá peso a essa última pergunta. Em novembro de 2022, após a morte da avó, Jake Moffatt consultou o chatbot da Air Canada sobre tarifas de luto. Segundo a decisão em Moffatt v. Air Canada, 2024 BCCRT 149, a resposta indicava que seria possível pedir a redução depois da viagem, dentro de noventa dias da emissão do bilhete. Moffatt comprou passagens apoiando-se nessa informação. A companhia recusou o pedido retroativo.

Em 14 de fevereiro de 2024, o Civil Resolution Tribunal da Colúmbia Britânica reconheceu, naquela disputa, responsabilidade por informação negligentemente enganosa. Determinou 650,88 dólares canadenses em indenização, além de juros e taxas processuais. Considerou razoável a confiança no chatbot, apesar de outra página do site informar a restrição correta. A decisão registra que a empresa não explicou a natureza técnica do programa; não permite identificá-lo como um modelo de linguagem generativo.

Uma informação sobre o procedimento fez alguém comprar, mesmo sem conter uma promessa explícita de pagamento. O tribunal examinou a informação e a confiança depositada nela; não julgou uma teoria geral dos atos de fala, nem estabeleceu uma regra universal para toda IA. A aproximação com a promessa está no futuro comprometido pelo destinatário. A resposta já tinha participado de uma decisão que custava dinheiro quando sua exatidão foi contestada. O preço da frase não se media pelo trabalho de redigi-la.

O problema não exige um veredito sobre a consciência das máquinas. Uma organização pode assumir compromissos por meios automáticos; uma pessoa consciente pode prometer sem condições de cumprir. São questões diferentes. Nenhuma análise da fluência, isoladamente, decide quais experiências subjetivas um sistema tem ou deixa de ter. Nenhuma incerteza sobre essas experiências torna inexistente o prejuízo de quem confiou numa confirmação.

Há pelo menos três coisas que a palavra “promessa” costuma comprimir. A primeira é o anúncio de que algo acontecerá. A segunda é a criação de uma expectativa na qual alguém pode se apoiar. A terceira é a possibilidade de cobrar explicação, correção ou reparação. Em serviços automatizados, as duas primeiras podem aparecer de imediato, enquanto a terceira exige estruturas menos visíveis: registros, autorização para agir, continuidade entre equipes, recursos para remediar uma falha.

Essa diferença produz uma tentação econômica. É possível oferecer a tranquilidade verbal agora e deixar para o futuro a descoberta de que ela não tinha sustentação. O custo da espera fica com o usuário, enquanto a conversa já pode ser contabilizada como encerrada. Trata-se de um risco de desenho e de incentivo, não de uma descrição de todo atendimento automatizado. Ele existe sempre que o serviço consegue reconhecer a satisfação momentânea com mais facilidade do que o problema resolvido.

A objeção humana

Pessoas também esquecem, improvisam, interpretam errado e usam gentileza para encerrar conversas difíceis. Um sistema que registra os pedidos e acompanha os prazos pode cumprir melhor o que promete. Insistir numa espécie de superioridade moral do atendimento humano seria sentimentalismo. Quem já precisou repetir a mesma história para vários atendentes sabe que a presença de uma pessoa em cada etapa não garante continuidade.

Se um serviço automático resolve mais problemas, permite contestar decisões e reconhece seus próprios registros, há uma razão concreta para confiar nele. Seria absurdo preferir um atraso humano só porque alguém é capaz de sentir culpa. A responsabilidade de uma organização não deve depender do remorso de seus funcionários, assim como a confiabilidade de um sistema não precisa depender de afeto.

Ao mesmo tempo, acertar frequentemente e responder por um erro são propriedades distintas. Um serviço pode funcionar em quase todas as ocasiões e abandonar justamente quem encontrou a exceção. Para esse usuário, a média excelente pouco ajuda. A confiança tem uma dimensão estatística, ligada à frequência do cumprimento, e outra política, ligada à posição de quem precisa reclamar. Uma tecnologia melhora a segunda quando torna a contestação possível, compreensível e eficaz.

Isso permite imaginar um atendimento mais ambicioso. Ao afirmar que abriu uma solicitação, ele entrega um registro que outra parte da organização reconhece. Ao dar um prazo, distingue uma estimativa de um compromisso assumido. Ao encontrar um obstáculo, comunica a mudança antes que o usuário descubra sozinho. Quando erra, não exige que a pessoa reconstrua a conversa como se estivesse pedindo um favor inédito. O passado permanece disponível para cobrar o presente.

Um protocolo, porém, pode documentar perfeitamente um abandono. Registrar a solicitação não concede a ninguém dinheiro, tempo ou autoridade para atendê-la. A cadeia só se completa quando há quem possa executar a ação ou responder pelo impedimento. Isso inclui saber recusar: um serviço que informa a tempo que não conseguirá cumprir permite ao usuário buscar outra saída. A promessa agradável pode ser menos respeitosa do que essa recusa, se ocupa um futuro que a organização não tem condições de entregar.

Nada disso requer transformar cada frase cordial num contrato ou cercar a conversa de ressalvas ilegíveis. O excesso de advertências também pode transferir trabalho: a empresa fala à vontade e deixa ao cliente a tarefa de desconfiar de tudo. Uma boa interface deve concentrar a precisão nos pontos em que a pessoa vai agir com base no que ouviu. O problema é identificar esses pontos, especialmente quando surgem no meio de uma conversa informal.

O futuro que uma frase ocupa

Considere outra situação hipotética: um assistente diz que vai lembrar um estudante de entregar um trabalho. Se existe um lembrete efetivamente programado, a frase descreve um serviço. Se o sistema apenas produziu uma resposta apropriada à conversa, o estudante pode descobrir tarde demais a diferença. Uma explicação minuciosa sobre geração de texto não lhe devolve o prazo. A distinção precisava aparecer quando ele decidiu confiar.

Aqui, a responsabilidade diz respeito também à economia da atenção. Delegamos para deixar de vigiar. Se toda tarefa entregue à máquina exige um segundo acompanhamento completo, parte da economia prometida desaparece. Isso não torna inútil a assistência: um rascunho já pode poupar trabalho. Mas produzir um rascunho e aceitar a guarda de um prazo são serviços diferentes. O vocabulário da ajuda precisa respeitar a diferença entre aliviar uma atividade e assumir sua continuidade.

O horizonte desejável não é uma máquina incapaz de usar a primeira pessoa. Trocar “eu farei” por uma expressão impessoal não produz, por encanto, um serviço responsável. Há burocracias inteiras especializadas em falar sem sujeito. Mais importante é conseguir chegar, a partir da frase, a uma instância que reconheça o que aconteceu. Uma resposta pode ser calorosa e precisa; pode também ser seca e impossível de cobrar.

Voltemos à sexta-feira. Você abre a conversa antiga e encontra a confirmação. A frase continua impecável, com a mesma pontuação tranquilizadora. Do outro lado, o atendimento solicita que explique novamente o problema. É nesse instante que um serviço merece provar sua inteligência: quando a pessoa diz que já contou tudo, já esperou, já se organizou — e coloca sobre a mesa a palavra que recebeu.

Fontes e leituras

• Alan M. Turing, “Computing Machinery and Intelligence”, Mind, 59, n.º 236, 1950, pp. 433–460. Em especial, seções 1 e 2, sobre a formulação e os limites do jogo de imitação.
• Joseph Weizenbaum, “ELIZA — A Computer Program for the Study of Natural Language Communication Between Man and Machine”, Communications of the ACM, 9, n.º 1, 1966, pp. 36–45. Descrição do programa e discussão sobre o papel do interlocutor.
• J. L. Austin, How to Do Things with Words, 1962. Conferências I–IV: atos de fala, condições de realização e diferença entre nulidade e insinceridade.
• Civil Resolution Tribunal da Colúmbia Britânica, Moffatt v. Air Canada, 2024 BCCRT 149, decisão de 14 de fevereiro de 2024, especialmente §§ 13–18, 24–32 e 44.