Seis formas de as respostas de IA no atendimento darem errado

A IA escreve com confiança, mesmo quando está errada. Seis falhas aparecem sem parar.

• Respostas erradas sobre a política, ditas com confiança. O modelo afirma uma regra de reembolso ou um prazo de garantia que não existe. Em 2024, num caso de um tribunal canadense, Moffatt v. Air Canada, a companhia aérea foi responsabilizada por uma informação errada sobre reembolso que o chatbot do site dela deu a um cliente. Na prática, a empresa argumentou que o chatbot era uma entidade jurídica separada. O tribunal não aceitou o argumento.
• Promessas não aprovadas. O rascunho oferece um reembolso, uma troca ou uma data de entrega que ninguém aprovou.
• Respostas com o tom errado. Um "Ótima notícia!" animado para alguém que está irritado, que perdeu dinheiro ou que está de luto.
• Recursos do produto inventados. O rascunho descreve um recurso, uma configuração do app ou uma opção de cor que não existe.
• Não perceber o sinal de que é preciso uma pessoa. O cliente diz que quer falar com uma pessoa, ou que já reclamou duas vezes. O bot continua respondendo.
• Deslizes de privacidade. Alguém cola um número de cartão, um endereço ou uma informação de saúde numa ferramenta externa para "ter uma resposta melhor".

Um prompt é a mensagem que você envia para a ferramenta de IA. Este aqui protege contra a maioria das seis falhas:

Escreva um rascunho de resposta para a mensagem do cliente abaixo. Use só a política que eu colar. Não prometa reembolso, data ou recurso que a política não informe. O cliente está irritado, então mantenha um tom simples e calmo. Se ele pedir uma pessoa, diga que uma pessoa vai assumir o atendimento.

Política: [cole o texto da central de ajuda]
Mensagem: [cole aqui, sem nomes, números de cartão e endereços]

Experimente