Six façons dont les réponses de l'IA au service client se trompent

L'IA écrit avec assurance, même quand elle se trompe. Six erreurs reviennent sans cesse.

• Des réponses fausses et sûres d'elles sur les règles. Le modèle annonce une règle de remboursement ou une durée de garantie qui n'existe pas. En 2024, dans l'affaire Moffatt v. Air Canada, un tribunal canadien a tenu la compagnie aérienne pour responsable des informations de remboursement erronées que le chatbot de son site avait données à un client. L'entreprise soutenait, en gros, que le chatbot était une entité juridique distincte. Le tribunal ne l'a pas accepté.
• Des promesses non autorisées. Le brouillon propose un remboursement, un remplacement ou une date de livraison que personne n'a validé.
• Des réponses qui ignorent le ton. Un joyeux « Bonne nouvelle ! » à quelqu'un qui est en colère, qui a perdu de l'argent ou qui est en deuil.
• Des fonctionnalités inventées. Le brouillon décrit une fonctionnalité, un réglage de l'application ou un coloris qui n'existe pas.
• Le signal humain ignoré. Le client dit qu'il veut parler à une personne, ou qu'il s'est déjà plaint deux fois. Le bot continue de répondre.
• Des fuites de données personnelles. Quelqu'un colle un numéro de carte, une adresse ou une information de santé dans un outil externe pour « avoir une meilleure réponse ».

Un prompt est le message que vous envoyez à l'outil d'IA. Celui-ci protège contre la plupart des six erreurs :

Rédige une réponse au message du client ci-dessous. Utilise seulement la politique que je colle. Ne promets pas de remboursement, de date ou de fonctionnalité que la politique n'indique pas. Le client est contrarié, donc garde un ton simple et calme. S'il demande une personne, dis qu'une personne va prendre le relais.

Politique : [collez le texte du centre d'aide]
Message : [collez-le, sans les noms, les numéros de carte et les adresses]

Essayez