Sechs Arten, wie KI-Antworten im Support danebengehen

KI schreibt selbstbewusst, auch wenn sie falschliegt. Sechs Fehler tauchen immer wieder auf.

• Selbstbewusst falsche Antworten zur Richtlinie. Das Modell nennt eine Erstattungsregel oder eine Garantiezeit, die es nicht gibt. 2024 hat ein kanadisches Tribunal im Fall Moffatt v. Air Canada die Airline für falsche Erstattungsinfos haftbar gemacht, die der Chatbot auf ihrer Website einem Kunden gegeben hatte. Die Firma argumentierte im Grunde, der Chatbot sei eine eigene juristische Person. Das Tribunal ließ das nicht gelten.
• Nicht genehmigte Versprechen. Der Entwurf bietet eine Erstattung, einen Ersatz oder einen Liefertermin an, den niemand genehmigt hat.
• Antworten ohne Gespür für den Ton. Ein fröhliches „Tolle Neuigkeiten!“ an jemanden, der wütend ist, Geld verloren hat oder trauert.
• Erfundene Produktfunktionen. Der Entwurf beschreibt eine Funktion, eine App-Einstellung oder eine Farbvariante, die es nicht gibt.
• Das menschliche Signal übersehen. Der Kunde sagt, dass er mit einem Menschen sprechen will oder sich schon zweimal beschwert hat. Der Bot antwortet einfach weiter.
• Datenschutzpannen. Jemand kopiert eine Kartennummer, eine Adresse oder eine Gesundheitsangabe in ein externes Tool, um „eine bessere Antwort zu bekommen“.

Ein Prompt ist die Nachricht, die du an das KI-Tool schickst. Dieser schützt vor den meisten der sechs Fehler:

Entwirf eine Antwort auf die Kundennachricht unten. Nutz nur die Richtlinie, die ich einfüge. Versprich keine Erstattung, kein Datum und keine Funktion, die nicht in der Richtlinie steht. Der Kunde ist verärgert, also halte den Ton schlicht und ruhig. Wenn er nach einem Menschen fragt, sag, dass ein Mensch übernimmt.

Richtlinie: [Text aus dem Hilfe-Center einfügen]
Nachricht: [hier einfügen, ohne Namen, Kartennummern und Adressen]

Probier es aus