Seis formas en que fallan las respuestas de soporte de la IA

La IA escribe con seguridad, incluso cuando se equivoca. Hay seis fallas que aparecen una y otra vez.

• Respuestas sobre políticas equivocadas, dichas con seguridad. El modelo afirma una regla de reembolso o un periodo de garantía que no existe. En 2024, un caso de un tribunal canadiense, Moffatt v. Air Canada, declaró a la aerolínea responsable de la información equivocada sobre reembolsos que el chatbot de su sitio web le dio a un cliente. En la práctica, la empresa argumentó que el chatbot era una entidad legal separada. El tribunal no lo aceptó.
• Promesas no aprobadas. El borrador ofrece un reembolso, un reemplazo o una fecha de entrega que nadie aprobó.
• Respuestas con el tono equivocado. Un alegre "¡Buenas noticias!" para alguien que está enojado, que perdió dinero o que está de duelo.
• Funciones del producto inventadas. El borrador describe una función, un ajuste de la app o una opción de color que no existe.
• No captar la señal de que hace falta una persona. El cliente dice que quiere hablar con una persona, o que ya se quejó dos veces. El bot sigue respondiendo.
• Descuidos de privacidad. Alguien pega un número de tarjeta, una dirección o un dato de salud en una herramienta externa para "obtener una mejor respuesta".

Un prompt es el mensaje que le envías a la herramienta de IA. Este te protege de la mayoría de las seis fallas:

Redacta una respuesta al mensaje del cliente de abajo. Usa solo la política que pego. No prometas un reembolso, una fecha ni una función que la política no indique. El cliente está molesto, así que mantén un tono sencillo y tranquilo. Si pide hablar con una persona, di que una persona se hará cargo.

Política: [pega el texto del centro de ayuda]
Mensaje: [pégalo, sin nombres, números de tarjeta ni direcciones]

Pruébalo