Respuesta breve
Para reducir el riesgo de que una IA dé una respuesta comercial incorrecta hay que limitar qué información puede utilizar, definir qué puede responder y establecer cuándo debe derivar la consulta a una persona.
Precios, descuentos, condiciones contractuales o compromisos que requieren autorización no deberían quedar abiertos a una respuesta improvisada.
Cuando el agente no dispone de información suficiente o la consulta queda fuera de su alcance, la respuesta correcta puede ser simplemente no responder y trasladar la consulta al equipo.
El problema
Una empresa incorpora un agente de IA para responder consultas de clientes.
Al principio parece sencillo.
¿Cuál es vuestro horario?
¿Dónde estáis?
¿Qué servicios ofrecéis?
¿Puedo pedir una cita?
El riesgo aparece cuando las preguntas empiezan a ser más específicas:
“¿Me podéis hacer un 15 % de descuento?”
“¿Este servicio incluye mantenimiento durante dos años?”
“¿Me garantizáis la entrega el viernes?”
“¿Cuánto me costaría exactamente en mi caso?”
Una respuesta que suena convincente no tiene por qué ser una respuesta correcta.
En atención comercial, inventar un precio, una condición o un compromiso puede generar un problema mucho mayor que reconocer que la consulta necesita la intervención de una persona.
La IA necesita una fuente de información aprobada
Un agente empresarial no debería responder utilizando cualquier información que encuentre o construyendo libremente condiciones comerciales.
Hay que definir qué información puede utilizar.
Puede tratarse, según el proyecto, de información sobre servicios, horarios, procedimientos, preguntas frecuentes o determinadas condiciones previamente aprobadas.
El objetivo es que exista una referencia controlada sobre la que construir las respuestas.
Además, esa información debe mantenerse actualizada.
Una respuesta puede haber sido correcta hace seis meses y dejar de serlo si han cambiado precios, horarios, servicios o condiciones.
Experiencia Gastecom — pendiente de validación: Antes de ampliar lo que puede responder un agente IA, revisamos qué información está realmente aprobada para utilizarse y qué cuestiones deben seguir dependiendo del equipo comercial.
Define lo que la IA puede hacer y también lo que no puede hacer
Este punto es fundamental.
No basta con explicar al agente qué debe responder.
Hay que establecer también qué decisiones no está autorizado a tomar.
Por ejemplo, podemos decidir que responda preguntas sobre horarios y características generales de un servicio, pero que no negocie descuentos.
O que recoja los datos necesarios para preparar un presupuesto, pero no establezca por sí mismo un precio cuando este depende de diferentes variables.
Lo mismo ocurre con compromisos, excepciones o condiciones contractuales.
Si requieren autorización humana, el agente debe saberlo.
El planteamiento original de Gastecom para sus agentes IA ya establece precisamente la necesidad de definir reglas para que el sistema no invente precios ni condiciones y derive las decisiones que requieren autorización.
Qué debe hacer cuando no conoce la respuesta
“No lo sé” puede ser una respuesta mucho mejor que una respuesta inventada.
En un agente empresarial, esto debe estar previsto.
Si la información no está disponible, es contradictoria o la consulta supera el alcance autorizado, el sistema puede explicarlo y ofrecer el siguiente paso.
Por ejemplo:
“Necesito que nuestro equipo comercial confirme esa condición. Puedo recoger tus datos para que contacten contigo.”
Esto no significa que el agente haya fallado.
Significa que está respetando los límites establecidos por la empresa.
Integrar un sistema no significa permitir cualquier acción
La cuestión se vuelve todavía más importante cuando la IA está conectada con agendas, CRM, bases de datos u otras aplicaciones.
Si el agente consulta disponibilidad, el sistema debe devolver una respuesta válida antes de confirmar una reserva.
Si registra una oportunidad en el CRM, debería existir confirmación de que la operación se ha realizado correctamente.
Y si la integración falla, la IA necesita un comportamiento alternativo.
Una solicitud no debe presentarse como confirmada si el sistema que debe registrarla no ha devuelto esa confirmación. Este principio aparece expresamente en la propuesta técnica inicial de Gastecom.
Hay que probar también las preguntas difíciles
Probar diez preguntas cuya respuesta conocemos no es suficiente.
Antes de poner un agente a disposición de clientes reales conviene intentar llevarlo fuera de su recorrido normal.
¿Qué ocurre si el usuario insiste en conseguir un descuento?
¿Y si pregunta por un servicio que la empresa no ofrece?
¿Y si mezcla varias solicitudes?
¿Si pide una condición que no aparece en la información aprobada?
¿Si intenta que el agente ignore sus instrucciones?
¿Si cambia de opinión a mitad de la conversación?
El material original de Gastecom propone precisamente probar preguntas ambiguas, cambios de opinión, información no disponible y peticiones fuera del alcance, y empezar con un grupo reducido de casos antes de ampliar las funciones.
Experiencia Gastecom — pendiente de validación: En las pruebas no buscamos únicamente comprobar que el agente responde bien a las preguntas previstas. También planteamos situaciones ambiguas o fuera de alcance para comprobar que sabe detenerse y derivar la conversación cuando corresponde.
Una persona debe seguir supervisando el sistema
Un agente de IA no debería configurarse y olvidarse.
Al principio especialmente, conviene revisar conversaciones para identificar respuestas que necesitan ajustes, preguntas que no se habían previsto o información que debe actualizarse.
Eso permite ampliar el alcance de forma progresiva.
Primero puede responder a un grupo limitado de consultas. Después, cuando se ha comprobado su comportamiento, pueden incorporarse nuevas fuentes de información, acciones o integraciones.
Este enfoque permite ganar automatización sin perder control.
Qué medir para saber si funciona bien
El número de conversaciones atendidas es insuficiente.
También interesa saber cuántas consultas se han resuelto correctamente, cuántas se han derivado, qué preguntas generan problemas y cuánto trabajo posterior necesita el equipo.
Una IA que responde a muchas personas pero obliga después a corregir información incorrecta no está mejorando realmente el proceso.
El objetivo es que la automatización reduzca trabajo repetitivo sin deteriorar la calidad de la información que recibe el cliente.