Respuesta directa
En pocas palabras
Para reducir alucinaciones en un AI Sales Copilot, limita cada respuesta a fuentes autorizadas y vigentes, valida precios, monedas, descuentos, fechas y cálculos fuera del modelo, y conserva evidencia por afirmación. Cuando falta respaldo, el sistema debe abstenerse o marcar el dato para revisión. La aprobación humana necesita mostrar fuente, cambios y consecuencias; un texto convincente nunca sustituye una comprobación.
La fluidez no demuestra que una afirmación sea verdadera
OWASP LLM09:2025 define la desinformación en aplicaciones con modelos de lenguaje como contenido falso o engañoso que parece creíble. La alucinación o confabulación es una causa importante, pero también intervienen fuentes incompletas, datos obsoletos, sesgos, ambigüedad y confianza excesiva de quien recibe la respuesta. En ventas B2B, una frase inventada puede convertirse rápidamente en propuesta, nota de CRM, correo o decisión de forecast.
NIST AI 600-1 usa el término confabulación para respuestas que presentan con seguridad contenido erróneo, falso, contradictorio o ajeno a la entrada. El problema no se resuelve pidiendo al modelo que sea preciso. Debe existir una cadena verificable entre afirmación, fuente, versión, regla, revisión y efecto. El modelo redacta; la aplicación decide qué datos son admisibles y qué acciones requieren confirmación.
Clasifica las afirmaciones por impacto antes de generarlas
No todas las palabras requieren el mismo control. Separa texto creativo, resumen, inferencia, recomendación y hecho verificable. Después identifica afirmaciones materiales: precio, descuento, moneda, impuesto, disponibilidad, plazo, garantía, alcance, obligación, dato del cliente, referencia legal, identidad, competencia, probabilidad de cierre y compromiso de servicio. Cada clase necesita fuente, tolerancia, aprobador y comportamiento cuando falta información.
Asigna severidad por consecuencia observable, no por lo convincente que suena el texto. Un adjetivo impreciso en un borrador interno no equivale a una cifra falsa enviada a un comprador. Define qué afirmaciones pueden mostrarse como sugerencia, cuáles necesitan una cita, cuáles requieren validación determinista y cuáles no deben generarse. Mantén este registro versionado por caso de uso, país, producto y canal.
Define fuentes de verdad y contratos de datos
Para cada afirmación material, nombra el sistema autoritativo: catálogo para productos y precios, política comercial para descuentos, CRM para datos capturados, contrato para obligaciones y calendario aprobado para fechas. Una búsqueda web, una conversación anterior o la memoria del modelo no deben desplazar silenciosamente esa fuente. Si dos sistemas compiten, documenta precedencia, vigencia y quién resuelve el conflicto.
Entrega al modelo datos estructurados con identificador, valor, unidad, moneda, fecha efectiva, tenant, fuente y estado. Rechaza registros incompletos antes de redactar. El contexto debe incluir solo lo necesario para la tarea y distinguir instrucciones, evidencia y texto no confiable. Un documento recuperado puede aportar información, pero su presencia en RAG no lo convierte automáticamente en fuente de verdad.
| Criterio | Control verificable | Atajo peligroso |
|---|---|---|
| Precio | Catálogo vigente y moneda explícita | Cifra probable inferida por el modelo |
| Descuento | Regla y aprobación trazables | Promesa redactada para cerrar la venta |
| Fuente | ID, versión, fecha y fragmento comprobado | URL decorativa o cita inventada |
| Pronóstico | Regla visible y datos del CRM | Porcentaje presentado como certeza |
Recupera evidencia autorizada, vigente y suficiente
Grounding no significa añadir muchos documentos al prompt. La aplicación debe recuperar dentro del tenant y la finalidad autorizados, filtrar por vigencia y clasificación, y conservar procedencia hasta cada fragmento. Evalúa si la evidencia realmente sostiene la afirmación solicitada. Similitud semántica indica relación temática; no confirma verdad, permiso, actualidad ni suficiencia.
Favorece fuentes primarias y registros operativos frente a resúmenes sin lineage. Limita top-k y contexto para evitar que información vieja o contradictoria domine la respuesta. Si existen versiones incompatibles, muestra el conflicto y no las fusiones en una sola frase. Revalida permisos antes de presentar la cita y evita revelar en la explicación una fuente que la audiencia no puede consultar.
Valida cifras y condiciones fuera del modelo
Precios, monedas, porcentajes, descuentos, impuestos, totales, fechas y límites deben pasar por código determinista. Utiliza tipos explícitos, rangos, precisión decimal, unidades, reglas de redondeo y calendarios autorizados. No pidas al modelo que recuerde una tabla de precios ni que convierta monedas por intuición. Si la conversión está permitida, registra tasa, fuente, instante y aprobación; de lo contrario, conserva cada moneda por separado.
Compara la salida con los datos de entrada antes de renderizar, guardar o exportar. Detecta productos inexistentes, campos añadidos, números modificados, sumas inconsistentes, descuentos fuera de autoridad y compromisos no presentes en la fuente. Rechaza o marca el bloque afectado, no solo la respuesta completa. Una plantilla tipada reduce superficie, pero sigue necesitando comprobaciones semánticas y de autorización.
Relaciona cada afirmación material con evidencia
Construye un mapa de afirmaciones: texto mostrado, tipo, fuente, versión, fragmento, fecha de consulta, regla aplicada y estado de revisión. Una cita debe apuntar al contenido que sostiene exactamente la afirmación, no solo a un documento relacionado. Verifica que el fragmento exista, que la versión siga disponible y que no se haya alterado el significado al resumirlo.
Distingue hecho de inferencia y recomendación en la interfaz y en los datos. Una fuente puede demostrar que una persona abrió una Buyer Room; no demuestra que aceptó condiciones o que piensa comprar. Un historial puede justificar una señal de riesgo, pero no una certeza psicológica. Conserva esta diferencia al exportar PDF, DOCX, correo o notas para que el contexto no desaparezca fuera de la pantalla original.
Diseña abstención y manejo explícito de incertidumbre
El sistema necesita respuestas útiles cuando no sabe: dato no disponible, fuente vencida, conflicto pendiente, permiso insuficiente o cálculo no autorizado. Define formatos claros como «requiere confirmación», «no encontrado en las fuentes autorizadas» o «existen dos versiones». No rellenes campos para mantener una interfaz completa y no conviertas ausencia de evidencia en una conclusión negativa.
La incertidumbre debe ser específica. Evita porcentajes de confianza sin calibración o explicaciones que aparentan medición. Indica qué falta, dónde debería existir, quién puede resolverlo y qué parte del borrador sigue siendo utilizable. La abstención es un resultado correcto cuando evita un compromiso falso; mide también cuántas veces ocurre y si está bloqueando trabajo legítimo.
Haz que la revisión humana cambie el resultado
Una persona no puede verificar un párrafo si solo ve un botón «Aprobar». Muestra cambios, fuentes, fechas, importes, monedas, supuestos, campos no respaldados y efecto final. Prioriza visualmente las afirmaciones materiales y permite abrir el registro autoritativo. La aprobación debe ser específica para versión, destinatario y acción; caduca si cambia el contenido o la evidencia.
Asigna revisores con competencia y autoridad. Ventas puede confirmar contexto comercial; Finanzas, un descuento excepcional; Legal, una obligación; Operaciones, una fecha de entrega. Evita fatiga mediante umbrales y revisión por excepción, pero conserva verificación obligatoria para efectos materiales. Registra correcciones para mejorar reglas y evaluaciones, no para culpar a la persona que detectó el problema.
Reduce la sobreconfianza desde la interfaz
OWASP identifica overreliance cuando las personas incorporan contenido generado sin comprobarlo. NIST AI 600-1 relaciona esta automatización excesiva con la amplificación de confabulaciones. La interfaz debe evitar señales engañosas: no llames «verificado» a un texto solo porque pasó por el modelo, no ocultes fuentes, no presentes una estimación como garantía y no uses un único color verde para datos confirmados e inferencias.
Explica la función real del Copilot en el momento de uso. Utiliza etiquetas consistentes: borrador, hecho con fuente, cálculo validado, inferencia, dato faltante y aprobación pendiente. Mantén una acción manual viable y deja claro qué ocurrirá al confirmar. La formación ayuda, pero no sustituye controles técnicos; la interfaz debe hacer más fácil revisar que aceptar por inercia.
Evalúa exactitud por tarea y por severidad
Crea un conjunto de evaluación basado en casos reales protegidos o sintéticos: catálogo, precios, monedas, descuentos, fechas, competencia, objeciones, propuestas, resúmenes y forecast. Incluye respuestas correctas, datos faltantes, fuentes contradictorias y solicitudes fuera de alcance. Versiona entradas, resultado esperado, evidencia y criterio de aceptación. Un promedio general puede ocultar un fallo crítico poco frecuente.
Mide precisión de afirmaciones materiales, cobertura de evidencia, exactitud de citas, tasa de abstención correcta, números alterados, conflictos detectados, errores por idioma y severidad ponderada. Registra falsos positivos y negativos. NIST AI RMF sitúa validez y fiabilidad como base de confianza, pero los umbrales deben definirse para el contexto de uso y revisarse cuando cambien modelo, prompt, fuente, herramienta o población.
Prueba conflictos, presión comercial y cambio de contexto
Incluye prompts que pidan completar números, prometer resultados, inventar testimonios, afirmar autoridad legal, ocultar incertidumbre o usar una fuente no autorizada. Prueba paráfrasis, español de México, abreviaturas, tablas, OCR y documentos con instrucciones indirectas. Cambia el orden de fuentes y repite el caso para detectar inestabilidad. Una respuesta segura debe mantener límites aunque el usuario solicite mayor persuasión.
Evalúa el recorrido completo: recuperación, generación, validación, interfaz, exportación y almacenamiento. Un borrador correcto puede perder citas al convertirse en PDF o guardar una inferencia como hecho en el CRM. Ejecuta pruebas negativas después de cada cambio y conserva regresiones de incidentes anteriores. Compara modelos con el mismo conjunto y declara las condiciones de la medición; una puntuación no se generaliza automáticamente a todas las tareas.
Monitorea afirmaciones, correcciones y deriva
Registra versión del modelo, prompt, fuentes, reglas, afirmaciones materiales, citas, validaciones, abstenciones y ediciones humanas sin copiar más datos sensibles de los necesarios. Vigila cambios en tasa de corrección, números rechazados, citas rotas, fuentes vencidas, conflictos, campos faltantes y comportamiento por idioma o segmento. Separa métricas de utilidad, exactitud, seguridad y costo.
Establece alertas por severidad y efecto. Un término de estilo corregido puede alimentar mejora periódica; un precio falso listo para enviar debe bloquear y escalar. Analiza deriva después de actualizar catálogo, política, modelo o retrieval. No interpretes una caída de abstenciones como mejora hasta comprobar que aumentó la evidencia correcta y no la invención.
Corrige el dato y también todos sus derivados
Ante desinformación material, pausa el flujo afectado, preserva versión y evidencia, delimita destinatarios y localiza derivados: propuesta, correo, archivo, CRM, resumen, caché y análisis. Corrige la fuente o regla que originó el error, invalida documentos generados y notifica mediante el proceso aplicable. No sustituyas una respuesta errónea por otra sin conservar la cronología.
Después de contener, reproduce el caso, añade una regresión y revisa si fallaron grounding, validación, interfaz, revisión o monitoreo. Reabre solo cuando el control relevante demuestre el resultado esperado. NIST AI 100-4 aborda procedencia y transparencia de contenido sintético; en un flujo comercial, identificar qué fue generado, con qué fuente y bajo qué revisión facilita corrección y auditoría, pero no garantiza veracidad por sí solo.
Mantén estas fronteras en Cerravi
OWASP LLM09 aporta el mapa de desinformación, alucinación y sobreconfianza. NIST AI 600-1 define confabulación e integridad de información; NIST AI RMF orienta evaluación continua de validez y fiabilidad; NIST AI 100-4 aporta prácticas de procedencia y transparencia para contenido sintético. Estas referencias no certifican una salida concreta: la evidencia reside en fuentes, reglas, pruebas, revisión y estado observado.
En Cerravi, Copilot organiza contexto y propone borradores para revisión humana; no envía mensajes ni cambia etapas automáticamente. Las propuestas usan productos y precios conocidos. Si falta un importe, se marca para confirmación y no se inventa. Las monedas permanecen separadas salvo conversión aprobada. Buyer Room aporta señales, no confirma identidad, aceptación, firma, pago ni intención. Forecast usa reglas transparentes del CRM y no garantiza cierres. Estas fronteras deben mantenerse en pantalla, exportación, API y operación.
Preguntas frecuentes
Dudas comunes sobre este proceso
¿Un sistema RAG elimina las alucinaciones de un modelo?
No. RAG puede aportar evidencia, pero una fuente puede estar vencida, ser insuficiente o recuperarse fuera de contexto. También debe verificarse que cada afirmación esté respaldada y autorizada.
¿Cómo evitar que la IA invente precios o descuentos?
Obtén importes del catálogo y reglas vigentes, valida moneda, precisión y autoridad fuera del modelo, y bloquea cualquier cifra ausente o modificada antes de mostrar o exportar el borrador.
¿Una cita significa que la respuesta es verdadera?
No. La cita debe existir, ser accesible, vigente y sostener exactamente la afirmación. Una referencia relacionada o bien formateada puede ser insuficiente o incluso inventada.
¿Cuándo debe abstenerse un AI Sales Copilot?
Cuando falta una fuente autorizada, hay conflicto sin resolver, el permiso es insuficiente, el dato está vencido o una regla material no puede validarse. Debe explicar qué falta y pedir revisión.
¿La revisión humana basta para controlar la desinformación?
Solo si la persona ve fuentes, cambios, importes, supuestos y efecto final, tiene autoridad para decidir y la aprobación queda ligada a esa versión. Un botón genérico no es una revisión efectiva.