Cómo definir supervisión humana para un AI Sales Copilot

Distingue supervisión real de una confirmación simbólica

Agregar un botón de aprobar no garantiza control humano. La persona necesita entender qué propone el sistema, qué datos utilizó, qué falta, qué efecto tendrá la confirmación y cómo corregir o detener el proceso. Si la interfaz oculta ese contexto o la revisión ocurre bajo presión, la aprobación puede convertirse en un trámite.

NIST pide definir y diferenciar funciones y responsabilidades para las configuraciones humano–IA. También plantea que los procesos de supervisión deben documentarse y evaluarse según el contexto. Microsoft recomienda diseñar desde el inicio qué acciones requieren aprobación y conservar puntos confiables para corregir, interrumpir o escalar.

Trata la supervisión como un sistema operativo: incluye políticas, interfaz, permisos, capacitación, evidencia, respaldo y una ruta de excepción. El objetivo no es que una persona repita todo el trabajo, sino que aplique criterio donde el impacto, la ambigüedad o la irreversibilidad lo justifican.

Empieza por un inventario de decisiones y efectos

Enumera lo que el copiloto puede observar, resumir, recomendar, preparar, guardar, compartir o ejecutar. No clasifiques únicamente por pantalla. Una misma sugerencia puede ser de bajo impacto si queda como borrador y de mayor impacto si se envía a un comprador, cambia una condición comercial o activa otra integración.

Para cada paso registra a quién afecta, qué dato utiliza, si produce un efecto externo, cuánto cuesta corregirlo y qué puede ocurrir si la salida es incorrecta. Incluye casos normales, información incompleta, instrucciones ambiguas, solicitudes fuera del alcance y entradas manipuladas.

Separa recomendación, borrador y acción. Una recomendación informa; un borrador prepara contenido; una acción modifica un sistema, comunica con una persona o crea un compromiso. Esa separación permite asignar controles proporcionales sin obligar a revisar de la misma forma cada resumen interno.

Asigna el nivel de control según impacto y reversibilidad

No existe un único umbral para toda la organización. Una síntesis interna con fuentes visibles puede admitir revisión posterior; un mensaje al cliente, un descuento, un cambio de etapa o una acción sobre datos personales necesita control previo. Las decisiones difíciles de revertir o relacionadas con personas, dinero, cumplimiento o compromisos requieren una evaluación más estricta.

Considera también la propagación. Una salida que alimenta cientos de registros o desencadena otras herramientas puede necesitar aprobación aunque cada registro parezca pequeño. Cuando el alcance sea incierto, empieza con el permiso mínimo y amplía después de observar evidencia.

Asigna dueños con autoridad, no solo participantes

Define una persona responsable del propósito comercial y otra de la operación diaria. Datos conserva fuentes y calidad; tecnología mantiene configuración e integraciones; seguridad y privacidad revisan acceso y tratamiento; soporte recibe señales; legal o cumplimiento participa donde corresponda. Una lista de asistentes no sustituye una asignación de autoridad.

Para cada decisión establece quién propone, quién revisa, quién aprueba, quién puede pausar y quién autoriza la reanudación. Evita depender de una sola persona: asigna respaldo, horario de cobertura y ruta de escalamiento. Las excepciones necesitan dueño y fecha de vencimiento.

La dirección conserva responsabilidad sobre la tolerancia al riesgo y las decisiones de despliegue. El operador no debe cargar con una decisión para la que no tiene mandato, información o capacidad de detener el sistema.

• Negocio: propósito, proceso y condiciones comerciales.
• Operación: coordinación, seguimiento y evidencia.
• Datos: fuente, calidad, acceso y vigencia.
• Tecnología: configuración, herramientas y recuperación.
• Seguridad, privacidad y legal: controles aplicables.
• Soporte: recepción, clasificación y escalamiento.

Construye una matriz de aprobación fácil de aplicar

La matriz debe decir qué puede hacer el sistema, qué debe revisar la persona y qué está prohibido. Escríbela por escenario y efecto, no con frases generales como usar IA responsablemente. Añade ejemplos y contraejemplos que el equipo pueda reconocer durante el trabajo.

En un proceso comercial, el sistema puede organizar contexto o preparar un borrador con datos disponibles. El equipo debe confirmar destinatario, alcance, precio, moneda, vigencia y condiciones antes de compartir una propuesta. Un dato faltante no se completa por inferencia; el flujo se detiene o se dirige a la persona autorizada.

Configura permisos y estados para sostener la política. Si la interfaz permite eludir la revisión con un acceso alternativo, la matriz solo existe en un documento. Prueba las rutas permitidas y las prohibidas con usuarios reales.

Entrega contexto suficiente en el punto de decisión

La revisión debe ocurrir cerca de la acción. Muestra la recomendación, su fundamento, las fuentes relevantes, la información ausente, el cambio propuesto y el efecto de confirmar. Distingue con claridad lo generado por el sistema de lo confirmado por una persona.

Evita patrones que empujen a aprobar: botones desbalanceados, confirmaciones agrupadas, temporizadores sin necesidad o estados preseleccionados. Para lotes, permite inspeccionar diferencias y excluir casos. Una persona no puede revisar significativamente cientos de acciones heterogéneas en pocos segundos.

El revisor necesita corregir, rechazar, pedir información y escalar. Registra el motivo cuando aporte aprendizaje o evidencia, pero no conviertas cada decisión trivial en una carga de documentación. El nivel de detalle debe seguir el riesgo.

Gestiona ambigüedad, excepciones y presión operativa

Define cuándo el sistema debe abstenerse. Datos incompletos, conflicto entre fuentes, permisos insuficientes, solicitudes fuera del alcance o instrucciones potencialmente maliciosas deben conducir a una pregunta, una revisión especializada o un bloqueo; no a una respuesta presentada con falsa certeza.

Una excepción temporal necesita razón, alcance, control compensatorio, responsable y fecha de vencimiento. No permitas que una urgencia comercial convierta el acceso extraordinario en configuración permanente. Revisa las excepciones vencidas y elimina las que ya no son necesarias.

Mide la carga de revisión. Si el equipo aprueba todo por fatiga, aumenta errores o crea atajos, el diseño necesita cambiar. Puede requerir reducir el alcance, mejorar el contexto, separar colas por riesgo, añadir capacidad o retirar una automatización que no puede supervisarse de forma razonable.

Registra decisiones sin convertir el control en vigilancia

Conserva la evidencia necesaria para reconstruir qué se propuso, con qué versión y fuentes, quién revisó, qué cambió y qué efecto se autorizó. Para decisiones de mayor impacto, añade motivo, excepción y aprobaciones. Define acceso y retención según el propósito y las reglas aplicables.

Minimiza el contenido. Un registro útil no exige copiar conversaciones completas, secretos o datos personales innecesarios. Separa telemetría técnica, contenido comercial y evidencia de aprobación; cada grupo puede necesitar permisos y periodos distintos.

Utiliza el historial para detectar patrones de corrección, rechazo, escalamiento y override. Una tasa alta de aprobación no demuestra calidad: puede señalar confianza, poca atención o presión de tiempo. Combina cifras con muestras protegidas y entrevistas.

• Escenario, versión y momento.
• Fuentes y herramientas relevantes.
• Salida propuesta y cambio humano.
• Persona, función y autoridad aplicadas.
• Decisión, efecto y posibilidad de reversión.
• Excepción, escalamiento o seguimiento pendiente.

Diseña pausa, parada y recuperación antes de necesitarlas

Toda función con efecto relevante necesita una forma confiable de limitarse o detenerse. Define quién puede activar la pausa, qué alcance controla, cómo se conserva evidencia y qué proceso manual mantiene el trabajo esencial. El mecanismo debe operar aunque el componente afectado no responda.

Establece señales que obligan a contener: acceso indebido, exposición de datos, acciones fuera del alcance, compromisos comerciales sin aprobación o repetición de un fallo de alto impacto. No esperes a comprender toda la causa para detener la propagación.

La reanudación requiere una decisión separada. Comprueba el control correctivo, las fuentes, los permisos, la comunicación y el monitoreo reforzado. Registra quién autorizó qué alcance y comienza con el grupo mínimo necesario.

Evalúa si la supervisión sigue funcionando

Prueba el modelo antes del despliegue y después de cada cambio relevante. Observa si las personas encuentran la fuente, comprenden el efecto, detectan errores, ejercen el rechazo y saben escalar. Incluye turnos, perfiles y condiciones reales de carga.

En producción revisa correcciones, descartes, excepciones, tiempos, acumulación de colas, incidentes y uso del modo manual. Distingue una demora aceptable de un cuello de botella que empuja a trabajar fuera del control. Ajusta el alcance y la capacidad cuando cambien el volumen, las herramientas o el impacto.

La revisión periódica debe terminar en una decisión: mantener, simplificar, reforzar, limitar, pausar o retirar. Actualiza la matriz, capacitación, permisos y pruebas. La gobernanza continúa durante todo el ciclo de vida; no termina al aprobar el lanzamiento.

Aplica los límites verificables de Cerravi

Cerravi organiza señales del CRM y propone siguientes pasos para revisión humana. No envía mensajes, cambia etapas ni ejecuta decisiones comerciales automáticamente. La actividad de una Buyer Room aporta contexto, pero no confirma identidad, aceptación, contrato, pago o intención de compra.

Las propuestas utilizan productos y precios disponibles en el catálogo cargado. Si falta un importe, el flujo requiere confirmación; no inventa la cifra. MXN, USD y otras monedas permanecen separadas mientras no exista una conversión aprobada.

El Forecast de Cerravi es una estimación operativa basada en reglas transparentes y datos registrados en el CRM. No es un modelo predictivo entrenado o calibrado y no garantiza cierre ni ingresos. La empresa conserva la responsabilidad sobre su proceso, sus datos, sus aprobaciones y las reglas legales aplicables.