Puerta de Aprobación Humana (Human Approval Gate)
Una puerta de aprobación humana pausa un flujo automatizado en un punto de control definido para que una persona revise, edite o rechace una acción propuesta antes de ejecutarse, sobre todo en operaciones de alto impacto, irreversibles o reguladas. Es la forma operativa de la supervisión humana en el bucle.
Definición
Una puerta de aprobación humana es un punto de control que se inserta antes de una acción automatizada de alto impacto, donde una persona revisa y aprueba, edita o rechaza la acción propuesta antes de que se ejecute.
Problema
Dejar que un sistema de IA ejecute acciones de alto impacto de forma autónoma arriesga errores costosos, irreversibles o no conformes sin posibilidad de juicio humano.
Cuándo usarlo
Usa una puerta de aprobación para acciones cuyo coste de error supera la latencia de la revisión: pagos, borrados, comunicaciones externas, cambios en producción o cualquier cosa regulada.
Solución
Inserta un punto de control antes de la acción sensible: el sistema prepara la acción propuesta con suficiente contexto, luego se suspende y la enruta a un humano que aprueba, edita o rechaza. Con la aprobación, procede; ante un timeout, recurre a un respaldo seguro. Cada decisión se registra para auditoría.
Pon puertas solo en los pasos de alto impacto, no en todo: el exceso de puertas destruye el valor de la automatización y causa fatiga de aprobación. Elige los puntos de control por riesgo.
Componentes
Beneficios
- Previene errores costosos o irreversibles.
- Mantiene la responsabilidad en un humano.
- Satisface requisitos de cumplimiento y supervisión.
- Genera confianza, habilitando una autonomía gradual.
Riesgos
- Añade latencia y limita el rendimiento.
- Aprobación automática si los revisores carecen de contexto o tiempo.
- Fatiga de aprobación por demasiadas puertas.
- Cuellos de botella si los revisores no están disponibles.
Cuándo no usarlo
- Para acciones de bajo impacto y fácilmente reversibles.
- Cuando el rendimiento debe ser alto y el riesgo es bajo.
- Cuando un guardarraíl determinista puede autoaprobar con seguridad.
Tecnologías
Ejemplos
- Un agente que redacta un reembolso que un humano aprueba antes de emitirse.
- Un cambio en producción que se pausa para una firma antes de desplegar.
- Un correo saliente en cola para revisión antes de enviarse.
Evidencia de producción
- Contexto
- Flujos empresariales donde un agente puede desencadenar acciones irreversibles o reguladas: reembolsos, cambios de cuenta, comunicaciones externas, despliegues en producción.
- Escenario
- El agente prepara la acción con todo el contexto y se pausa; un revisor la aprueba, edita o rechaza; con la aprobación se ejecuta, ante un timeout recurre a un respaldo seguro. Cada decisión se registra.
- Tecnología
- Un motor de flujos con interrupciones (p. ej. LangGraph), una cola/UI de aprobación y un registro de auditoría.
- Carga
- Solo se ponen puertas a una minoría de pasos de alto impacto; la mayoría de pasos de bajo impacto se ejecutan automáticamente, así que el volumen para los revisores se mantiene acotado.
- Resultados
- Patrón observado: los errores irreversibles se detectan antes de ejecutarse y la responsabilidad queda en un humano, a costa de más latencia en los pasos con puerta. Pon puertas por riesgo y mide la latencia de aprobación y la tasa de aprobación automática en tu propio flujo: son observaciones de referencia, no cifras garantizadas.
KPIs
- Latencia de aprobación
- Tiempo que una acción espera en la puerta; el coste central del patrón y lo primero a vigilar por cuellos de botella.
- Tasa de rechazo / edición
- Proporción de propuestas que un humano rechaza o edita; casi cero suele indicar aprobación automática, muy alta, falta de confianza en el agente.
- Rendimiento vs. pasos con puerta
- Tareas completadas por hora frente a cuántos pasos tienen puerta; el exceso de puertas hunde el rendimiento.
- Tasa de timeout / respaldo
- Con qué frecuencia las acciones llegan al timeout y toman el respaldo seguro; si sube, los revisores están saturados.
Modos de fallo observados
- Aprobación automática: los revisores aprueban sin escrutinio real cuando faltan contexto o tiempo, anulando la puerta.
- Fatiga de aprobación y cuellos de botella por poner puertas en pasos de bajo impacto.
- Autoejecución silenciosa en el timeout cuando no se define un respaldo seguro.
- Contexto insuficiente en la propuesta, de modo que el humano no puede decidir con criterio.
Lecciones aprendidas
- Pon puertas por riesgo, no por defecto: automatiza lo de bajo impacto y reserva las puertas para acciones irreversibles o reguladas.
- Da a los revisores contexto suficiente y una elección clara aprobar/editar/rechazar para evitar la aprobación automática.
- Define siempre un respaldo seguro en el timeout; nunca ejecutes en silencio una acción con puerta.
- Registra cada decisión para auditoría: la puerta es también tu evidencia de cumplimiento.
FAQs
- ¿En qué se diferencia del human-in-the-loop?
- Es la implementación concreta del principio human-in-the-loop: un punto de aprobación específico en un flujo antes de una acción sensible.
- ¿Las aprobaciones no lo ralentizan todo?
- Solo si pones demasiadas puertas. Aplica puertas por riesgo: automatiza los pasos de bajo impacto y reserva la aprobación para acciones de alto impacto, irreversibles o reguladas.
- ¿Qué pasa en un timeout?
- Define un respaldo seguro: retener la acción, escalar o cancelar. Nunca autoejecutes en silencio una acción con puerta solo porque nadie respondió.