Las barandillas son necesarias. Pero no son suficientes.
Cada plataforma importante de IA ahora ofrece alguna forma de barandillas. Filtros de contenido, clasificadores de seguridad, validadores de salida — esto es lo básico. Detectan las salidas obviamente incorrectas: lenguaje tóxico, datos fabricados, mensajes fuera de marca.
Pero aquí está el problema que las barandillas no resuelven: previenen malas salidas sin garantizar las buenas.
Una barandilla puede impedir que tu IA diga algo ofensivo. No puede confirmar que el informe trimestral que acaba de generar usa las cifras de ingresos correctas. No puede verificar que la respuesta al cliente sigue tu política de escalamiento. No puede asegurar que la publicación en redes sociales se alinea con tu estrategia de campaña.
Para eso, necesitas flujos de aprobación.
La brecha entre “no es malo” y “realmente es bueno”
Las barandillas operan como puertas binarias. Aprobado o rechazado. Seguro o inseguro. La salida pasa el filtro o no.
La IA en producción requiere más que verificaciones de seguridad binarias:
- Control de calidad — ¿Esta salida es lo suficientemente buena para enviar a un cliente?
- Responsabilidad — ¿Quién aprobó esta salida? ¿Cuándo? ¿Basándose en qué criterios?
- Consistencia — ¿Esta salida se alinea con los estándares de marca existentes y las comunicaciones previas?
- Registros de auditoría — ¿Puedes demostrar a reguladores y stakeholders que un humano revisó esto antes de enviarlo?
Estas no son preguntas de seguridad. Son preguntas de gobernanza operativa. Y requieren un mecanismo fundamentalmente diferente al de las barandillas.
Flujos de aprobación: la capa que falta
Un flujo de aprobación inserta un punto de decisión humana en un pipeline automatizado. En lugar de “la IA genera → la salida se envía”, obtienes “la IA genera → un humano revisa → la salida aprobada se envía”.
Suena simple. Los detalles de implementación son lo que importa:
¿Quién puede aprobar? No todos deberían tener la misma autoridad. Un editor junior aprobando un comunicado de prensa es diferente de un VP aprobándolo. El control de acceso basado en roles (RBAC) asegura que las personas correctas tomen las decisiones correctas.
¿Qué pasa cuando alguien no está disponible? Los flujos de aprobación necesitan rutas de escalamiento. Si el aprobador designado no responde dentro del SLA definido, la solicitud debe escalar — no quedarse bloqueada indefinidamente.
¿Dónde está el registro? Cada decisión de aprobación debe registrarse de forma inmutable. Quién aprobó qué, cuándo y por qué. Esto no es solo una buena práctica — es un requisito regulatorio bajo el EU AI Act, SOC 2 e HIPAA.
¿Puedes demostrarlo? Cuando un auditor pregunta “¿cómo aseguran que las salidas de IA se revisan antes de llegar a los clientes?”, necesitas más que “les dijimos a los empleados que revisaran”. Necesitas evidencia sistemática.
El modelo de gobernanza de 10 capas de JieGou
JieGou no trata la gobernanza como un complemento. Es arquitectónica — integrada en cada capa de la plataforma.
Esto es lo que cubre el stack de 10 capas:
| Capa | Función |
|---|---|
| Identidad y Auth | Integración SSO, identidad de usuario verificada para cada acción |
| Cifrado | AES-256-GCM para claves API y datos sensibles (BYOK soportado) |
| Residencia de datos | Ubicación de datos configurable con presets regulatorios |
| Gestión de entornos | Separación dev/staging/producción con puertas de promoción |
| RBAC | 5 roles (Propietario, Admin, Manager, Editor, Visor) con 20 permisos granulares |
| Puertas de aprobación | Pasos humanos en cualquier flujo de trabajo, con escalamiento y SLA |
| Registro de auditoría | Logs inmutables para cada ejecución, aprobación y cambio de configuración |
| GovernanceScore | Puntuación cuantitativa 0-100 que mide la postura de gobernanza de tu organización |
| Mapeo de cumplimiento | Mapeos pre-construidos para EU AI Act, NIST AI RMF, ISO 42001 |
| Exportación de evidencia | Paquetes de auditoría con un clic para SOC 2, HIPAA y revisión regulatoria |
Las puertas de aprobación son la capa 6 — pero no funcionan de forma aislada. Son aplicadas por RBAC (capa 5), documentadas por registros de auditoría (capa 7), medidas por GovernanceScore (capa 8) y exportables para cumplimiento (capa 10).
Esta es la diferencia entre “añadimos un paso de aprobación” y “tenemos una arquitectura de gobernanza”.
Ejemplo real: el soporte LINE de PSKin con flujos de aprobación
PSKin es una marca de belleza y cuidado de la piel en Taiwán que usa JieGou para automatizar el servicio al cliente en LINE — una de las plataformas de mensajería más grandes de Asia con más de 90 millones de usuarios activos mensuales en la región.
El desafío: PSKin necesitaba servicio al cliente 24/7 sin contratar un turno nocturno. La IA podía manejar preguntas comunes — ingredientes de productos, estado de pedidos, políticas de devolución — pero la marca no podía arriesgarse a que consejos de cuidado de piel incorrectos llegaran a los clientes.
La solución: El agente conversacional de JieGou procesa los mensajes LINE entrantes con una base de conocimiento construida a partir del catálogo de productos y documentos FAQ de PSKin. El punto clave: las respuestas a categorías sensibles — preguntas sobre seguridad de ingredientes, preocupaciones sobre reacciones cutáneas, recomendaciones de productos para condiciones específicas — pasan por un flujo de aprobación.
Cómo funciona:
- El cliente envía un mensaje LINE
- El agente conversacional de JieGou redacta una respuesta usando la base de conocimiento
- Para preguntas rutinarias (horarios, seguimiento de pedidos), la respuesta se envía inmediatamente
- Para categorías sensibles, la respuesta entra en la cola de aprobación
- Un miembro designado del equipo revisa y aprueba (o edita) antes de que el cliente la vea
- Cada interacción se registra con un registro de auditoría completo
El resultado: PSKin ofrece servicio al cliente 24/7. Las preguntas rutinarias obtienen respuestas instantáneas. Las preguntas sensibles reciben supervisión humana. Y cada respuesta — automatizada o aprobada — tiene un registro de auditoría completo.
Ninguna barandilla sola podría lograr esto. El sistema no solo previene malas respuestas. Asegura que las respuestas de alto riesgo cumplan los estándares de calidad antes de llegar al cliente.
Por qué esto importa ahora
Tres tendencias hacen que los flujos de aprobación sean innegociables:
1. La presión regulatoria aumenta. El EU AI Act requiere “supervisión humana” para sistemas de IA de alto riesgo. “Tenemos barandillas” no satisface los requisitos del Artículo 14. Flujos de aprobación documentados con registros de auditoría sí.
2. La IA maneja tareas de mayor riesgo. Cuando la IA solo escribía resúmenes internos, el riesgo de una mala salida era bajo. Ahora la IA redacta comunicaciones con clientes, genera informes financieros y crea contenido de marketing. El radio de impacto de una salida no revisada es mayor.
3. Los stakeholders están preguntando. Juntas directivas, inversores y clientes quieren saber cómo gobiernas tu IA. “Usamos barandillas” es una respuesta de una frase. Un modelo de gobernanza de 10 capas con flujos de aprobación, RBAC y mapeos de cumplimiento es una respuesta real.
Barandillas + Gobernanza: no es uno u otro
Para ser claros: las barandillas son importantes. Absolutamente debes tener filtros de seguridad de contenido, validadores de salida y clasificadores de toxicidad. JieGou también los incluye.
Pero las barandillas son la capa 1 de una arquitectura de gobernanza. Son necesarias pero no suficientes. Las capas restantes — flujos de aprobación, RBAC, registros de auditoría, mapeos de cumplimiento, puntuación cuantitativa de gobernanza — son lo que transforma “usamos IA” en “usamos IA de manera responsable y podemos demostrarlo”.
Prueba la automatización IA gobernada
JieGou te ofrece gobernanza de 10 capas lista para usar — incluyendo flujos de aprobación, RBAC, registros de auditoría y mapeos de cumplimiento. Comienza con un pack de departamento para tu equipo y descubre cómo es la automatización gobernada en la práctica.
Más de 300 recetas pre-construidas. Más de 90 plantillas de flujos de trabajo. 20 packs de departamento. Todo con gobernanza integrada.
Comienza gratis en jiegou.ai — sin tarjeta de crédito.