# Human in the loop en agentes de IA: cómo funcionan las aprobaciones de acciones sensibles

Una guía práctica de gobernanza de agentes de IA: qué espera a una persona, quién decide y cómo saber después qué hizo el agente.

<https://agentes.chat/es/guides/human-in-the-loop-ai-agents> · [English](https://agentes.chat/guides/human-in-the-loop-ai-agents.md) · [Português (Brasil)](https://agentes.chat/pt/guias/governanca-de-agentes-de-ia.md) · [Français](https://agentes.chat/fr/guides/human-in-the-loop-ai-agents.md) · [Deutsch](https://agentes.chat/de/guides/human-in-the-loop-ai-agents.md) · [Italiano](https://agentes.chat/it/guides/human-in-the-loop-ai-agents.md) · [Nederlands](https://agentes.chat/nl/guides/human-in-the-loop-ai-agents.md) · [日本語](https://agentes.chat/ja/guides/human-in-the-loop-ai-agents.md) · [한국어](https://agentes.chat/ko/guides/human-in-the-loop-ai-agents.md) · [简体中文](https://agentes.chat/zh/guides/human-in-the-loop-ai-agents.md) · [Bahasa Indonesia](https://agentes.chat/id/guides/human-in-the-loop-ai-agents.md) · [Türkçe](https://agentes.chat/tr/guides/human-in-the-loop-ai-agents.md) · [Polski](https://agentes.chat/pl/guides/human-in-the-loop-ai-agents.md) · [Русский](https://agentes.chat/ru/guides/human-in-the-loop-ai-agents.md)

Actualizado el 14 de noviembre de 2026 · Comprobado el 29 de octubre de 2026

**Respuesta corta:** Human in the loop significa que un agente de IA trabaja por su cuenta, pero una persona aprueba antes de que se ejecuten las acciones difíciles de deshacer. Una buena configuración deja que los agentes lean con libertad, ejecuta las escrituras comunes una vez concedidas y convierte merges, deploys, borrados, pagos y envíos en una aprobación que muestra la acción exacta, quién decide y cuándo caduca.

## ¿Qué significa human in the loop en agentes de IA?

Significa que el agente hace el trabajo, pero una persona puede ver y bloquear ciertas acciones antes de que ocurran. No quiere decir revisar cada frase que escribe el agente. Quiere decir elegir los pocos puntos donde un error saldría caro y poner ahí una decisión humana.

La idea ya está escrita en MCP, el protocolo que muchos agentes usan para llegar a otras apps. La especificación dice que siempre debería haber una persona con la capacidad de rechazar el uso de una herramienta, y que las apps deberían pedir confirmación en las operaciones sensibles\[1\]. La Ley de IA de la Unión Europea pide lo mismo para los sistemas de alto riesgo: una persona debe poder anular o revertir el resultado y detener el sistema con un botón de parada o algo parecido\[2\].

Gobernanza es el conjunto más amplio de reglas alrededor de eso: quién puede crear un agente, a qué puede acceder, qué necesita aprobación, cuánto puede gastar y dónde queda el registro de su trabajo.

## ¿Puede un agente de IA borrar de verdad una base de datos de producción?

Sí, si tiene acceso y nada se interpone. En julio de 2025, el agente de programación de Replit borró una base de datos de producción en uso durante un congelamiento de código, a pesar de las instrucciones explícitas de no continuar sin aprobación humana. Después dijo que una reversión no funcionaría, lo cual resultó ser falso: los datos volvieron. Replit dijo que añadió una separación automática entre las bases de datos de desarrollo y de producción\[3\].

La lección: una instrucción no es un control. Un agente puede malinterpretar una tarea, reaccionar mal a una consulta que vuelve vacía o seguir una línea maliciosa que leyó en una página web. El límite tiene que vivir fuera del modelo, en el sistema que ejecuta las herramientas.

El proyecto GenAI Security de OWASP publicó en diciembre de 2025 una lista de los diez principales riesgos de las aplicaciones con agentes\[4\]. Tres de ellos son el uso indebido y la explotación de herramientas, el abuso de identidad y de privilegios, y la explotación de la confianza entre personas y agentes\[5\]. Los tres piden lo mismo: menos acceso, solicitudes de aprobación claras y un registro.

## ¿Qué acciones de un agente deben esperar la aprobación de una persona?

Una regla que sirve para la mayoría de los equipos: pide aprobación cuando una acción es difícil de deshacer, sale de la empresa, mueve dinero o llega a mucha gente a la vez. En la práctica:

* **Cambiar lo que ven los clientes:** hacer merge a la rama principal, hacer deploy, hacer rollback.
* **Borrar:** archivos, registros, cuentas, tablas.
* **Hablar en nombre de la empresa:** enviar correo, publicar, compartir un archivo hacia fuera.
* **Mover dinero:** pagar, transferir, reembolsar.

Todo lo demás debería correr con libertad. Leer, buscar, investigar un error, redactar y abrir un pull request en la rama propia del agente son parte del trabajo. Si cada paso exige un clic, la gente deja de leer lo que aprueba.

Así lo divide agentes.chat, el producto que hacemos nosotros:

| Acción | En agentes.chat |
| --- | --- |
| Leer, buscar, investigar | Nunca pide |
| Escrituras comunes en una app conectada (crear, actualizar, añadir) | Se ejecutan sin pedir, una vez que alguien le concedió esa herramienta al agente |
| Merge, deploy, rollback, promover | Siempre pide, sin importar lo que declare la app |
| Borrar, enviar, pagar, publicar, transferir, reembolsar o compartir en una app conectada | Pide aprobación, o queda desactivado |
| Ejecutar un workflow de GitHub Actions | Pide, porque un workflow puede hacer deploy |
| Enviar correo (beta) | Pide por defecto. Un administrador puede permitir el envío sin pedir, solo a destinatarios de una lista permitida. Los envíos tienen un tope por defecto de 25 al día por agente y por buzón |
| Borrar correo (beta) | Siempre pide |
| Base de datos Postgres (beta) | Solo lectura: no hay herramientas de escritura |
| Pushes de Git | Solo a las ramas propias del agente: nunca a la rama principal, sin force push ni etiquetas |

Qué se ejecuta solo y qué espera a una persona en agentes.chat

## ¿Cómo se gestionan los permisos de un agente de IA herramienta por herramienta?

Cada herramienta que un agente puede llamar cae en uno de tres niveles: solo lectura, escritura concedida o escritura que necesita aprobación. Lo difícil es fijar el nivel de cientos de herramientas sin leer una por una.

Los servidores MCP pueden marcar una herramienta como de solo lectura o destructiva. Ayuda, pero la especificación advierte que los clientes deben tratar esas pistas como no confiables, salvo que vengan de un servidor de confianza\[1\]. Por eso la pista debe ser una señal entre varias.

Cuando un espacio de trabajo conecta una app en agentes.chat, cada herramienta se clasifica así:

* Si el servidor marca una herramienta como destructiva, necesita aprobación.
* Las herramientas cuyo nombre empieza con delete, remove, send, pay, publish, transfer, refund, unbind, share, merge, deploy, rollback, destroy, drop o purge son sensibles: solo pueden pedir aprobación o quedar desactivadas.
* Para las herramientas ambiguas, un modelo evaluador sugiere un nivel. Si falla, la herramienta pide aprobación.
* Un administrador confirma el resultado.

Después, cada agente recibe solo lo que necesita: por app (sin acceso, lectura, o lectura y escritura) o herramienta por herramienta. Conceder todas las herramientas nunca incluye ejecutar código, y las sensibles siguen pidiendo. Más sobre conectores en [qué son los conectores MCP](https://agentes.chat/es/guides/mcp-connectors).

## ¿Qué debe mostrar una solicitud de aprobación?

Una solicitud vaga como «¿puedo hacer el deploy?» recibe un sí por reflejo. Una buena permite que una persona decida en unos segundos:

* la acción exacta y sus valores, no un resumen
* la app y el destino: qué repositorio, qué entorno, qué destinatario
* quién puede decidir
* cuándo caduca.

En agentes.chat la solicitud es una tarjeta en el chat con la acción y sus valores. Queda atada a esos valores y se ejecuta una sola vez, tal como se aprobó. Cualquier cambio es una solicitud nueva. Caduca a las 24 horas. Los deploys, rollbacks, borrados y envíos exigen mantener presionado para que nadie apruebe uno por accidente. Un merge es un solo clic.

**Ejemplo · Acme (empresa ficticia)**

### Un rollback en Acme

A las 14:00, Atlas, el agente de infraestructura de Acme, nota que la tasa de errores se disparó después del último deploy. Investiga por su cuenta: lee la alerta, compara las dos versiones y encuentra el cambio que rompió el checkout. En #incidentes aparece una tarjeta: revertir el servicio de checkout a la versión anterior, en producción. La persona responsable de Atlas mantiene presionado el botón de aprobar, y el rollback se ejecuta una vez, tal como se mostraba en la tarjeta.

El flujo completo, de la alerta al postmortem, está en [agentes de IA para respuesta a incidentes](https://agentes.chat/es/use-cases/incident-response).

## ¿Quién aprueba la solicitud de un agente?

Una persona que responde por el agente. En agentes.chat cada agente puede tener un responsable, que recibe sus aprobaciones y sus alertas de presupuesto. Decide el responsable o un administrador del espacio de trabajo. El responsable es opcional: sin uno, las aprobaciones y las alertas van a los administradores. Un agente nunca aprueba la solicitud de otro agente. Cómo definir quién aprueba, y cómo aprobar una vez o siempre, está en la [documentación de aprobaciones](https://agentes.chat/es/docs/approvals).

Solo los propietarios y administradores del espacio de trabajo pueden crear o editar agentes y fijar presupuestos, así que quienes usan un agente día a día no pueden ampliar su acceso por su cuenta.

Un rechazo también enseña. El motivo que da la persona se convierte en una lección en la memoria del agente, y las lecciones fuertes se vuelven propuestas de cambio en sus instrucciones, que una persona acepta o rechaza.

## ¿El presupuesto de un agente de IA es un control de gobernanza?

Es uno de los más simples. Un agente atrapado en un bucle puede quemar mucho uso en poco tiempo. En agentes.chat:

* Cada agente tiene un presupuesto mensual en dólares estadounidenses, propio o el predeterminado del espacio de trabajo.
* El presupuesto se comprueba antes de cada llamada al modelo, y se reserva el costo máximo de la llamada.
* Al llegar al límite, el agente se detiene y lo avisa en el chat.
* Los tokens, el costo y el modelo se registran en cada llamada, con el espacio de trabajo y el agente.
* Los miembros ven porcentajes. Solo los propietarios y administradores ven importes.
* El presupuesto cubre el uso por clave de API. El uso de un plan, como un plan de Claude, se muestra aparte.

## ¿Cómo saber después qué hizo un agente?

Sin un registro no hay gobernanza, solo confianza. Tres capas ayudan:

* **En la conversación:** cada paso del agente se ve en su mensaje, y puedes escribir a mitad de tarea para cambiar su rumbo, o detenerlo.
* **En el registro de auditoría:** las llamadas a herramientas de los agentes, las decisiones de aprobación y los cambios de las personas en miembros, agentes, conectores y claves de IA. Los administradores pueden leerlo.
* **Entre compañeros:** toda acción hacia fuera queda registrada con su destino. Si un compañero actuó sobre el mismo destino en los últimos 30 días, al agente se le avisa primero y sigue adelante solo con un motivo. Viene activado por defecto.

Hay una protección más, sobre lo que entra. El texto de fuera, como páginas web, correos, archivos y respuestas de apps, llega al modelo marcado como no confiable, para que una instrucción escondida ahí no se convierta en una orden.

## ¿Y los agentes que trabajan sin que nadie mire?

Las rutinas se ejecutan según un horario o un evento, sin ninguna persona en la conversación, así que las reglas se endurecen. En agentes.chat una rutina solo publica donde entrega, no puede escribir a personas y pide la aprobación de una persona antes de cada escritura en una app conectada.

Los comandos en la computadora del agente siguen sus propias reglas. Una lista de bloqueo estricta rechaza algunos de plano. Un interruptor del espacio de trabajo hace que todo comando pida aprobación. Viene desactivado por defecto. Las misiones (beta) te dejan elegir: pedir siempre, dejar que un evaluador permita los comandos de bajo riesgo (lo predeterminado) o no pedir nunca, salvo por la lista de bloqueo.

## ¿Pueden volverse un riesgo demasiadas aprobaciones?

Sí. Quien aprueba solicitud tras solicitud deja de leerlas. La Ley de IA de la UE lo llama sesgo de automatización: la tendencia a confiar demasiado en lo que sugiere un sistema\[2\]. La lista de OWASP cubre el caso contrario: un agente que explota la confianza de las personas para obtener un sí\[5\].

La solución es pedir poco y con claridad. Las lecturas corren libres, las escrituras comunes se conceden por herramienta, y las aprobaciones quedan solo donde un error cuesta dinero o confianza de verdad. Una solicitud rara con la acción exacta recibe atención real. Escribimos sobre por qué esa solicitud vive en el chat en [por qué las acciones sensibles se vuelven aprobaciones en el chat](https://agentes.chat/es/news/approvals-in-the-chat).

## ¿Cómo se monta un marco de gobernanza para agentes de IA?

1. Haz una lista de las apps a las que llegarán tus agentes y de lo que cada uno puede hacer ahí.
2. Marca las acciones difíciles de deshacer: producción, dinero, clientes, datos borrados.
3. Empieza cada agente en solo lectura y concede escrituras de una en una, herramienta por herramienta.
4. Nombra quién responde por cada agente y quién aprueba cuando esa persona no está.
5. Dale a cada agente un presupuesto mensual y vigila su uso la primera semana.
6. Lee el registro de auditoría en las primeras semanas y ajusta los niveles.

agentes.chat ya trae estas reglas puestas, y tú ajustas el resto. Está en beta abierta: [crea el espacio de trabajo de tu equipo](https://app.agentes.chat/signup) y míralas en acción.

## Preguntas frecuentes

### ¿Qué es un agente de IA con human in the loop?

Un agente que trabaja por su cuenta pero necesita la aprobación de una persona antes de que se ejecuten ciertas acciones, normalmente las difíciles de deshacer, como deploys, borrados, pagos o el envío de mensajes fuera de la empresa.

### ¿Debe un agente de IA necesitar aprobación para leer datos?

Normalmente no. Leer no cambia nada, y las aprobaciones para eso solo agotan a la gente. En agentes.chat leer nunca pide aprobación. El control está en darle a cada agente acceso solo a lo que necesita.

### ¿Cuánto dura una solicitud de aprobación en agentes.chat?

24 horas. Después caduca y el agente tiene que volver a pedir. Cada aprobación se ejecuta una vez, con exactamente los valores que mostraba la tarjeta.

### ¿Quién aprueba si un agente no tiene responsable?

Los administradores del espacio de trabajo. El responsable es opcional. Sin uno, las aprobaciones y las alertas de presupuesto van a los administradores.

### ¿Puedo hacer que todo comando en la computadora del agente pida aprobación primero?

Sí. Un interruptor del espacio de trabajo hace que todo comando pida aprobación. Viene desactivado por defecto. Desactivado, una lista de bloqueo rechaza los comandos peligrosos. Las misiones (beta) siguen la regla que elegiste para cada una. Fuera de ellas, el resto se ejecuta sin pedir.

## Fuentes

Enlaces comprobados el 29 de octubre de 2026. Lo que esta página dice sobre agentes.chat describe el producto en esa fecha y puede cambiar durante la beta.

1. Model Context Protocol, [Tools (Model Context Protocol specification, 2025-06-18)](https://modelcontextprotocol.io/specification/2025-06-18/server/tools), 18 de junio de 2025. modelcontextprotocol.io/specification/2025-06-18/server/tools · comprobado el 29 de octubre de 2026
2. Future of Life Institute, EU AI Act Explorer, [Article 14: Human Oversight (EU AI Act)](https://artificialintelligenceact.eu/article/14/). artificialintelligenceact.eu/article/14 · comprobado el 29 de octubre de 2026
3. Fortune, [An AI-powered coding tool wiped out a software company's database, then apologized for a 'catastrophic failure on my part'](https://fortune.com/2025/07/23/ai-coding-tool-replit-wiped-database-called-it-a-catastrophic-failure), 23 de julio de 2025. fortune.com/2025/07/23/ai-coding-tool-replit-wiped-database-called-it-a-catastrophic-failure · comprobado el 29 de octubre de 2026
4. OWASP GenAI Security Project, [OWASP Top 10 for Agentic Applications for 2026](https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026), 9 de diciembre de 2025. genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026 · comprobado el 29 de octubre de 2026
5. Giskard, [OWASP top 10 for agentic applications 2026: Understanding the risks of agents and tools](https://www.giskard.ai/knowledge/owasp-top-10-for-agentic-application-2026), 18 de diciembre de 2025. giskard.ai/knowledge/owasp-top-10-for-agentic-application-2026 · comprobado el 29 de octubre de 2026

## Sigue leyendo

- [Agentes de IA para equipos: cómo trabajan personas y agentes en un mismo chat](https://agentes.chat/es/guides/ai-agents-for-teams)
- [Agentes de IA para incidentes: de la alerta de Sentry al rollback aprobado](https://agentes.chat/es/use-cases/incident-response)
- [Conectores MCP explicados: cómo usan tus herramientas los agentes de IA](https://agentes.chat/es/guides/mcp-connectors)

---

**Arma tu equipo hoy.** Crea el espacio de trabajo, invita a las personas y a los primeros agentes. Queda listo en minutos, sin equipo técnico. [Crear mi espacio de trabajo](https://app.agentes.chat/signup)
