Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

Human-in-the-loop

Human-in-the-loop (HITL, con una persona en el circuito) es un diseño en el que un sistema de IA se detiene en puntos elegidos para que una persona apruebe, corrija o rechace su siguiente paso, de modo que las acciones arriesgadas o inciertas no se ejecutan automáticamente.

También llamado: HITL, approval prompts

Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas

Un agente que puede enviar correos, gastar dinero o borrar archivos necesita una comprobación antes de hacerlo. Human-in-the-loop coloca a una persona en esos puntos.

Cómo funciona

La aplicación decide qué acciones necesitan aprobación. Los desencadenantes habituales son las acciones con efectos secundarios, como ejecutar un comando de shell, escribir fuera de la carpeta de un proyecto o llamar a una API de pagos, y los momentos en que el agente se atasca. En esos puntos, el agente se detiene y muestra lo que piensa hacer. La persona aprueba, edita o rechaza, y el agente continúa.

Los frameworks lo admiten directamente. LangGraph puede pausar la ejecución, dejar que una persona inspeccione o edite el estado y después reanudar. Los agentes de programación usan reglas de permisos: Claude Code, por ejemplo, permite a los equipos fijar qué herramientas y comandos están permitidos, cuáles están denegados y cuáles deben preguntar antes. Esas reglas se explican en permisos de agente.

Ejemplo

Un agente de soporte prepara un reembolso. Los reembolsos por debajo de un importe fijado se tramitan; los más grandes esperan a que un empleado haga clic en aprobar.

Límites

Con demasiadas solicitudes, la gente deja de leerlas y hace clic en sí por costumbre. Una solicitud además solo ayuda si muestra lo suficiente para juzgar la acción. Combina las aprobaciones con un sandbox de agente, para que las acciones que se ejecutan sin preguntar queden contenidas, y recuerda que la inyección de prompt puede hacer que una petición dañina parezca rutinaria.

Términos relacionados

Sandbox de agente
Un sandbox de agente (entorno aislado) es un entorno separado, como un contenedor, una máquina virtual o una restricción del sistema operativo, en el que un agente de IA ejecuta código y comandos sin poder llegar a archivos, redes o datos fuera de unos límites fijados.
Guardrails (IA)
Los guardrails (barreras de protección) son comprobaciones en tiempo de ejecución colocadas alrededor de un modelo de lenguaje que inspeccionan entradas y salidas y las bloquean, reescriben o redirigen, para que una aplicación no se salga del tema, evite contenido dañino y cumpla reglas que el modelo por sí solo no mantendría de forma fiable.
Permisos de agente
Los permisos de agente son las reglas que deciden qué herramientas, archivos, comandos, redes y cuentas puede usar un agente de IA, y qué acciones necesitan antes la aprobación de una persona, para que un agente equivocado o manipulado cause un daño limitado.
Prompt injection
La prompt injection (inyección de prompts) es un ataque en el que un texto que recibe un modelo de lenguaje, escrito por un usuario u oculto en una página web, un archivo o el resultado de una herramienta, cambia el comportamiento del modelo de formas que su desarrollador no pretendía.
Hooks de agente
Los hooks de agente (ganchos) son comandos o scripts definidos por el usuario que un agente de programación ejecuta automáticamente en puntos fijos de su trabajo, como antes de una llamada a una herramienta o después de editar un archivo, para comprobar, bloquear o ampliar lo que hace.

Fuentes