Ir al contenido principal

Glosario de IA Responsibility

¿Qué es human-in-the-loop (humano en el bucle) en IA?

← Todos los términos del glosario
En pocas palabras

Diseño en el que personas revisan, aprueban o corrigen las salidas de un sistema de IA antes de que tengan efecto, o intervienen cuando el sistema duda.

Explicación

Human-in-the-loop (HITL), o humano en el bucle, es una forma de diseñar sistemas de IA para que una persona revise, apruebe o corrija la salida antes de que tenga efecto. Esa persona puede revisar todas las decisiones, solo las dudosas o de mayor impacto, o una muestra. Es habitual en decisiones delicadas, como crédito, siniestros, selección de personal o apoyo médico, y en agentes que actúan sobre sistemas reales. Además genera correcciones que sirven para mejorar el modelo. El Reglamento Europeo de IA exige que los sistemas de alto riesgo se diseñen para que las personas puedan supervisarlos de forma efectiva.

Dentro, encima o por encima del bucle

  • Humano en el bucle (in the loop): una persona aprueba o edita cada salida antes de usarla. Más lento, pero lo más seguro para decisiones de alto impacto.
  • Humano sobre el bucle (on the loop): el sistema actúa solo y una persona lo vigila, con capacidad de intervenir o pararlo.
  • Humano por encima del bucle (over the loop): las personas fijan reglas, límites y umbrales, y revisan los resultados cada cierto tiempo.

Muchos sistemas reales combinan los tres: los casos rutinarios van solos, la aprobación humana entra cuando la confianza es baja o el importe es alto, y el conjunto se revisa con regularidad.

Dónde hace falta

  • Decisiones con efectos legales o importantes para las personas, como crédito, seguros, empleo o acceso a servicios.
  • Agentes de IA que pueden enviar mensajes, pagar, cambiar registros o desplegar código.
  • Sistemas nuevos en sus primeras semanas en producción, cuando aún no se conoce bien su comportamiento.
  • Casos en los que el modelo indica poca confianza o la entrada se sale de lo que se probó.

Que la supervisión sea real

La revisión humana solo funciona si quien revisa puede juzgar de verdad la salida. Eso pide mostrar la evidencia que hay detrás de cada recomendación, una carga de trabajo asumible y que sea fácil rechazar o corregir.

El gran riesgo es el sesgo de automatización: la gente tiende a aceptar lo que propone el sistema, sobre todo con prisa. El Reglamento de IA lo menciona de forma expresa. Mide cuántas veces los revisores cambian la salida; si nunca lo hacen, puede que la revisión no esté sirviendo.

Preguntas frecuentes

¿Qué significa human-in-the-loop?

Significa que una persona forma parte del proceso de decisión de un sistema de IA. El sistema propone y una persona revisa, aprueba o corrige antes de que el resultado se use, o interviene cuando el sistema duda.

¿Qué diferencia hay entre human-in-the-loop y human-on-the-loop?

En human-in-the-loop una persona aprueba las salidas antes de que tengan efecto. En human-on-the-loop el sistema actúa solo mientras una persona lo vigila y puede intervenir o pararlo. Lo segundo es más rápido; lo primero da más control.

¿El Reglamento Europeo de IA obliga a tener un humano en el bucle?

El artículo 14 exige que los sistemas de alto riesgo se diseñen para que personas físicas puedan supervisarlos de forma efectiva mientras se usan. Eso incluye poder entender la salida, ignorarla o revertirla y parar el sistema. No siempre implica aprobar cada salida una a una: las medidas deben ajustarse al riesgo y al contexto.

¿Tener un humano en el bucle lo hace todo más lento?

Puede, si cada salida necesita aprobación. La mayoría de diseños solo envían a personas los casos dudosos, raros o de alto impacto, y dejan pasar los rutinarios. La idea es poner la atención humana donde cambia el resultado.

¿Cómo ayuda el humano en el bucle a mejorar los modelos?

Cada corrección de un revisor es un ejemplo etiquetado de cuál era la respuesta buena. Con el tiempo, esas correcciones sirven para evaluar el sistema, ajustar prompts o reglas y reentrenar o ajustar el modelo.

Guías de decisión que usan este término

Cómo llevarlo a la práctica

Dónde aparece en Thinkia

Para seguir leyendo

Fuentes

Actualizado: 2026-10-21

¿Quieres ver cómo se aplica en tu organización?

Habla con un experto en IA