Agentes y automatizaciónEsencialPráctica de gestión
Intervención humana en el proceso
Human-in-the-loop · También: HITL, supervisión humana, human oversight
Qué significa
Diseño en el que una persona revisa, corrige o aprueba los resultados de un sistema de IA en momentos clave antes de que produzcan efectos. Para que sea una supervisión real, la persona necesita tiempo, información, competencia y autoridad para cambiar o detener la decisión.
Un ejemplo
Ejemplo ilustrativo: un sistema propone qué solicitudes de ayuda priorizar y una técnica las valida. Si tiene que aprobar doscientas en una hora sin ver los motivos, su intervención es formal, no efectiva.
Por qué importa
La presencia de una persona en el proceso no demuestra por sí sola una supervisión efectiva. Hay que diseñarla para que pueda ejercerse.
Distinción útil
Firmar una decisión no equivale a supervisarla: la supervisión efectiva implica capacidad real de entender y corregir.
Fuentes
- Reglamento (UE) 2024/1689 de Inteligencia Artificial(se abre en una pestaña nueva)Unión Europea (EUR-Lex) — Artículo 14 (supervisión humana de sistemas de alto riesgo)
- AI Risk Management Framework (AI RMF 1.0, NIST AI 100-1)(se abre en una pestaña nueva)NIST — Función MANAGE y apartado sobre human-AI configuration