Agentes y automatizaciónPara profundizarConcepto técnico
Autonomía de un agente
Agent autonomy · También: grado de autonomía, autonomía
Qué significa
Grado en que un sistema de IA puede decidir y actuar sin intervención humana: desde sugerir opciones que una persona aprueba hasta ejecutar tareas completas por su cuenta. No es una cualidad fija, sino una decisión de diseño que debe ajustarse al impacto de las acciones posibles.
Un ejemplo
Ejemplo ilustrativo: un agente puede ordenar la bandeja de entrada sin pedir permiso, pero necesita confirmación para borrar correos o responder a clientes. Así, la autonomía cambia según el riesgo de cada acción.
Por qué importa
Decidir el nivel de autonomía es decidir quién responde por cada acción y en qué momento puede intervenir una persona.
Distinción útil
La autonomía es el margen de decisión concedido; la autonomía excesiva es concederlo sin la necesidad o los controles adecuados.
Fuentes
- Building effective agents(se abre en una pestaña nueva)Anthropic — Apartados «When (and when not) to use agents» y «Agents»
- Reglamento (UE) 2024/1689 de Inteligencia Artificial(se abre en una pestaña nueva)Unión Europea (EUR-Lex) — Artículo 3, apartado 1 («distintos niveles de autonomía»)