Riesgos y controlesPara profundizarPráctica de gestión
Controles de protección
Guardrails · También: salvaguardas, barreras de protección
Qué significa
Conjunto de medidas técnicas y organizativas que limitan lo que un sistema de IA puede recibir, generar o hacer: filtros de contenido, validación de respuestas, restricciones de permisos, límites de uso o revisiones humanas. Reducen riesgos, pero ningún control aislado es infalible.
Un ejemplo
Ejemplo ilustrativo: el chatbot de una biblioteca pública está configurado para no pedir datos de salud, rechazar temas ajenos al servicio y derivar a una persona cuando detecta una queja.
Por qué importa
Combinar varias capas de control es más eficaz que confiar en una sola. Deben revisarse a medida que cambia el uso del sistema.
Distinción útil
Los controles de protección son medidas concretas; la gobernanza decide qué controles hacen falta y quién responde de ellos.
Fuentes
- OWASP Top 10 for LLM Applications (2025)(se abre en una pestaña nueva)OWASP GenAI Security Project — Medidas de prevención y mitigación de LLM01 y LLM06
- Generative AI Profile (NIST AI 600-1)(se abre en una pestaña nueva)NIST — Sección 3, acciones sugeridas de gestión de riesgos