Riesgos y controlesPara profundizarPrincipio ético
Explicabilidad
Explainability · También: IA explicable, XAI, interpretabilidad
Qué significa
Capacidad de ofrecer razones comprensibles sobre cómo un sistema de IA llegó a un resultado concreto, adaptadas a quien las necesita: una persona afectada, un profesional que decide o un equipo auditor. Es difícil en modelos complejos, por lo que a menudo se apoya en técnicas y documentación complementarias.
Un ejemplo
Ejemplo ilustrativo: a una persona le deniegan un préstamo y recibe una explicación de los factores que más pesaron, como el nivel de endeudamiento, junto con la forma de solicitar una revisión.
Por qué importa
Permite detectar errores, cuestionar decisiones y ejercer derechos. Sin explicaciones, es difícil supervisar o corregir.
Distinción útil
La explicabilidad responde a «¿por qué este resultado?»; la transparencia responde a «¿hay IA y cómo se usa?».
Fuentes
- AI Risk Management Framework (AI RMF 1.0, NIST AI 100-1)(se abre en una pestaña nueva)NIST — Sección 3.5 «Explainable and Interpretable»
- Machine Learning Glossary(se abre en una pestaña nueva)Google for Developers — Entrada «explainability»