Glosario de IA Responsibility
¿Qué es la IA explicable (XAI)?
XAI (Explainable AI)
← Todos los términos del glosarioMétodos y prácticas que hacen comprensibles los resultados de un sistema de IA, para que las personas vean por qué decidió algo y juzguen si fiarse.
Explicación
La IA explicable (XAI, de Explainable AI) reúne los métodos y prácticas que permiten entender por qué un sistema de IA produjo un resultado. Una explicación puede mostrar qué datos pesaron más en una decisión de crédito, qué fragmento de un documento sostiene una respuesta o cómo se comporta el modelo en distintos casos. La explicabilidad genera confianza en los usuarios, ayuda a los equipos a encontrar errores y sesgos y facilita cumplir los requisitos de transparencia en decisiones de alto impacto. Una explicación solo sirve si es fiel y se adapta a quien la recibe, y eso es más difícil de lo que parece.
Cómo se explican las decisiones de la IA
- Modelos interpretables por diseño: modelos sencillos, como árboles de decisión o puntuaciones lineales, cuya lógica se lee directamente.
- Explicaciones locales: métodos que explican una sola predicción, por ejemplo aproximando el modelo alrededor de ese caso con otro más simple, como hace LIME.
- Atribución de variables: puntuaciones que indican cuánto contribuyó cada dato a un resultado.
- Explicaciones con ejemplos: casos parecidos del pasado, o qué tendría que cambiar para que cambiara la decisión.
- En IA generativa: citar las fuentes usadas, registrar los pasos que dio un agente y mostrar las instrucciones que siguió.
Qué hace buena una explicación
El NIST ha propuesto cuatro principios para la IA explicable: el sistema debe ofrecer una explicación de sus resultados; esa explicación debe tener sentido para quien la recibe; debe reflejar con fidelidad cómo se produjo el resultado; y el sistema debe operar solo en las condiciones para las que se diseñó, avisando cuando está fuera de ellas.
En la práctica, una científica de datos que depura un modelo, un cliente al que se le deniega un préstamo y un auditor necesitan explicaciones distintas de la misma decisión.
Límites que conviene tener en cuenta
Las explicaciones a posteriori son aproximaciones y pueden inducir a error, sobre todo en modelos grandes. Que una explicación sea plausible no prueba que el modelo razonara así. En los modelos de lenguaje grandes, el razonamiento que escribe el modelo es texto generado, no una traza fiel de su cálculo interno. Por eso la explicabilidad funciona mejor combinada con pruebas, monitorización y supervisión humana, no como sustituto.
Preguntas frecuentes
¿Por qué es importante la IA explicable?
Porque las personas necesitan entender y poder rebatir las decisiones que les afectan, y las organizaciones necesitan detectar errores y sesgos antes de que hagan daño. En sectores regulados como banca, seguros o salud, poder explicar una decisión suele ser una expectativa legal o del supervisor.
¿Qué diferencia hay entre explicabilidad e interpretabilidad?
A menudo se usan como sinónimos. Cuando se distinguen, la interpretabilidad suele referirse a un modelo cuyo funcionamiento se entiende directamente, y la explicabilidad, a explicaciones generadas para cualquier modelo, incluidos los complejos, a menudo a posteriori.
¿Qué ejemplos de técnicas XAI hay?
LIME y SHAP son métodos muy usados que estiman cuánto contribuyó cada dato a una predicción. Otros son las explicaciones contrafactuales, que muestran qué tendría que cambiar para obtener otro resultado, y los modelos sustitutos sencillos que aproximan a uno complejo.
¿El Reglamento Europeo de IA exige IA explicable?
El Reglamento de IA fija obligaciones de transparencia y supervisión humana, sobre todo para sistemas de alto riesgo, para que quien los despliega pueda interpretar los resultados y usarlos de forma adecuada. No impone una técnica concreta de explicabilidad. Consulta el texto del reglamento y a tus asesores legales para saber qué obligaciones aplican a cada sistema.
¿Se pueden explicar los modelos de lenguaje grandes?
En parte. Puedes mostrar las fuentes en las que se basó una respuesta, registrar prompts y llamadas a herramientas y probar su comportamiento de forma sistemática. Explicar el cálculo interno de un modelo grande sigue siendo un campo de investigación abierto, la interpretabilidad mecanicista.
Dónde aparece en Thinkia
Para seguir leyendo
Términos relacionados
Fuentes
- NIST · Four Principles of Explainable Artificial Intelligence, NISTIR 8312 (en inglés)
- Ribeiro, Singh y Guestrin · "Why Should I Trust You?": Explaining the Predictions of Any Classifier, LIME (en inglés)
- DARPA · Explainable Artificial Intelligence (XAI) program (en inglés)
Actualizado: 2026-10-21