AI Explainability 360 (v0.3.0)

✨NUEVO: IBM Research tiene un nuevo kit de herramientas In-Context Explainability 360 (ICX360) que extiende la explicabilidad a los LLM, específicamente en cuanto a la entrada proporcionada al LLM. ¡Échale un vistazo! 🚀✨

El kit de herramientas AI Explainability 360 es una biblioteca de código abierto que permite la interpretabilidad y explicabilidad de conjuntos de datos y modelos de aprendizaje automático. El paquete de Python AI Explainability 360 incluye un conjunto completo de algoritmos que cubren diferentes dimensiones de las explicaciones junto con métricas proxy de explicabilidad. El kit de herramientas AI Explainability 360 es compatible con datos tabulares, texto, imágenes y series temporales.

La experiencia interactiva de AI Explainability 360 ofrece una introducción sencilla a los conceptos y capacidades mediante un caso de uso de ejemplo para diferentes perfiles de consumidores. Los tutoriales y cuadernos de ejemplo ofrecen una introducción más profunda, orientada a científicos de datos. La API completa también está disponible.

No existe un único enfoque de explicabilidad que funcione mejor. Hay muchas formas de explicar: datos frente a modelo, directamente interpretable frente a explicación post hoc, local frente a global, etc. Por lo tanto, puede resultar confuso determinar qué algoritmos son más apropiados para un caso de uso determinado. Para ayudar, hemos creado material de orientación y un árbol de taxonomía que pueden consultarse.

Hemos desarrollado el paquete pensando en la extensibilidad. Esta biblioteca aún está en desarrollo. Te animamos a contribuir con tus algoritmos de explicabilidad, métricas y casos de uso. Para empezar como colaborador, únete a la Comunidad AI Explainability 360 en Slack solicitando una invitación aquí. Revisa las instrucciones para contribuir con código y notebooks de Python aquí.

Algoritmos de explicabilidad compatibles

Explicaciones de datos

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

Explicaciones post-hoc locales

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Adaptación de Individual Conditional Expectation Plots de Goldstein et al. a una dimensión superior)
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

Explicaciones post-hoc locales de series temporales

• Time Series Saliency Maps using Integrated Gradients (Inspirado por Sundararajan et al. )
• Time Series LIME (Adaptación de series temporales del artículo clásico de Ribeiro et al. 2016 )
• Time Series Individual Conditional Expectation (Adaptación de series temporales de Individual Conditional Expectation Plots Goldstein et al. )

Explicaciones directas locales

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

Certificación de explicaciones locales

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

Explicaciones directas globales

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

Explicaciones post-hoc globales

• ProfWeight (Dhurandhar et al., 2018)

Métricas de explicabilidad compatibles

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

Configuración

Configuraciones compatibles:

Palabra clave de instalación	Explicador(es)	SO	Versión de Python
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(Opcional) Crear un entorno virtual

AI Explainability 360 requiere versiones específicas de muchos paquetes de Python que pueden entrar en conflicto con otros proyectos de tu sistema. Se recomienda encarecidamente un gestor de entornos virtuales para asegurar que las dependencias puedan instalarse de forma segura. Si tienes problemas para instalar el kit de herramientas, prueba esto primero.

Conda