AI Explainability 360 (v0.3.0)

✨NOUVEAU : IBM Research a publié une nouvelle boîte à outils In-Context Explainability 360 (ICX360) qui étend l'explicabilité aux LLM, notamment en ce qui concerne l'entrée fournie au LLM. Allez y jeter un œil ! 🚀✨

La boîte à outils AI Explainability 360 est une bibliothèque open source qui prend en charge l'interprétabilité et l'explicabilité des ensembles de données et des modèles d'apprentissage automatique. Le package Python AI Explainability 360 comprend un ensemble complet d'algorithmes qui couvrent différentes dimensions des explications ainsi que des métriques d'explicabilité proxy. La boîte à outils AI Explainability 360 prend en charge les données tabulaires, les données textuelles, les images et les séries temporelles.

L'expérience interactive AI Explainability 360 offre une introduction en douceur aux concepts et aux fonctionnalités en parcourant un exemple de cas d'utilisation pour différents personas de consommateurs. Les tutoriels et notebooks d'exemples offrent une introduction plus approfondie, orientée data scientist. L'API complète est également disponible.

Il n'existe pas d'approche unique de l'explicabilité qui fonctionne le mieux. Il existe de nombreuses façons d'expliquer : données vs. modèle, explication directement interprétable vs. explication post hoc, locale vs. globale, etc. Il peut donc être déroutant de déterminer quels algorithmes sont les plus appropriés pour un cas d'utilisation donné. Pour vous aider, nous avons créé du matériel d'orientation et un arbre de taxonomie qui peuvent être consultés.

Nous avons développé le package dans un souci d'extensibilité. Cette bibliothèque est encore en développement. Nous vous encourageons à apporter vos algorithmes d'explicabilité, vos métriques et vos cas d'utilisation. Pour commencer en tant que contributeur, veuillez rejoindre la communauté AI Explainability 360 sur Slack en demandant une invitation ici. Veuillez consulter les instructions pour contribuer du code et des notebooks Python ici.

Algorithmes d'explicabilité pris en charge

Explications des données

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

Explications locales post-hoc

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Adaptation des diagrammes d'espérance conditionnelle individuelle de Goldstein et al. à une dimension supérieure )
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

Explications locales post-hoc pour séries temporelles

• Time Series Saliency Maps using Integrated Gradients (Inspiré par Sundararajan et al. )
• Time Series LIME (Adaptation aux séries temporelles de l'article classique de Ribeiro et al. 2016 )
• Time Series Individual Conditional Expectation (Adaptation aux séries temporelles des diagrammes d'espérance conditionnelle individuelle Goldstein et al. )

Explications locales directes

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

Certification des explications locales

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

Explications globales directes

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

Explications globales post-hoc

• ProfWeight (Dhurandhar et al., 2018)

Métriques d'explicabilité prises en charge

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

Configuration

Configurations prises en charge :

Mot-clé d'installation	Explicateur(s)	OS	Version de Python
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(Facultatif) Créer un environnement virtuel