AI Explainability 360 (v0.3.0)

✨NUOVO: IBM Research ha un nuovo toolkit In-Context Explainability 360 (ICX360) che estende la spiegabilità a LLM, in particolare in termini di input fornito all'LLM. Dai un'occhiata! 🚀✨

Il toolkit AI Explainability 360 è una libreria open-source che supporta l'interpretabilità e la spiegabilità di dataset e modelli di machine learning. Il pacchetto Python AI Explainability 360 include un set completo di algoritmi che coprono diverse dimensioni delle spiegazioni insieme a metriche proxy di spiegabilità. Il toolkit AI Explainability 360 supporta dati tabellari, testuali, immagini e serie temporali.

L'esperienza interattiva di AI Explainability 360 offre un'introduzione graduale ai concetti e alle funzionalità, illustrando un caso d'uso di esempio per diverse tipologie di consumatori. I tutorial e i notebook di esempio offrono un'introduzione più approfondita orientata ai data scientist. È disponibile anche l'API completa.

Non esiste un unico approccio alla spiegabilità che funzioni meglio in assoluto. Ci sono molti modi di spiegare: dati rispetto a modello, spiegazione direttamente interpretabile rispetto a post hoc, locale rispetto a globale, ecc. Può quindi essere confuso capire quali algoritmi siano più appropriati per un dato caso d'uso. Per aiutarti, abbiamo creato del materiale di orientamento e un albero tassonomico che puoi consultare.

Abbiamo sviluppato il pacchetto pensando all'estensibilità. Questa libreria è ancora in fase di sviluppo. Ti invitiamo a contribuire con i tuoi algoritmi di spiegabilità, metriche e casi d'uso. Per iniziare come contributore, unisciti alla Community AI Explainability 360 su Slack richiedendo un invito qui. Rivedi le istruzioni per contribuire con codice e notebook Python qui.

Algoritmi di spiegabilità supportati

Spiegazioni dei dati

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

Spiegazioni locali post-hoc

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Adattamento degli Individual Conditional Expectation Plots di Goldstein et al. a dimensioni superiori )
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

Spiegazioni locali post-hoc per serie temporali

• Time Series Saliency Maps using Integrated Gradients (Ispirato da Sundararajan et al. )
• Time Series LIME (Adattamento per serie temporali del classico articolo di Ribeiro et al. 2016 )
• Time Series Individual Conditional Expectation (Adattamento per serie temporali degli Individual Conditional Expectation Plots Goldstein et al. )

Spiegazioni dirette locali

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

Certificazione delle spiegazioni locali

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

Spiegazioni dirette globali

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

Spiegazioni globali post-hoc

• ProfWeight (Dhurandhar et al., 2018)

Metriche di spiegabilità supportate

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

Configurazione

Configurazioni supportate:

Parola chiave di installazione	Explainer	Sistema operativo	Versione Python
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(Facoltativo) Creare un ambiente virtuale

AI Explainability 360 richiede versioni specifiche di molti pacchetti Python che potrebbero entrare in conflitto con altri progetti sul tuo sistema. Un gestore di ambienti virtuali è fortemente consigliato per garantire che le dipendenze possano essere installate in modo sicuro. Se hai problemi a installare il toolkit, prova prima questo.

Conda