AI Explainability 360 (v0.3.0)

✨NUOVO: IBM Research ha un nuovo toolkit In-Context Explainability 360 (ICX360) che estende la spiegabilità a LLM, in particolare in termini di input fornito all'LLM. Dai un'occhiata! 🚀✨

Il toolkit AI Explainability 360 è una libreria open-source che supporta l'interpretabilità e la spiegabilità di dataset e modelli di machine learning. Il pacchetto Python AI Explainability 360 include un set completo di algoritmi che coprono diverse dimensioni delle spiegazioni insieme a metriche proxy di spiegabilità. Il toolkit AI Explainability 360 supporta dati tabellari, testuali, immagini e serie temporali.

L'esperienza interattiva di AI Explainability 360 offre un'introduzione graduale ai concetti e alle funzionalità, illustrando un caso d'uso di esempio per diverse tipologie di consumatori. I tutorial e i notebook di esempio offrono un'introduzione più approfondita orientata ai data scientist. È disponibile anche l'API completa.

Non esiste un unico approccio alla spiegabilità che funzioni meglio in assoluto. Ci sono molti modi di spiegare: dati rispetto a modello, spiegazione direttamente interpretabile rispetto a post hoc, locale rispetto a globale, ecc. Può quindi essere confuso capire quali algoritmi siano più appropriati per un dato caso d'uso. Per aiutarti, abbiamo creato del materiale di orientamento e un albero tassonomico che puoi consultare.

Abbiamo sviluppato il pacchetto pensando all'estensibilità. Questa libreria è ancora in fase di sviluppo. Ti invitiamo a contribuire con i tuoi algoritmi di spiegabilità, metriche e casi d'uso. Per iniziare come contributore, unisciti alla Community AI Explainability 360 su Slack richiedendo un invito qui. Rivedi le istruzioni per contribuire con codice e notebook Python qui.

Algoritmi di spiegabilità supportati

Spiegazioni dei dati

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

Spiegazioni locali post-hoc

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Adattamento degli Individual Conditional Expectation Plots di Goldstein et al. a dimensioni superiori )
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

Spiegazioni locali post-hoc per serie temporali

• Time Series Saliency Maps using Integrated Gradients (Ispirato da Sundararajan et al. )
• Time Series LIME (Adattamento per serie temporali del classico articolo di Ribeiro et al. 2016 )
• Time Series Individual Conditional Expectation (Adattamento per serie temporali degli Individual Conditional Expectation Plots Goldstein et al. )

Spiegazioni dirette locali

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

Certificazione delle spiegazioni locali

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

Spiegazioni dirette globali

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

Spiegazioni globali post-hoc

• ProfWeight (Dhurandhar et al., 2018)

Metriche di spiegabilità supportate

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

Configurazione

Configurazioni supportate:

(Facoltativo) Creare un ambiente virtuale

AI Explainability 360 richiede versioni specifiche di molti pacchetti Python che potrebbero entrare in conflitto con altri progetti sul tuo sistema. Un gestore di ambienti virtuali è fortemente consigliato per garantire che le dipendenze possano essere installate in modo sicuro. Se hai problemi a installare il toolkit, prova prima questo.

Conda

Conda è consigliata per tutte le configurazioni, sebbene Virtualenv sia generalmente intercambiabile per i nostri scopi. Miniconda è sufficiente (vedi la differenza tra Anaconda e Miniconda se sei curioso) e può essere installata da qui se non la possiedi già.

Quindi, crea un nuovo ambiente Python basato sugli algoritmi di spiegabilità che intendi utilizzare facendo riferimento alla tabella precedente. Ad esempio, per Python 3.10, usa il seguente comando:

conda create --name aix360 python=3.10
conda activate aix360

La shell dovrebbe ora apparire come (aix360) $. Per disattivare l'ambiente, esegui:

(aix360)$ conda deactivate

Il prompt tornerà a $ o (base)$.

Nota: le versioni precedenti di conda potrebbero usare source activate aix360 e source deactivate (activate aix360 e deactivate su Windows).

Installazione

Clona l'ultima versione di questo repository:

(aix360)$ git clone https://github.com/Trusted-AI/AIX360

Se desideri eseguire gli esempi e i notebook tutoriali, scarica ora i dataset e posizionali nelle rispettive cartelle come descritto in aix360/data/README.md.

Quindi, spostati nella directory principale del progetto che contiene il file setup.py ed esegui:

(aix360)$ pip install -e .[<algo1>,<algo2>, ...]

Il comando precedente installa i pacchetti richiesti da specifici algoritmi. Qui <algo> si riferisce alla parola chiave di installazione nella tabella precedente. Ad esempio, per installare i pacchetti necessari agli algoritmi BRCG, DIPVAE e TSICE, si potrebbe usare:

(aix360)$ pip install -e .[rbm,dipvae,tsice]

Il comando predefinito pip install . installa soltanto le dipendenze predefinite.

Nota che potresti non essere in grado di installare due algoritmi che richiedono versioni diverse di Python nello stesso ambiente (ad esempio contrastive insieme a rbm).

Se incontri problemi, prova ad aggiornare pip e setuptools e a disinstallare eventuali versioni precedenti di aix360 prima di ripetere il passaggio precedente.

(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360

Installazione tramite PIP di AI Explainability 360

Se desideri iniziare rapidamente a utilizzare il toolkit AI Explainability 360 senza clonare esplicitamente questo repository, puoi usare una di queste opzioni:

• Installa v0.3.0 tramite link del repository

(your environment)$ pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[<algo1>,<algo2>,...]

Ad esempio, usa pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[rbm,dipvae,tsice] per installare BRCG, DIPVAE e TSICE. Potrebbe essere necessario installare cmake se non è già installato nel tuo ambiente usando conda install cmake.

• Installa v0.3.0 (o versioni precedenti) tramite pypi

(your environment)$ pip install aix360

Se segui una di queste due opzioni, dovrai scaricare separatamente i notebook disponibili nella cartella examples.

Gestione degli errori di installazione

Il toolkit AI Explainability 360 è testato su Windows, MacOS e Linux. Tuttavia, se incontri ancora problemi di installazione dovuti alle dipendenze dei pacchetti, prova a installare il pacchetto corrispondente tramite conda (ad es. conda install package-name) e poi installa il toolkit seguendo i passaggi usuali. Ad esempio, se incontri problemi relativi a pygraphviz durante l'installazione, usa conda install pygraphviz e poi installa il toolkit.

Usa l'ambiente Python corretto in base alla tabella precedente.

Esecuzione in Docker

• Nella directory AIX360, crea l'immagine del container dal Dockerfile usando docker build -t aix360_docker .
• Avvia l'immagine del container usando il comando docker run -it -p 8888:8888 aix360_docker:latest bash, supponendo che la porta 8888 sia libera sulla tua macchina.
• All'interno del container, avvia Jupyter Lab usando il comando jupyter lab --allow-root --ip 0.0.0.0 --port 8888 --no-browser
• Accedi ai tutorial di esempio sulla tua macchina usando l'URL localhost:8888

Utilizzare AI Explainability 360

La directory examples contiene una collezione eterogenea di notebook Jupyter che utilizzano AI Explainability 360 in vari modi. Sia gli esempi che i notebook tutoriali illustrano codice funzionante che usa il toolkit. I tutorial forniscono una discussione aggiuntiva che guida l'utente attraverso i vari passaggi del notebook. Vedi i dettagli su tutorial ed esempi qui.

Come citare AI Explainability 360

Se utilizzi AI Explainability 360 per il tuo lavoro, ti invitiamo a:

• Citare il seguente articolo. La voce bibtex è la seguente:

@misc{aix360-sept-2019,
title = "One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques",
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind
and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovi\'c
and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri
and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
month = sept,
year = {2019},
url = {https://arxiv.org/abs/1909.03012}
}

• Mettere una stella su questo repository.

• Condividi le tue storie di successo con noi e con gli altri nella Community AI Explainability 360.

Video AIX360

• Video introduttivo su AI Explainability 360 di Vijay Arya e Amit Dhurandhar, 5 settembre 2019 (35 min)

Riconoscimenti

AIX360 è costruito con l'aiuto di diversi pacchetti open source. Tutti sono elencati in setup.py e alcuni di questi includono:

• Tensorflow https://www.tensorflow.org/about/bib
• Pytorch https://github.com/pytorch/pytorch
• scikit-learn https://scikit-learn.org/stable/about.html

Informazioni sulla licenza

Consulta sia il file LICENSE sia la cartella licenza supplementare presente nella directory principale per le informazioni sulla licenza.