AI Explainability 360 (v0.3.0)

✨新着: IBM Research は、LLM、特に LLM に与えられる入力に関して説明可能性を拡張する新しい In-Context Explainability 360 (ICX360) ツールキットを公開しました。ぜひチェックしてみてください! 🚀✨

AI Explainability 360 ツールキットは、データセットと機械学習モデルの解釈可能性と説明可能性をサポートするオープンソースライブラリです。AI Explainability 360 Python パッケージには、説明のさまざまな側面をカバーする包括的なアルゴリズム群と、代理の説明可能性メトリクスが含まれています。AI Explainability 360 ツールキットは、表形式データ、テキスト、画像、時系列データをサポートしています。

AI Explainability 360 インタラクティブ体験は、さまざまなコンシューマーペルソナ向けのユースケース例を順に紹介しながら、コンセプトと機能へのやさしい入門を提供します。チュートリアルとサンプルノートブックは、データサイエンティスト向けのより深い入門を提供します。完全な API も利用可能です。

説明可能性に関して、最も効果的な単一のアプローチはありません。説明には多くの方法があります。データ vs モデル、直接解釈可能 vs 事後説明、局所的 vs 大域的などです。そのため、特定のユースケースにどのアルゴリズムが最適かを判断するのは難しい場合があります。参考として、ガイダンス資料と分類ツリーを作成しました。

このパッケージは拡張性を考慮して開発されています。このライブラリはまだ開発段階にあります。説明可能性アルゴリズム、メトリクス、ユースケースの貢献を歓迎します。貢献者として始めるには、こちらから招待をリクエストして AI Explainability 360 Slack コミュニティに参加してください。コードと Python ノートブックの貢献方法については、こちらの指示をご確認ください。

サポートされている説明可能性アルゴリズム

データ説明

ProtoDash (Gurumoorthy et al., 2019)
Disentangled Inferred Prior VAE (Kumar et al., 2018)

局所的ポストホック説明

ProtoDash (Gurumoorthy et al., 2019)
Contrastive Explanations Method (Dhurandhar et al., 2018)
Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
Exemplar based Contrastive Explanations Method
Grouped Conditional Expectation (Goldstein et al. による Individual Conditional Expectation Plots の高次元への適用)
LIME (Ribeiro et al. 2016, Github)
SHAP (Lundberg, et al. 2017, Github)

時系列の局所的ポストホック説明

Integrated Gradients を使用した時系列 Saliency Maps (Sundararajan et al. に着想を得たもの)
Time Series LIME (Ribeiro et al. 2016 による古典的論文の時系列適応)
Time Series Individual Conditional Expectation (Individual Conditional Expectation Plots Goldstein et al. の時系列適応)

局所的直接説明

Teaching AI to Explain its Decisions (Hind et al., 2019)
Order Constraints in Optimal Transport (Lim et al.,2022, Github)

局所的説明の認証

Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

大域的直接説明

Interpretable Model Differencing (IMD) (Haldar et al., 2023)
CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
Generalized Linear Rule Models (Wei et al., 2019)
Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

大域的ポストホック説明

ProfWeight (Dhurandhar et al., 2018)

サポートされている説明可能性メトリクス

Faithfulness (Alvarez-Melis and Jaakkola, 2018)
Monotonicity (Luss et al., 2019)

セットアップ

サポートされている構成:

インストールキーワード	Explainer(s)	OS	Python バージョン
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(任意) 仮想環境の作成

AI Explainability 360 は、多くの Python パッケージの特定バージョンを必要とするため、システム上の他のプロジェクトと競合する可能性があります。依存関係を安全にインストールできるように、仮想環境マネージャーの使用を強くお勧めします。ツールキットのインストールで問題が発生した場合は、まずこれを試してください。

Conda

Conda はすべての構成で推奨されていますが、当目的では Virtualenv も一般的に代替可能です。Miniconda で十分です (気になる場合は Anaconda と Miniconda の違いを参照してください)。Miniconda をまだお持ちでない場合は、ここからインストールできます。

次に、上記の表を参照して、使用したい説明可能性アルゴリズムに基づいて新しい Python 環境を作成します。たとえば、Python 3.10 の場合は、次のコマンドを使用します:

conda create --name aix360 python=3.10
conda activate aix360

シェルは (aix360) $ のようになります。環境を非アクティブ化するには、次のコマンドを実行します:

(aix360)$ conda deactivate

プロンプトは $ または (base)$ に戻ります。

注: 古いバージョンの conda では、source activate aix360 と source deactivate (Windows では activate aix360 と deactivate) が使用される場合があります。

インストール

このリポジトリの最新バージョンをクローンします:

(aix360)$ git clone https://github.com/Trusted-AI/AIX360

サンプルとチュートリアルノートブックを実行したい場合は、aix360/data/README.md の説明に従って、データセットをダウンロードし、それぞれのフォルダーに配置してください。

次に、setup.py ファイルが含まれるプロジェクトのルートディレクトリに移動して、次のコマンドを実行します:

AIX360

人気