AI Explainability 360 (v0.3.0)

✨新着: IBM Research は、LLM、特に LLM に与えられる入力に関して説明可能性を拡張する新しい In-Context Explainability 360 (ICX360) ツールキットを公開しました。ぜひチェックしてみてください! 🚀✨

AI Explainability 360 ツールキットは、データセットと機械学習モデルの解釈可能性と説明可能性をサポートするオープンソースライブラリです。AI Explainability 360 Python パッケージには、説明のさまざまな側面をカバーする包括的なアルゴリズム群と、代理の説明可能性メトリクスが含まれています。AI Explainability 360 ツールキットは、表形式データ、テキスト、画像、時系列データをサポートしています。

AI Explainability 360 インタラクティブ体験 は、さまざまなコンシューマーペルソナ向けのユースケース例を順に紹介しながら、コンセプトと機能へのやさしい入門を提供します。チュートリアルとサンプルノートブック は、データサイエンティスト向けのより深い入門を提供します。完全な API も利用可能です。

説明可能性に関して、最も効果的な単一のアプローチはありません。説明には多くの方法があります。データ vs モデル、直接解釈可能 vs 事後説明、局所的 vs 大域的などです。そのため、特定のユースケースにどのアルゴリズムが最適かを判断するのは難しい場合があります。参考として、ガイダンス資料 と 分類ツリー を作成しました。

このパッケージは拡張性を考慮して開発されています。このライブラリはまだ開発段階にあります。説明可能性アルゴリズム、メトリクス、ユースケースの貢献を歓迎します。貢献者として始めるには、こちら から招待をリクエストして AI Explainability 360 Slack コミュニティ に参加してください。コードと Python ノートブックの貢献方法については、こちら の指示をご確認ください。

サポートされている説明可能性アルゴリズム

データ説明

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

局所的ポストホック説明

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Goldstein et al. による Individual Conditional Expectation Plots の高次元への適用)
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

時系列の局所的ポストホック説明

• Integrated Gradients を使用した時系列 Saliency Maps (Sundararajan et al. に着想を得たもの)
• Time Series LIME (Ribeiro et al. 2016 による古典的論文の時系列適応)
• Time Series Individual Conditional Expectation (Individual Conditional Expectation Plots Goldstein et al. の時系列適応)

局所的直接説明

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

局所的説明の認証

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

大域的直接説明

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

大域的ポストホック説明

• ProfWeight (Dhurandhar et al., 2018)

サポートされている説明可能性メトリクス

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

セットアップ

サポートされている構成:

(任意) 仮想環境の作成

AI Explainability 360 は、多くの Python パッケージの特定バージョンを必要とするため、システム上の他のプロジェクトと競合する可能性があります。依存関係を安全にインストールできるように、仮想環境マネージャーの使用を強くお勧めします。ツールキットのインストールで問題が発生した場合は、まずこれを試してください。

Conda

Conda はすべての構成で推奨されていますが、当目的では Virtualenv も一般的に代替可能です。Miniconda で十分です (気になる場合は Anaconda と Miniconda の違い を参照してください)。Miniconda をまだお持ちでない場合は、ここ からインストールできます。

次に、上記の表 を参照して、使用したい説明可能性アルゴリズムに基づいて新しい Python 環境を作成します。たとえば、Python 3.10 の場合は、次のコマンドを使用します:

conda create --name aix360 python=3.10
conda activate aix360

シェルは (aix360) $ のようになります。環境を非アクティブ化するには、次のコマンドを実行します:

(aix360)$ conda deactivate

プロンプトは $ または (base)$ に戻ります。

注: 古いバージョンの conda では、source activate aix360 と source deactivate (Windows では activate aix360 と deactivate) が使用される場合があります。

インストール

このリポジトリの最新バージョンをクローンします:

(aix360)$ git clone https://github.com/Trusted-AI/AIX360

サンプルとチュートリアルノートブックを実行したい場合は、aix360/data/README.md の説明に従って、データセットをダウンロードし、それぞれのフォルダーに配置してください。

次に、setup.py ファイルが含まれるプロジェクトのルートディレクトリに移動して、次のコマンドを実行します:

(aix360)$ pip install -e .[<algo1>,<algo2>, ...]

上記のコマンドは、特定のアルゴリズムが必要とするパッケージをインストールします。ここで <algo> は、上記の表 のインストールキーワードを指します。たとえば、BRCG、DIPVAE、TSICE アルゴリズムが必要とするパッケージをインストールするには、次のコマンドを使用できます:

(aix360)$ pip install -e .[rbm,dipvae,tsice]

デフォルトのコマンド pip install . は、デフォルトの依存関係 のみをインストールします。

異なるバージョンの Python を必要とする2つのアルゴリズム (たとえば contrastive と rbm) を同じ環境にインストールできない場合があることに注意してください。

問題が発生した場合は、上記の手順を再試行する前に、pip と setuptools をアップグレードし、以前のバージョンの aix360 をアンインストールしてみてください。

(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360

AI Explainability 360 の PIP インストール

このリポジトリを明示的にクローンせずに AI Explainability 360 ツールキットをすぐに使い始めたい場合は、次のいずれかのオプションを使用できます:

• リポジトリリンク経由で v0.3.0 をインストール

(your environment)$ pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[<algo1>,<algo2>,...]

たとえば、BRCG、DIPVAE、TSICE をインストールするには、pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[rbm,dipvae,tsice] を使用します。環境に cmake がまだインストールされていない場合は、conda install cmake を使用してインストールする必要があるかもしれません。

• pypi 経由で v0.3.0 (または以前のバージョン) をインストール

(your environment)$ pip install aix360

これらの2つのオプションのいずれかを選択した場合、examples フォルダーにあるノートブックを個別にダウンロードする必要があります。

インストールエラーへの対処

AI Explainability 360 ツールキットは、Windows、MacOS、Linux でテスト済み です。ただし、パッケージの依存関係が原因でインストールの問題が発生する場合は、conda を使用して該当パッケージをインストールしてから (例: conda install package-name)、通常の手順に従ってツールキットをインストールしてみてください。たとえば、インストール中に pygraphviz 関連の問題が発生した場合は、conda install pygraphviz を使用してから、ツールキットをインストールします。

上記の表 に基づいて、適切な Python 環境を使用してください。

Docker での実行

• AIX360 ディレクトリ内で、Dockerfile から docker build -t aix360_docker . を使用してコンテナイメージをビルドします
• お使いのマシンでポート 8888 が空いていることを前提に、docker run -it -p 8888:8888 aix360_docker:latest bash コマンドでコンテナイメージを起動します
• コンテナ内で、jupyter lab --allow-root --ip 0.0.0.0 --port 8888 --no-browser コマンドを使用して Jupyter Lab を起動します
• お使いのマシンで URL localhost:8888 を使用してサンプルチュートリアルにアクセスします

AI Explainability 360 の使用方法

examples ディレクトリには、AI Explainability 360 をさまざまな方法で使用する多様な Jupyter ノートブックが含まれています。サンプルとチュートリアルの両方のノートブックで、ツールキットを使用した動作するコードが示されています。チュートリアルでは、ノートブックのさまざまな手順をユーザーに案内する追加の解説が提供されます。チュートリアルとサンプルの詳細はこちら をご覧ください。

AI Explainability 360 の引用

AI Explainability 360 を研究で使用される場合は、以下をお勧めします:

• 次の論文 を引用してください。BibTeX エントリは次のとおりです:

@misc{aix360-sept-2019,
title = "One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques",
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind
and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovi\'c
and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri
and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
month = sept,
year = {2019},
url = {https://arxiv.org/abs/1909.03012}
}

• このリポジトリにスターを付けてください。

• AI Explainability 360 コミュニティ で、私たちや他の人々とあなたの成功事例を共有してください。

AIX360 ビデオ

• Vijay Arya と Amit Dhurandhar による AI Explainability 360 の入門ビデオ、2019年9月5日 (35分)

謝辞

AIX360 は、いくつかのオープンソースパッケージの助けを借りて構築されています。これらはすべて setup.py にリストされており、その一部は次のとおりです:

• Tensorflow https://www.tensorflow.org/about/bib
• Pytorch https://github.com/pytorch/pytorch
• scikit-learn https://scikit-learn.org/stable/about.html

ライセンス情報

ライセンス情報については、ルートディレクトリにある LICENSE ファイルと 補足ライセンス フォルダーの両方をご確認ください。