AI Explainability 360 (v0.3.0)

✨新动态： IBM Research 推出了新的 In-Context Explainability 360 (ICX360) 工具包，将可解释性扩展到了 LLM，特别是针对提供给 LLM 的输入。欢迎查看！ 🚀✨

AI Explainability 360 工具包是一个开源库，支持数据集和机器学习模型的可解释性与可解释分析。AI Explainability 360 Python 包包含一套全面的算法，涵盖了解释的不同维度以及代理解释性度量。AI Explainability 360 工具包支持表格、文本、图像和时间序列数据。

AI Explainability 360 交互式体验 通过演示不同消费者角色的示例用例，温和地介绍了相关概念和功能。教程和示例 notebook 提供了更深入的、面向数据科学家的介绍。完整的 API 也可用。

没有一种万能的解释性方法。解释的方式有很多种：数据与模型、直接可解释与事后解释、局部与全局等。因此，为特定用例确定最合适的算法可能会令人困惑。为此，我们创建了一些指导材料和一棵分类树可供查阅。

我们在开发该包时考虑了可扩展性。这个库仍在开发中。我们鼓励您贡献自己的解释性算法、度量和用例。要成为贡献者，请先通过此处申请邀请加入 AI Explainability 360 Slack 社区。请查阅 此处 关于贡献代码和 Python notebook 的说明。

支持的可解释性算法

数据解释

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

局部事后解释

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Adaptation of Individual Conditional Expectation Plots by Goldstein et al. to higher dimension )
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

时间序列局部事后解释

• Time Series Saliency Maps using Integrated Gradients (Inspired by Sundararajan et al. )
• Time Series LIME (Time series adaptation of the classic paper by Ribeiro et al. 2016 )
• Time Series Individual Conditional Expectation (Time series adaptation of Individual Conditional Expectation Plots Goldstein et al. )

局部直接解释

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

认证局部解释

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

全局直接解释

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

全局事后解释

• ProfWeight (Dhurandhar et al., 2018)

支持的可解释性度量

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

设置

支持的配置：

Installation keyword	Explainer(s)	OS	Python version
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

（可选）创建虚拟环境

AI Explainability 360 需要许多 Python 包的特定版本，这些版本可能与您系统上的其他项目冲突。强烈建议使用虚拟环境管理器，以确保可以安全地安装依赖。如果您在安装工具包时遇到问题，请先尝试此方法。

Conda

对于所有配置，推荐使用 Conda，不过 Virtualenv 通常也符合我们的需求。Miniconda 就足够了（如果您好奇，可以查看 Anaconda 和 Miniconda 之间的区别）。如果您还没有安装，可以从这里安装。

然后，根据您希望使用的解释性算法，参考上方表格创建新的 Python 环境。例如，对于 Python 3.10，使用以下命令：

conda create --name aix360 python=3.10
conda activate aix360

此时 shell 应该显示为 (aix360) $。要停用环境，请运行：

(aix360)$ conda deactivate

提示符将返回到 $ 或 (base)$。

注意：旧版本的 conda 可能使用 source activate aix360 和 source deactivate（在 Windows 上为 activate aix360 和 deactivate）。

安装

克隆此仓库的最新版本：

(aix360)$ git clone https://github.com/Trusted-AI/AIX360

如果您想运行示例和教程 notebook，请按照 aix360/data/README.md 中的说明下载数据集，并将它们放在各自的文件夹中。

然后，导航到包含 setup.py 文件的项目根目录并运行：

(aix360)$ pip install -e .[<algo1>,<algo2>, ...]

上述命令会安装特定算法所需的包。这里的 <algo> 指的是上方表格中的安装关键字。例如，要安装 BRCG、DIPVAE 和 TSICE 算法所需的包，可以使用：

(aix360)$ pip install -e .[rbm,dipvae,tsice]

默认命令 pip install . 仅安装默认依赖。

请注意，您可能无法在同一个环境中安装需要不同 Python 版本的两个算法（例如 contrastive 与 rbm）。

如果您遇到任何问题，请尝试升级 pip 和 setuptools，并在再次执行上述步骤之前卸载任何先前版本的 aix360。

(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360

通过 PIP 安装 AI Explainability 360

如果您希望在不显式克隆此仓库的情况下快速开始使用 AI Explainability 360 工具包，可以使用以下任一选项：