AI Explainability 360 (v0.3.0)

✨NEU: IBM Research hat ein neues In-Context Explainability 360 (ICX360) Toolkit veröffentlicht, das die Erklärbarkeit auf LLMs ausweitet, insbesondere im Hinblick auf die Eingabe, die dem LLM gegeben wird. Bitte schauen Sie es sich an! 🚀✨

Das AI Explainability 360 Toolkit ist eine Open-Source-Bibliothek, die die Interpretierbarkeit und Erklärbarkeit von Datensätzen und Modellen des maschinellen Lernens unterstützt. Das Python-Paket AI Explainability 360 enthält eine umfassende Sammlung von Algorithmen, die verschiedene Dimensionen von Erklärungen zusammen mit Proxy-Erklärbarkeitsmetriken abdecken. Das AI Explainability 360 Toolkit unterstützt tabellarische Daten, Text, Bilder und Zeitreihendaten.

Die interaktive Erfahrung von AI Explainability 360 bietet eine sanfte Einführung in die Konzepte und Fähigkeiten, indem ein Beispiel-Anwendungsfall für verschiedene Verbraucher-Personas durchgegangen wird. Die Tutorials und Beispiel-Notebooks bieten eine tiefere, auf Datenwissenschaftler ausgerichtete Einführung. Die vollständige API ist ebenfalls verfügbar.

Es gibt keinen einzigen Ansatz zur Erklärbarkeit, der am besten funktioniert. Es gibt viele Möglichkeiten zu erklären: Daten vs. Modell, direkt interpretierbar vs. Post-hoc-Erklärung, lokal vs. global usw. Es kann daher verwirrend sein, herauszufinden, welche Algorithmen für einen bestimmten Anwendungsfall am geeignetsten sind. Um zu helfen, haben wir einige Leitfäden und einen Taxonomiebaum erstellt, die konsultiert werden können.

Wir haben das Paket mit Blick auf Erweiterbarkeit entwickelt. Diese Bibliothek befindet sich noch in der Entwicklung. Wir ermutigen Sie, Ihre Erklärbarkeitsalgorithmen, Metriken und Anwendungsfälle beizutragen. Um als Mitwirkender zu starten, treten Sie bitte der AI Explainability 360 Community auf Slack bei, indem Sie hier eine Einladung anfordern. Bitte lesen Sie die Anweisungen zum Beitragen von Code und Python-Notebooks hier.

Unterstützte Erklärbarkeitsalgorithmen

Datenerklärungen

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

Lokale Post-hoc-Erklärungen

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Anpassung der Individual Conditional Expectation Plots von Goldstein et al. an höhere Dimensionen)
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

Zeitreihen-lokale Post-hoc-Erklärungen

• Time Series Saliency Maps using Integrated Gradients (inspiriert von Sundararajan et al.)
• Time Series LIME (Zeitreihen-Adaption des klassischen Papiers von Ribeiro et al. 2016)
• Time Series Individual Conditional Expectation (Zeitreihen-Adaption der Individual Conditional Expectation Plots Goldstein et al.)

Lokale direkte Erklärungen

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al., 2022, Github)

Zertifizierung lokaler Erklärungen

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

Globale direkte Erklärungen

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

Globale Post-hoc-Erklärungen

• ProfWeight (Dhurandhar et al., 2018)

Unterstützte Erklärbarkeitsmetriken

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

Einrichtung

Unterstützte Konfigurationen:

Installations-Schlüsselwort	Explainer(s)	OS	Python-Version
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(Optional) Eine virtuelle Umgebung erstellen

AI Explainability 360 erfordert bestimmte Versionen vieler Python-Pakete, die mit anderen Projekten auf Ihrem System kollidieren können. Ein Virtual-Environment-Manager wird dringend empfohlen, um sicherzustellen, dass Abhängigkeiten sicher installiert werden können. Wenn Sie Probleme bei der Installation des Toolkits haben, versuchen Sie dies zuerst.

Conda