AI Explainability 360 (v0.3.0)

✨NOVO: A IBM Research tem um novo toolkit In-Context Explainability 360 (ICX360) que estende a explicabilidade para LLMs, especificamente em termos da entrada fornecida ao LLM. Confira! 🚀✨

O toolkit AI Explainability 360 é uma biblioteca de código aberto que oferece suporte à interpretabilidade e explicabilidade de conjuntos de dados e modelos de aprendizado de máquina. O pacote Python do AI Explainability 360 inclui um conjunto abrangente de algoritmos que cobrem diferentes dimensões de explicações, juntamente com métricas proxy de explicabilidade. O toolkit AI Explainability 360 oferece suporte a dados tabulares, texto, imagens e séries temporais.

A experiência interativa do AI Explainability 360 fornece uma introdução suave aos conceitos e capacidades, percorrendo um exemplo de caso de uso para diferentes personas de consumidores. Os tutoriais e cadernos de exemplos oferecem uma introdução mais aprofundada, orientada a cientistas de dados. A API completa também está disponível.

Não existe uma única abordagem de explicabilidade que funcione melhor. Há muitas maneiras de explicar: dados vs. modelo, diretamente interpretável vs. explicação post hoc, local vs. global, etc. Portanto, pode ser confuso descobrir quais algoritmos são mais adequados para um determinado caso de uso. Para ajudar, criamos um material de orientação e uma árvore de taxonomia que podem ser consultados.

Desenvolvemos o pacote com a extensibilidade em mente. Esta biblioteca ainda está em desenvolvimento. Encorajamos você a contribuir com seus algoritmos de explicabilidade, métricas e casos de uso. Para começar como contribuidor, junte-se à Comunidade AI Explainability 360 no Slack solicitando um convite aqui. Revise as instruções para contribuir com código e cadernos Python aqui.

Algoritmos de explicabilidade suportados

Explicações de dados

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

Explicações post-hoc locais

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Adaptação dos Gráficos de Expectativa Condicional Individual de Goldstein et al. para uma dimensão superior )
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

Explicações post-hoc locais para séries temporais

• Time Series Saliency Maps using Integrated Gradients (Inspirado por Sundararajan et al. )
• Time Series LIME (Adaptação para séries temporais do artigo clássico de Ribeiro et al. 2016 )
• Time Series Individual Conditional Expectation (Adaptação para séries temporais dos Gráficos de Expectativa Condicional Individual de Goldstein et al. )

Explicações diretas locais

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

Certificando explicações locais

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

Explicações diretas globais

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

Explicações post-hoc globais

• ProfWeight (Dhurandhar et al., 2018)

Métricas de explicabilidade suportadas

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

Configuração

Configurações suportadas:

Palavra-chave de instalação	Explicador(es)	SO	Versão do Python
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(Opcional) Crie um ambiente virtual

O AI Explainability 360 requer versões específicas de muitos pacotes Python que podem conflitar com outros projetos no seu sistema. Um gerenciador de ambiente virtual é fortemente recomendado para garantir que as dependências possam ser instaladas com segurança. Se você tiver problemas para instalar o toolkit, tente isto primeiro.

Conda