AI Explainability 360 (v0.3.0)

✨NOVO: A IBM Research tem um novo toolkit In-Context Explainability 360 (ICX360) que estende a explicabilidade para LLMs, especificamente em termos da entrada fornecida ao LLM. Confira! 🚀✨

O toolkit AI Explainability 360 é uma biblioteca de código aberto que oferece suporte à interpretabilidade e explicabilidade de conjuntos de dados e modelos de aprendizado de máquina. O pacote Python do AI Explainability 360 inclui um conjunto abrangente de algoritmos que cobrem diferentes dimensões de explicações, juntamente com métricas proxy de explicabilidade. O toolkit AI Explainability 360 oferece suporte a dados tabulares, texto, imagens e séries temporais.

A experiência interativa do AI Explainability 360 fornece uma introdução suave aos conceitos e capacidades, percorrendo um exemplo de caso de uso para diferentes personas de consumidores. Os tutoriais e cadernos de exemplos oferecem uma introdução mais aprofundada, orientada a cientistas de dados. A API completa também está disponível.

Não existe uma única abordagem de explicabilidade que funcione melhor. Há muitas maneiras de explicar: dados vs. modelo, diretamente interpretável vs. explicação post hoc, local vs. global, etc. Portanto, pode ser confuso descobrir quais algoritmos são mais adequados para um determinado caso de uso. Para ajudar, criamos um material de orientação e uma árvore de taxonomia que podem ser consultados.

Desenvolvemos o pacote com a extensibilidade em mente. Esta biblioteca ainda está em desenvolvimento. Encorajamos você a contribuir com seus algoritmos de explicabilidade, métricas e casos de uso. Para começar como contribuidor, junte-se à Comunidade AI Explainability 360 no Slack solicitando um convite aqui. Revise as instruções para contribuir com código e cadernos Python aqui.

Algoritmos de explicabilidade suportados

Explicações de dados

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

Explicações post-hoc locais

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Adaptação dos Gráficos de Expectativa Condicional Individual de Goldstein et al. para uma dimensão superior )
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

Explicações post-hoc locais para séries temporais

• Time Series Saliency Maps using Integrated Gradients (Inspirado por Sundararajan et al. )
• Time Series LIME (Adaptação para séries temporais do artigo clássico de Ribeiro et al. 2016 )
• Time Series Individual Conditional Expectation (Adaptação para séries temporais dos Gráficos de Expectativa Condicional Individual de Goldstein et al. )

Explicações diretas locais

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

Certificando explicações locais

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

Explicações diretas globais

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

Explicações post-hoc globais

• ProfWeight (Dhurandhar et al., 2018)

Métricas de explicabilidade suportadas

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

Configuração

Configurações suportadas:

(Opcional) Crie um ambiente virtual

O AI Explainability 360 requer versões específicas de muitos pacotes Python que podem conflitar com outros projetos no seu sistema. Um gerenciador de ambiente virtual é fortemente recomendado para garantir que as dependências possam ser instaladas com segurança. Se você tiver problemas para instalar o toolkit, tente isto primeiro.

Conda

O Conda é recomendado para todas as configurações, embora o Virtualenv seja geralmente intercambiável para os nossos propósitos. O Miniconda é suficiente (veja a diferença entre Anaconda e Miniconda se estiver curioso) e pode ser instalado aqui se você ainda não o tiver.

Em seguida, crie um novo ambiente Python com base nos algoritmos de explicabilidade que você deseja usar, consultando a tabela acima. Por exemplo, para Python 3.10, use o seguinte comando:

conda create --name aix360 python=3.10
conda activate aix360

O shell agora deve exibir (aix360) $. Para desativar o ambiente, execute:

(aix360)$ conda deactivate

O prompt retornará para $ ou (base)$.

Nota: Versões mais antigas do conda podem usar source activate aix360 e source deactivate (activate aix360 e deactivate no Windows).

Instalação

Clone a versão mais recente deste repositório:

(aix360)$ git clone https://github.com/Trusted-AI/AIX360

Se você quiser executar os exemplos e os cadernos de tutoriais, baixe os conjuntos de dados agora e coloque-os em suas respectivas pastas, conforme descrito em aix360/data/README.md.

Em seguida, navegue até o diretório raiz do projeto que contém o arquivo setup.py e execute:

(aix360)$ pip install -e .[<algo1>,<algo2>, ...]

O comando acima instala os pacotes necessários para algoritmos específicos. Aqui, <algo> refere-se à palavra-chave de instalação na tabela acima. Por exemplo, para instalar os pacotes necessários para os algoritmos BRCG, DIPVAE e TSICE, pode-se usar

(aix360)$ pip install -e .[rbm,dipvae,tsice]

O comando padrão pip install . instala apenas as dependências padrão.

Observe que você pode não conseguir instalar dois algoritmos que exigem versões diferentes do Python no mesmo ambiente (por exemplo, contrastive junto com rbm).

Se você enfrentar qualquer problema, tente atualizar o pip e o setuptools e desinstale quaisquer versões anteriores do aix360 antes de tentar novamente a etapa acima.

(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360

Instalação PIP do AI Explainability 360

Se você quiser começar a usar rapidamente o toolkit AI Explainability 360 sem clonar explicitamente este repositório, você pode usar uma destas opções:

• Instale a v0.3.0 por meio do link do repositório

(your environment)$ pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[<algo1>,<algo2>,...]

Por exemplo, use pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[rbm,dipvae,tsice] para instalar BRCG, DIPVAE e TSICE. Talvez seja necessário instalar o cmake se ele ainda não estiver instalado no seu ambiente, usando conda install cmake.

• Instale a v0.3.0 (ou versões anteriores) via pypi

(your environment)$ pip install aix360

Se você seguir qualquer uma dessas duas opções, precisará baixar os cadernos disponíveis na pasta examples separadamente.

Lidando com erros de instalação

O toolkit AI Explainability 360 é testado no Windows, MacOS e Linux. No entanto, se você ainda enfrentar problemas de instalação devido a dependências de pacotes, tente instalar o pacote correspondente via conda (por exemplo, conda install package-name) e depois instale o toolkit seguindo os passos usuais. Por exemplo, se você enfrentar problemas relacionados ao pygraphviz durante a instalação, use conda install pygraphviz e depois instale o toolkit.

Use o ambiente Python correto com base na tabela acima.

Executando no Docker

• No diretório AIX360, construa a imagem do contêiner a partir do Dockerfile usando docker build -t aix360_docker .
• Inicie a imagem do contêiner usando o comando docker run -it -p 8888:8888 aix360_docker:latest bash, assumindo que a porta 8888 esteja livre na sua máquina.
• Dentro do contêiner, inicie o jupuyter lab usando o comando jupyter lab --allow-root --ip 0.0.0.0 --port 8888 --no-browser
• Acesse os tutoriais de exemplo na sua máquina usando a URL localhost:8888

Usando o AI Explainability 360

O diretório examples contém uma coleção diversificada de cadernos Jupyter que usam o AI Explainability 360 de várias maneiras. Tanto os exemplos quanto os cadernos de tutoriais ilustram código funcional usando o toolkit. Os tutoriais fornecem discussões adicionais que guiam o usuário pelas diversas etapas do caderno. Veja os detalhes sobre tutoriais e exemplos aqui.

Como citar o AI Explainability 360

Se você estiver usando o AI Explainability 360 para o seu trabalho, recomendamos que:

• Cite o seguinte artigo. A entrada bibtex é a seguinte:

@misc{aix360-sept-2019,
title = "One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques",
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind
and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovi\'c
and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri
and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
month = sept,
year = {2019},
url = {https://arxiv.org/abs/1909.03012}
}

• Coloque uma estrela neste repositório.

• Compartilhe suas histórias de sucesso conosco e com outras pessoas na Comunidade AI Explainability 360.

Vídeos do AIX360

• Vídeo introdutório sobre o AI Explainability 360 por Vijay Arya e Amit Dhurandhar, 5 de setembro de 2019 (35 min)

Agradecimentos

O AIX360 é construído com a ajuda de vários pacotes de código aberto. Todos eles estão listados no setup.py e alguns deles incluem:

• Tensorflow https://www.tensorflow.org/about/bib
• Pytorch https://github.com/pytorch/pytorch
• scikit-learn https://scikit-learn.org/stable/about.html

Informações de Licença

Para obter informações sobre a licença, consulte tanto o arquivo LICENSE quanto a pasta licença complementar presentes no diretório raiz.