AI Explainability 360 (v0.3.0)

✨새로운 소식: IBM Research가 LLM, 특히 LLM에 주어진 입력 측면에서 설명 가능성을 확장하는 새로운 In-Context Explainability 360 (ICX360) 툴킷을 보유하고 있습니다. 확인해 보세요! 🚀✨

AI Explainability 360 툴킷은 데이터셋과 머신러닝 모델의 해석 가능성(interpretability)과 설명 가능성(explainability)을 지원하는 오픈소스 라이브러리입니다. AI Explainability 360 Python 패키지에는 설명의 다양한 차원을 다루는 포괄적인 알고리즘 세트와 대리(proxy) 설명 가능성 지표가 포함되어 있습니다. AI Explainability 360 툴킷은 테이블형(tabular), 텍스트, 이미지 및 시계열 데이터를 지원합니다.

AI Explainability 360 인터랙티브 체험은 다양한 소비자 페르소나에 대한 예시 사용 사례를 살펴보며 개념과 기능을 쉽게 소개합니다. 튜토리얼 및 예제 노트북은 데이터 과학자 중심의 더 심화된 소개를 제공합니다. 전체 API도 이용할 수 있습니다.

최적의 설명 가능성 접근 방식은 하나로 정해져 있지 않습니다. 설명하는 방법은 다양합니다. 데이터 대 모델, 직접 해석 가능한 설명 대 사후(post hoc) 설명, 로컬 대 전역 등이 있습니다. 따라서 주어진 사용 사례에 가장 적합한 알고리즘이 무엇인지 파악하기 어려울 수 있습니다. 이를 돕기 위해 참고할 수 있는 안내 자료와 분류 트리를 만들었습니다.

이 패키지는 확장성을 염두에 두고 개발되었습니다. 이 라이브러리는 아직 개발 중입니다. 여러분의 설명 가능성 알고리즘, 지표, 사용 사례를 기여해 주시기 바랍니다. 기여자로 시작하려면 여기에서 초대를 요청하여 Slack의 AI Explainability 360 커뮤니티에 가입하세요. 코드 및 Python 노트북 기여 지침은 여기에서 확인하세요.

지원되는 설명 가능성 알고리즘

데이터 설명

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

로컬 사후(post-hoc) 설명

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (개별 조건부 기대값 플롯(Goldstein et al.)을 더 높은 차원으로 적용한 버전)
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

시계열 로컬 사후 설명

• 통합 그래디언트(Integrated Gradients)를 사용하는 시계열 Saliency 맵(Sundararajan et al.에서 영감을 받음)
• Time Series LIME (Ribeiro et al. 2016의 고전 논문을 시계열로 적용한 버전)
• Time Series Individual Conditional Expectation (개별 조건부 기대값 플롯 Goldstein et al.을 시계열로 적용한 버전)

로컬 직접 설명

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

로컬 설명 인증

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

전역 직접 설명

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

전역 사후 설명

• ProfWeight (Dhurandhar et al., 2018)

지원되는 설명 가능성 지표

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

설치

지원되는 구성:

(선택 사항) 가상 환경 만들기

AI Explainability 360은 많은 Python 패키지의 특정 버전을 요구하므로 시스템의 다른 프로젝트와 충돌할 수 있습니다. 종속성을 안전하게 설치하려면 가상 환경 관리자를 적극 권장합니다. 툴킷 설치에 문제가 있으면 먼저 이 방법을 시도하세요.

Conda

Conda는 모든 구성에 권장되지만, 우리의 목적에서는 Virtualenv도 일반적으로 호환됩니다. Miniconda로 충분하며(궁금하다면 Anaconda와 Miniconda의 차이점 참조), 아직 설치하지 않았다면 여기에서 설치할 수 있습니다.

그런 다음 위의 표를 참조하여 사용하려는 설명 가능성 알고리즘에 맞는 새 Python 환경을 만드세요. 예를 들어 Python 3.10의 경우 다음 명령어를 사용하세요:

conda create --name aix360 python=3.10
conda activate aix360

이제 셸이 (aix360) $처럼 표시될 것입니다. 환경을 비활성화하려면 다음을 실행하세요:

(aix360)$ conda deactivate

프롬프트는 $ 또는 (base)$로 돌아갑니다.

참고: 이전 버전의 conda는 source activate aix360 및 source deactivate(Windows에서는 activate aix360 및 deactivate)를 사용할 수 있습니다.

설치

이 저장소의 최신 버전을 클론하세요:

(aix360)$ git clone https://github.com/Trusted-AI/AIX360

예제 및 튜토리얼 노트북을 실행하려면 aix360/data/README.md에 설명된 대로 데이터셋을 다운로드하여 각각의 폴더에 배치하세요.

그런 다음 setup.py 파일이 포함된 프로젝트의 루트 디렉터리로 이동하여 다음을 실행하세요:

(aix360)$ pip install -e .[<algo1>,<algo2>, ...]

위 명령어는 특정 알고리즘에 필요한 패키지를 설치합니다. 여기서 <algo>는 위의 표에 있는 설치 키워드를 의미합니다. 예를 들어 BRCG, DIPVAE 및 TSICE 알고리즘에 필요한 패키지를 설치하려면 다음을 사용할 수 있습니다.

(aix360)$ pip install -e .[rbm,dipvae,tsice]

기본 명령어인 pip install .은 기본 종속성만 설치합니다.

서로 다른 Python 버전을 요구하는 두 알고리즘(예: contrastive와 rbm)은 같은 환경에 설치하지 못할 수 있습니다.

문제가 발생하면 pip와 setuptools를 업그레이드하고 이전 버전의 aix360을 제거한 후 위 단계를 다시 시도하세요.

(aix360)$ pip install --upgrade pip setuptools
(aix360)$ pip uninstall aix360

AI Explainability 360 PIP 설치

이 저장소를 명시적으로 클론하지 않고 AI Explainability 360 툴킷을 빠르게 사용하려면 다음 옵션 중 하나를 사용할 수 있습니다:

• 저장소 링크를 통해 v0.3.0 설치

(your environment)$ pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[<algo1>,<algo2>,...]

예를 들어 pip install -e git+https://github.com/Trusted-AI/AIX360.git#egg=aix360[rbm,dipvae,tsice]를 사용하여 BRCG, DIPVAE 및 TSICE를 설치할 수 있습니다. 환경에 아직 설치되지 않은 경우 conda install cmake를 사용하여 cmake를 설치해야 할 수 있습니다.

• pypi를 통해 v0.3.0(또는 이전 버전) 설치

(your environment)$ pip install aix360

이 두 옵션 중 하나를 사용하는 경우 examples 폴더에 있는 노트북을 별도로 다운로드해야 합니다.

설치 오류 처리

AI Explainability 360 툴킷은 Windows, MacOS 및 Linux에서 테스트되었습니다. 그러나 패키지 종속성으로 인해 여전히 설치 문제가 발생하면 해당 패키지를 conda로 설치한 후(예: conda install package-name) 일반적인 단계에 따라 툴킷을 설치하세요. 예를 들어 설치 중 pygraphviz 관련 문제가 발생하면 conda install pygraphviz를 사용한 다음 툴킷을 설치하세요.

위의 표에 따라 올바른 Python 환경을 사용하세요.

Docker에서 실행하기

• AIX360 디렉터리에서 docker build -t aix360_docker .를 사용하여 Dockerfile로 컨테이너 이미지를 빌드하세요.
• 머신에서 8888 포트가 비어 있다고 가정하고 docker run -it -p 8888:8888 aix360_docker:latest bash 명령어로 컨테이너 이미지를 시작하세요.
• 컨테이너 내부에서 jupyter lab --allow-root --ip 0.0.0.0 --port 8888 --no-browser 명령어로 Jupyter Lab을 시작하세요.
• 머신에서 localhost:8888 URL로 샘플 튜토리얼에 접속하세요.

AI Explainability 360 사용하기

examples 디렉터리에는 AI Explainability 360을 다양한 방식으로 사용하는 다양한 Jupyter 노트북 모음이 포함되어 있습니다. 예제와 튜토리얼 노트북 모두 툴킷을 사용하는 작업 코드를 보여줍니다. 튜토리얼은 노트북의 다양한 단계를 안내하는 추가 설명을 제공합니다. 튜토리얼 및 예제에 대한 자세한 내용은 여기에서 확인하세요.

AI Explainability 360 인용하기

AI Explainability 360을 작업에 사용한다면 다음을 권장합니다:

• 다음 논문을 인용하세요. BibTeX 항목은 다음과 같습니다:

@misc{aix360-sept-2019,
title = "One Explanation Does Not Fit All: A Toolkit and Taxonomy of AI Explainability Techniques",
author = {Vijay Arya and Rachel K. E. Bellamy and Pin-Yu Chen and Amit Dhurandhar and Michael Hind
and Samuel C. Hoffman and Stephanie Houde and Q. Vera Liao and Ronny Luss and Aleksandra Mojsilovi\'c
and Sami Mourad and Pablo Pedemonte and Ramya Raghavendra and John Richards and Prasanna Sattigeri
and Karthikeyan Shanmugam and Moninder Singh and Kush R. Varshney and Dennis Wei and Yunfeng Zhang},
month = sept,
year = {2019},
url = {https://arxiv.org/abs/1909.03012}
}

• 이 저장소에 Star를 눌러 주세요.

• AI Explainability 360 커뮤니티에서 여러분의 성공 사례를 우리와 다른 사람들과 공유하세요.

AIX360 비디오

• Vijay Arya와 Amit Dhurandhar가 제공하는 AI Explainability 360 소개 비디오, 2019년 9월 5일 (35분)

감사의 말

AIX360은 여러 오픈소스 패키지의 도움으로 구축되었습니다. 이들 모두는 setup.py에 나열되어 있으며 그중 일부는 다음과 같습니다:

• Tensorflow https://www.tensorflow.org/about/bib
• Pytorch https://github.com/pytorch/pytorch
• scikit-learn https://scikit-learn.org/stable/about.html

라이선스 정보

라이선스 정보는 루트 디렉터리에 있는 LICENSE 파일과 보조 라이선스 폴더를 모두 확인하세요.