AI Explainability 360 (v0.3.0)

✨새로운 소식: IBM Research가 LLM, 특히 LLM에 주어진 입력 측면에서 설명 가능성을 확장하는 새로운 In-Context Explainability 360 (ICX360) 툴킷을 보유하고 있습니다. 확인해 보세요! 🚀✨

AI Explainability 360 툴킷은 데이터셋과 머신러닝 모델의 해석 가능성(interpretability)과 설명 가능성(explainability)을 지원하는 오픈소스 라이브러리입니다. AI Explainability 360 Python 패키지에는 설명의 다양한 차원을 다루는 포괄적인 알고리즘 세트와 대리(proxy) 설명 가능성 지표가 포함되어 있습니다. AI Explainability 360 툴킷은 테이블형(tabular), 텍스트, 이미지 및 시계열 데이터를 지원합니다.

AI Explainability 360 인터랙티브 체험은 다양한 소비자 페르소나에 대한 예시 사용 사례를 살펴보며 개념과 기능을 쉽게 소개합니다. 튜토리얼 및 예제 노트북은 데이터 과학자 중심의 더 심화된 소개를 제공합니다. 전체 API도 이용할 수 있습니다.

최적의 설명 가능성 접근 방식은 하나로 정해져 있지 않습니다. 설명하는 방법은 다양합니다. 데이터 대 모델, 직접 해석 가능한 설명 대 사후(post hoc) 설명, 로컬 대 전역 등이 있습니다. 따라서 주어진 사용 사례에 가장 적합한 알고리즘이 무엇인지 파악하기 어려울 수 있습니다. 이를 돕기 위해 참고할 수 있는 안내 자료와 분류 트리를 만들었습니다.

이 패키지는 확장성을 염두에 두고 개발되었습니다. 이 라이브러리는 아직 개발 중입니다. 여러분의 설명 가능성 알고리즘, 지표, 사용 사례를 기여해 주시기 바랍니다. 기여자로 시작하려면 여기에서 초대를 요청하여 Slack의 AI Explainability 360 커뮤니티에 가입하세요. 코드 및 Python 노트북 기여 지침은 여기에서 확인하세요.

지원되는 설명 가능성 알고리즘

데이터 설명

ProtoDash (Gurumoorthy et al., 2019)
Disentangled Inferred Prior VAE (Kumar et al., 2018)

로컬 사후(post-hoc) 설명

ProtoDash (Gurumoorthy et al., 2019)
Contrastive Explanations Method (Dhurandhar et al., 2018)
Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
Exemplar based Contrastive Explanations Method
Grouped Conditional Expectation (개별 조건부 기대값 플롯(Goldstein et al.)을 더 높은 차원으로 적용한 버전)
LIME (Ribeiro et al. 2016, Github)
SHAP (Lundberg, et al. 2017, Github)

시계열 로컬 사후 설명

통합 그래디언트(Integrated Gradients)를 사용하는 시계열 Saliency 맵(Sundararajan et al.에서 영감을 받음)
Time Series LIME (Ribeiro et al. 2016의 고전 논문을 시계열로 적용한 버전)
Time Series Individual Conditional Expectation (개별 조건부 기대값 플롯 Goldstein et al.을 시계열로 적용한 버전)

로컬 직접 설명

Teaching AI to Explain its Decisions (Hind et al., 2019)
Order Constraints in Optimal Transport (Lim et al.,2022, Github)

로컬 설명 인증

Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

전역 직접 설명

Interpretable Model Differencing (IMD) (Haldar et al., 2023)
CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
Generalized Linear Rule Models (Wei et al., 2019)
Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

전역 사후 설명

ProfWeight (Dhurandhar et al., 2018)

지원되는 설명 가능성 지표

Faithfulness (Alvarez-Melis and Jaakkola, 2018)
Monotonicity (Luss et al., 2019)

설치

지원되는 구성:

설치 키워드	설명자	OS	Python 버전
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(선택 사항) 가상 환경 만들기

AI Explainability 360은 많은 Python 패키지의 특정 버전을 요구하므로 시스템의 다른 프로젝트와 충돌할 수 있습니다. 종속성을 안전하게 설치하려면 가상 환경 관리자를 적극 권장합니다. 툴킷 설치에 문제가 있으면 먼저 이 방법을 시도하세요.

Conda

Conda는 모든 구성에 권장되지만, 우리의 목적에서는 Virtualenv도 일반적으로 호환됩니다. Miniconda로 충분하며(궁금하다면 Anaconda와 Miniconda의 차이점 참조), 아직 설치하지 않았다면 여기에서 설치할 수 있습니다.

그런 다음 위의 표를 참조하여 사용하려는 설명 가능성 알고리즘에 맞는 새 Python 환경을 만드세요. 예를 들어 Python 3.10의 경우 다음 명령어를 사용하세요:

conda create --name aix360 python=3.10
conda activate aix360

이제 셸이 (aix360) $처럼 표시될 것입니다. 환경을 비활성화하려면 다음을 실행하세요:

(aix360)$ conda deactivate

프롬프트는 $ 또는 (base)$로 돌아갑니다.

참고: 이전 버전의 conda는 source activate aix360 및 source deactivate(Windows에서는 activate aix360 및 deactivate)를 사용할 수 있습니다.

설치

이 저장소의 최신 버전을 클론하세요:

(aix360)$ git clone https://github.com/Trusted-AI/AIX360

예제 및 튜토리얼 노트북을 실행하려면 aix360/data/README.md에 설명된 대로 데이터셋을 다운로드하여 각각의 폴더에 배치하세요.

그런 다음 setup.py 파일이 포함된 프로젝트의 루트 디렉터리로 이동하여 다음을 실행하세요:

(aix360)$ pip install -e .[<algo1>,<algo2>, ...]

위 명령어는 특정 알고리즘에 필요한 패키지를 설치합니다. 여기서 <algo>는 위의 표에 있는 설치 키워드를 의미합니다. 예를 들어 BRCG, DIPVAE 및 TSICE 알고리즘에 필요한 패키지를 설치하려면 다음을 사용할 수 있습니다.

(aix360)$ pip install -e .[rbm,dipvae,tsice]

기본 명령어인 pip install .은 기본 종속성만 설치합니다.

AIX360

인기