Responsible AI Toolbox

Responsible AI는 AI 시스템을 안전하고 신뢰할 수 있으며 윤리적인 방식으로 평가, 개발, 배포하고 책임 있는 결정과 행동을 취하기 위한 접근 방식입니다.

Responsible AI Toolbox는 AI 시스템에 대한 더 나은 이해를 가능하게 하는 모델 및 데이터 탐색·평가 사용자 인터페이스와 라이브러리 모음을 제공하는 도구 모음입니다. 이러한 인터페이스와 라이브러리는 AI 시스템의 개발자와 이해관계자가 AI를 더욱 책임감 있게 개발하고 모니터링하며 더 나은 데이터 기반 조치를 취할 수 있게 해줍니다.

Toolbox는 세 개의 리포지토리로 구성되어 있습니다.

리포지토리	다루는 도구
Responsible-AI-Toolbox Repository (여기)	이 리포지토리에는 모델 평가와 의사 결정을 위한 네 가지 시각화 위젯이 포함되어 있습니다: 1. Responsible AI 대시보드, 여러 성숙된 Responsible AI 도구를 한곳에 모아 모델의 총체적인 책임 평가와 디버깅, 그리고 정보에 기반한 비즈니스 의사 결정을 지원하는 단일 창(single pane of glass)입니다. 이 대시보드를 사용하면 모델 오류를 식별하고, 오류가 발생하는 이유를 진단하며, 이를 완화할 수 있습니다. 또한 인과적 의사 결정 기능은 이해관계자와 고객에게 실행 가능한 인사이트를 제공합니다. 2. Error Analysis 대시보드, 모델 오류를 식별하고 모델 성능이 저조한 데이터 코호트를 발견하기 위한 것입니다. 3. Interpretability 대시보드, 모델 예측을 이해하기 위한 것입니다. 이 대시보드는 InterpretML로 구동됩니다. 4. Fairness 대시보드, 민감한 특성과 코호트 전반에 걸쳐 다양한 그룹 공정성 지표를 사용하여 모델의 공정성 문제를 이해하기 위한 것입니다. 이 대시보드는 Fairlearn으로 구동됩니다.
Responsible-AI-Toolbox-Mitigations Repository	Responsible AI Mitigations Library는 AI 실무자가 특정 데이터 코호트에서 모델 성능이 저조할 때 가장 적합할 수 있는 다양한 측정 및 완화 단계를 탐색할 수 있도록 돕습니다. 이 라이브러리에는 현재 두 개의 모듈이 있습니다: 1. DataProcessing – 특정 코호트에 대한 모델 성능을 개선하기 위한 완화 기법을 제공합니다. 2. DataBalanceAnalysis – 클래스 레이블 또는 특성 값의 데이터 불균형에서 비롯된 오류를 진단하기 위한 지표를 제공합니다. 3. Cohort: 코호트를 처리하고 관리하기 위한 클래스를 제공하며, 각 코호트에 대한 사용자 지정 파이프라인을 쉽고 직관적인 인터페이스로 생성할 수 있게 합니다. 이 모듈은 또한 서로 다른 코호트에 대해 서로 다른 분리된 추정기(모델)를 학습하고 이를 결합하여 다양한 그룹 공정성 정의를 최적화하는 기법을 제공합니다.
Responsible-AI-Tracker Repository	Responsible AI Toolbox Tracker는 모델 개선을 위한 기계 학습 실험 결과를 관리, 추적, 비교하기 위한 JupyterLab 확장 프로그램입니다. 이 확장 프로그램을 사용하면 사용자는 동일한 프레임워크 내에서 모델, 코드, 시각화 아티팩트를 볼 수 있어 빠른 모델 반복 및 평가 프로세스가 가능합니다. 주요 기능은 다음과 같습니다: 1. 모델 개선 아티팩트 관리 및 연결 2. 세분화된 모델 평가 및 비교 3. Responsible AI Mitigations 라이브러리와의 통합 4. mlflow와의 통합
Responsible-AI-Toolbox-GenBit Repository	Responsible AI Gender Bias (GenBit) Library는 AI 실무자가 자연어 처리(NLP) 데이터 세트의 성별 편향을 측정할 수 있도록 돕습니다. GenBit의 주요 목표는 텍스트 코퍼스를 분석하고 코퍼스에 존재하는 성별 편향에 대한 통찰력을 제공하는 지표를 계산하는 것입니다.

Responsible AI 대시보드 소개

Responsible AI 대시보드는 단일 창으로, 모델 디버깅과 의사 결정의 여러 단계를 쉽게 흐르듯 진행할 수 있게 해줍니다. 이 사용자 지정 가능한 환경은 모델 또는 데이터를 전체적으로 분석하는 것부터, 관심 있는 코호트에 대한 심층 분석이나 비교, 개별 인스턴스에 대한 모델 예측의 설명 및 변형(perturbation), 그리고 사용자에게 비즈니스 결정과 조치를 안내하는 것까지 다양한 방향으로 활용할 수 있습니다.

이러한 기능을 달성하기 위해 대시보드는 다음 분야의 여러 오픈 소스 툴킷의 아이디어와 기술을 통합합니다.

• Error Analysis — Error Analysis로 구동되며, 전체 기준보다 오류율이 높은 데이터 코호트를 식별합니다. 이러한 차이는 시스템이나 모델이 특정 인구 통계 그룹 또는 학습 데이터에서 드물게 관찰되는 입력 조건에 대해 성능이 저조할 때 발생할 수 있습니다.
• Fairness Assessment — Fairlearn로 구동되며, AI 시스템으로 인해 불균형적으로 부정적 영향을 받을 수 있는 사람들의 그룹과 그 영향 방식을 식별합니다.
• Model Interpretability — InterpretML로 구동되며, 블랙박스 모델을 설명하여 사용자가 모델의 전반적인 동작이나 개별 예측의 이유를 이해하도록 돕습니다.
• Counterfactual Analysis — DiCE로 구동되며, 동일한 데이터 포인트에서 특성을 변경한 경우 다른 예측 결과를 받았을 버전을 보여줍니다. 예를 들어, Taylor의 대출은 모델에 의해 거절되었지만, 수입이 $10,000 더 높았다면 대출을 받을 수 있었을 것입니다.
• Causal Analysis — EconML로 구동되며, 데이터 기반 의사 결정을 적용하기 위해 What If 스타일 질문에 답하는 데 중점을 둡니다. 예를 들어, 기업이 새로운 가격 전략을 추구한다면 수익에 어떤 영향을 미칠까요? 다른 모든 조건이 동일하다면 새로운 약물이 환자의 상태를 개선할까요?
• Data Balance — Responsible AI로 구동되며, 사용자가 데이터에 대한 전반적인 이해를 얻고 다른 특성보다 긍정적인 결과를 더 많이 받는 특성을 식별하며 특성 분포를 시각화할 수 있도록 돕습니다.

Responsible AI 대시보드는 다음 목표를 달성하도록 설계되었습니다.

• 머신러닝 엔지니어링 프로세스의 가속화를 더욱 지원하기 위해, 실무자가 사용자 지정 가능한 워크플로를 설계하고 자신의 모델 평가 및 데이터 기반 의사 결정 시나리오에 가장 잘 맞는 Responsible AI 대시보드를 맞춤화할 수 있게 합니다.
• 모델 개발자가 종단 간(end-to-end)이고 유연한 디버깅 경험을 만들고, 오류를 식별하고 데이터를 검사하며 전역 및 지역 설명 모델을 생성하고 잠재적으로 문제가 있는 예제를 검사할 수 있는 대화형 시각화를 사용하여 오류 식별과 진단을 매끄럽게 탐색할 수 있도록 돕습니다.
• 비즈니스 이해관계자가 데이터의 인과 관계를 탐색하고 실제 세계에서 정보에 기반한 결정을 내릴 수 있도록 돕습니다.

이 리포지토리에는 이 위젯을 사용하는 방법을 보여주는 예제가 포함된 Jupyter 노트북이 있습니다. 여기에서 시작하세요.

설치

다음 pip 명령을 사용하여 Responsible AI Toolbox를 설치하세요.

Jupyter에서 실행하는 경우 설치 후 Jupyter 커널을 다시 시작해야 합니다.

pip install raiwidgets

Responsible AI 대시보드 사용자 지정

Responsible AI Toolbox의 강점은 사용자 지정 가능성에 있습니다. 사용자가 특정 요구 사항을 해결하는 맞춤형 종단 간 모델 디버깅 및 의사 결정 워크플로를 설계할 수 있게 해줍니다. 영감이 필요하신가요? 다음은 Toolbox 구성 요소를 결합하여 다양한 방식으로 시나리오를 분석할 수 있는 몇 가지 예입니다:

모델 개요(공정성 분석 포함) 및 데이터 탐색기 구성 요소는 기본적으로 활성화되어 있습니다!