AI Explainability 360 (v0.3.0)

✨НОВОЕ: IBM Research представляет новый инструментарий In-Context Explainability 360 (ICX360), который расширяет объяснимость на LLM, в частности в отношении входных данных, подаваемых в LLM. Загляните! 🚀✨

Инструментарий AI Explainability 360 — это библиотека с открытым исходным кодом, которая поддерживает интерпретируемость и объяснимость наборов данных и моделей машинного обучения. Python-пакет AI Explainability 360 включает обширный набор алгоритмов, охватывающих различные аспекты объяснений, а также прокси-метрики объяснимости. Инструментарий AI Explainability 360 поддерживает табличные данные, текст, изображения и временные ряды.

Интерактивный интерфейс AI Explainability 360 предлагает простое введение в концепции и возможности на примере сценариев использования для разных типов пользователей. Обучающие материалы и примеры ноутбуков предлагают более глубокое введение, ориентированное на специалистов по данным. Полный API также доступен.

Не существует единого подхода к объяснимости, который подходил бы для всех случаев. Существует множество способов объяснения: данные против модели, непосредственно интерпретируемые против пост-хок объяснений, локальные против глобальных и т. д. Поэтому может быть сложно понять, какие алгоритмы наиболее подходят для конкретного сценария использования. Чтобы помочь, мы создали руководящие материалы и дерево таксономии, с которыми можно ознакомиться.

Мы разработали пакет с учетом возможности расширения. Эта библиотека все еще находится в разработке. Мы приглашаем вас вносить свой вклад в виде алгоритмов объяснимости, метрик и сценариев использования. Чтобы начать вносить вклад, присоединяйтесь к сообществу AI Explainability 360 в Slack, запросив приглашение здесь. Пожалуйста, ознакомьтесь с инструкциями по внесению кода и Python-ноутбуков здесь.

Поддерживаемые алгоритмы объяснимости

Объяснение данных

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

Локальные пост-хок объяснения

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Адаптация графиков индивидуальных условных ожиданий Goldstein et al. к пространству большей размерности )
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

Локальные пост-хок объяснения для временных рядов

• Time Series Saliency Maps using Integrated Gradients (Вдохновлено работой Sundararajan et al. )
• Time Series LIME (Адаптация классической статьи Ribeiro et al. 2016 для временных рядов )
• Time Series Individual Conditional Expectation (Адаптация графиков индивидуальных условных ожиданий Goldstein et al. для временных рядов )

Локальные прямые объяснения

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

Сертификация локальных объяснений

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

Глобальные прямые объяснения

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

Глобальные пост-хок объяснения

• ProfWeight (Dhurandhar et al., 2018)

Поддерживаемые метрики объяснимости

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

Установка

Поддерживаемые конфигурации:

Ключ установки	Алгоритм(ы) объяснения	ОС	Версия Python
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(Необязательно) Создание виртуального окружения

AI Explainability 360 требует определенных версий многих пакетов Python, которые могут конфликтовать с другими проектами в вашей системе. Настоятельно рекомендуется использовать менеджер виртуального окружения, чтобы гарантировать безопасную установку зависимостей. Если у вас возникают проблемы с установкой инструментария, сначала попробуйте этот способ.

Conda