AI Explainability 360 (v0.3.0)

✨جديد: طوّرت IBM Research مجموعة أدوات جديدة باسم In-Context Explainability 360 (ICX360) تعمل على توسيع نطاق قابلية التفسير لتشمل نماذج اللغة الكبيرة (LLMs)، وتحديدًا فيما يتعلق بالمدخلات المُعطاة لنموذج اللغة الكبير. يرجى الاطلاع عليها! 🚀✨

مجموعة أدوات AI Explainability 360 هي مكتبة مفتوحة المصدر تدعم قابلية التفسير والفهم لمجموعات البيانات ونماذج التعلّم الآلي. تتضمن حزمة AI Explainability 360 بلغة Python مجموعة شاملة من الخوارزميات التي تغطي أبعادًا مختلفة للتفسيرات إلى جانب مقاييس بديلة لقابلية التفسير. وتدعم مجموعة أدوات AI Explainability 360 البيانات الجدولية والنصوص والصور وبيانات السلاسل الزمنية.

توفر التجربة التفاعلية لـ AI Explainability 360 مقدمة مبسّطة للمفاهيم والقدرات من خلال استعراض حالة استخدام نموذجية لشخصيات مستخدمين مختلفة. وتقدّم البرامج التعليمية ودفاتر الأمثلة مقدمة أعمق موجّهة لعلماء البيانات. كما تتوفر واجهة برمجة التطبيقات (API) الكاملة.

لا يوجد نهج واحد لقابلية التفسير يعمل بشكل أفضل في جميع الحالات. فهناك طرق عديدة للتفسير: البيانات مقابل النموذج، التفسير المباشر القابل للفهم مقابل التفسير اللاحق (post hoc)، التفسير المحلي مقابل الشامل، وغير ذلك. لذلك قد يكون من المربك تحديد الخوارزميات الأكثر ملاءمة لحالة استخدام معيّنة. وللمساعدة، أنشأنا بعض المواد الإرشادية وشجرة تصنيف يمكن الرجوع إليها.

لقد طوّرنا الحزمة مع مراعاة قابلية التوسّع. هذه المكتبة لا تزال قيد التطوير. نشجّعك على المساهمة بخوارزميات التفسير والمقاييس وحالات الاستخدام الخاصة بك. للبدء كمساهم، يرجى الانضمام إلى مجتمع AI Explainability 360 على Slack عن طريق طلب دعوة هنا. يرجى مراجعة التعليمات الخاصة بالمساهمة بالكود ودفاتر Python هنا.

خوارزميات التفسير المدعومة

تفسيرات البيانات

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

تفسيرات محلية لاحقة (post-hoc)

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (تكييف لمخططات التوقع الشرطي الفردي (Individual Conditional Expectation Plots) من Goldstein وآخرون إلى أبعاد أعلى)
• LIME (Ribeiro وآخرون 2016، Github)
• SHAP (Lundberg وآخرون 2017، Github)

تفسيرات محلية لاحقة للسلاسل الزمنية (Time-Series)

• Time Series Saliency Maps using Integrated Gradients (مستوحاة من Sundararajan وآخرون)
• Time Series LIME (تكييف سلسلة زمنية للورقة الكلاسيكية من Ribeiro وآخرون 2016)
• Time Series Individual Conditional Expectation (تكييف سلسلة زمنية لمخططات التوقع الشرطي الفردي (Individual Conditional Expectation Plots) Goldstein وآخرون)

تفسيرات محلية مباشرة

• تعليم الذكاء الاصطناعي شرحَ قراراته (Hind وآخرون، 2019)
• قيود الترتيب في النقل الأمثل (Order Constraints in Optimal Transport) (Lim وآخرون، 2022، Github)

التصديق على التفسيرات المحلية

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar وآخرون، 2024)

تفسيرات مباشرة شاملة

• المفاضلة بين النماذج بطريقة قابلة للتفسير (Interpretable Model Differencing) (IMD) (Haldar وآخرون، 2023)
• CoFrNets (شبكات الكسور المستمرة — Continued Fraction Nets) (Puri وآخرون، 2021)
• قواعد القرار البوليانية عبر توليد الأعمدة (الإصدار الخفيف) (Dash وآخرون، 2018)
• نماذج القواعد الخطية المعممة (Wei وآخرون، 2019)
• الاستقراء السريع الفعّال للقواعد (Ripper) (William W Cohen, 1995)

تفسيرات لاحقة شاملة

• ProfWeight (Dhurandhar et al., 2018)

مقاييس قابلية التفسير المدعومة

• الإخلاص (Faithfulness) (Alvarez-Melis وJaakkola، 2018)
• الرتابة (Monotonicity) (Luss وآخرون، 2019)

الإعداد

الإعدادات المدعومة:

كلمة التثبيت	المُفسِّر(ون)	نظام التشغيل	إصدار Python
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(اختياري) إنشاء بيئة افتراضية

تتطلب AI Explainability 360 إصدارات محددة من العديد من حزم Python قد تتعارض مع مشاريع أخرى على نظامك. يُنصح بشدة باستخدام مدير بيئة افتراضية لضمان إمكانية تثبيت التبعيات بأمان. إذا واجهت مشكلة في تثبيت مجموعة الأدوات، فجرّب هذا أولًا.

Conda

يُوصى باستخدام Conda لجميع الإعدادات، على الرغم من أن Virtualenv قابل للتبديل بشكل عام لأغراضنا. وتكفي Miniconda (راجع الفرق بين Anaconda وMiniconda إذا كنت مهتمًا) ويمكن تثبيتها من هنا إذا لم تكن مثبتة لديك بالفعل.