AI Explainability 360 (v0.3.0)

✨नया: IBM Research के पास एक नया In-Context Explainability 360 (ICX360) टूलकिट है जो व्याख्या-क्षमता को LLMs तक विस्तारित करता है, विशेष रूप से LLM को दिए गए इनपुट के संदर्भ में। कृपया इसे देखें! 🚀✨

AI Explainability 360 टूलकिट एक ओपन-सोर्स लाइब्रेरी है जो डेटासेट और मशीन लर्निंग मॉडल की व्याख्या-क्षमता (interpretability) और स्पष्टीकरण-क्षमता (explainability) का समर्थन करती है। AI Explainability 360 Python पैकेज में एल्गोरिदम का एक व्यापक सेट शामिल है जो स्पष्टीकरण के विभिन्न आयामों के साथ-साथ प्रॉक्सी व्याख्या-क्षमता मेट्रिक्स को कवर करता है। AI Explainability 360 टूलकिट टेबुलर (tabular), टेक्स्ट, इमेज और टाइम सीरीज़ डेटा का समर्थन करता है।

AI Explainability 360 इंटरैक्टिव अनुभव विभिन्न उपभोक्ता पर्सनाज़ (personas) के लिए एक उदाहरण उपयोग-मामले के माध्यम से अवधारणाओं और क्षमताओं का एक सरल परिचय प्रदान करता है। ट्यूटोरियल और उदाहरण नोटबुक एक गहन, डेटा-वैज्ञानिक-उन्मुख परिचय प्रदान करते हैं। पूर्ण API भी उपलब्ध है।

व्याख्या-क्षमता के लिए कोई एक दृष्टिकोण नहीं है जो सबसे अच्छा काम करे। समझाने के कई तरीके हैं: डेटा बनाम मॉडल, सीधे व्याख्या योग्य बनाम पोस्ट-हॉक स्पष्टीकरण, स्थानीय बनाम वैश्विक, आदि। इसलिए यह पता लगाना भ्रमित करने वाला हो सकता है कि किसी दिए गए उपयोग-मामले के लिए कौन से एल्गोरिदम सबसे उपयुक्त हैं। मदद के लिए, हमने कुछ मार्गदर्शन सामग्री और एक वर्गीकरण वृक्ष (taxonomy tree) बनाया है, जिन्हें देखा जा सकता है।

हमने पैकेज को विस्तार-क्षमता (extensibility) को ध्यान में रखकर विकसित किया है। यह लाइब्रेरी अभी भी विकास के चरण में है। हम आपको प्रोत्साहित करते हैं कि आप अपने व्याख्या-क्षमता एल्गोरिदम, मेट्रिक्स और उपयोग-मामलों का योगदान करें। योगदानकर्ता के रूप में शुरू करने के लिए, कृपया यहाँ निमंत्रण का अनुरोध करके Slack पर AI Explainability 360 समुदाय से जुड़ें। कोड और python नोटबुक योगदान करने के निर्देश यहाँ देखें।

समर्थित व्याख्या-क्षमता एल्गोरिदम

डेटा स्पष्टीकरण

• ProtoDash (Gurumoorthy et al., 2019)
• Disentangled Inferred Prior VAE (Kumar et al., 2018)

स्थानीय पोस्ट-हॉक स्पष्टीकरण

• ProtoDash (Gurumoorthy et al., 2019)
• Contrastive Explanations Method (Dhurandhar et al., 2018)
• Contrastive Explanations Method with Monotonic Attribute Functions (Luss et al., 2019)
• Exemplar based Contrastive Explanations Method
• Grouped Conditional Expectation (Individual Conditional Expectation Plots का Goldstein et al. द्वारा उच्च आयाम में अनुकूलन )
• LIME (Ribeiro et al. 2016, Github)
• SHAP (Lundberg, et al. 2017, Github)

टाइम-सीरीज़ स्थानीय पोस्ट-हॉक स्पष्टीकरण

• Time Series Saliency Maps using Integrated Gradients (प्रेरणा: Sundararajan et al. )
• Time Series LIME (Ribeiro et al. 2016 के क्लासिक पेपर का टाइम सीरीज़ अनुकूलन )
• Time Series Individual Conditional Expectation (Individual Conditional Expectation Plots Goldstein et al. का टाइम सीरीज़ अनुकूलन )

स्थानीय प्रत्यक्ष स्पष्टीकरण

• Teaching AI to Explain its Decisions (Hind et al., 2019)
• Order Constraints in Optimal Transport (Lim et al.,2022, Github)

स्थानीय स्पष्टीकरण प्रमाणित करना

• Trust Regions for Explanations via Black-Box Probabilistic Certification (Ecertify) (Dhurandhar et al., 2024)

वैश्विक प्रत्यक्ष स्पष्टीकरण

• Interpretable Model Differencing (IMD) (Haldar et al., 2023)
• CoFrNets (Continued Fraction Nets) (Puri et al., 2021)
• Boolean Decision Rules via Column Generation (Light Edition) (Dash et al., 2018)
• Generalized Linear Rule Models (Wei et al., 2019)
• Fast Effective Rule Induction (Ripper) (William W Cohen, 1995)

वैश्विक पोस्ट-हॉक स्पष्टीकरण

• ProfWeight (Dhurandhar et al., 2018)

समर्थित व्याख्या-क्षमता मेट्रिक्स

• Faithfulness (Alvarez-Melis and Jaakkola, 2018)
• Monotonicity (Luss et al., 2019)

सेटअप

समर्थित कॉन्फ़िगरेशन:

इंस्टॉलेशन कीवर्ड	एक्सप्लेनर(s)	OS	Python संस्करण
cofrnet	cofrnet	macOS, Ubuntu, Windows	3.10
contrastive	cem, cem_maf	macOS, Ubuntu, Windows	3.7
dipvae	dipvae	macOS, Ubuntu, Windows	3.10
gce	gce	macOS, Ubuntu, Windows	3.10
ecertify	ecertify	macOS, Ubuntu, Windows	3.10
imd	imd	macOS, Ubuntu	3.10
lime	lime	macOS, Ubuntu, Windows	3.10
matching	matching	macOS, Ubuntu, Windows	3.10
nncontrastive	nncontrastive	macOS, Ubuntu, Windows	3.10
profwt	profwt	macOS, Ubuntu, Windows	3.6
protodash	protodash	macOS, Ubuntu, Windows	3.10
rbm	brcg, glrm	macOS, Ubuntu, Windows	3.10
rule_induction	ripper	macOS, Ubuntu, Windows	3.10
shap	shap	macOS, Ubuntu, Windows	3.6
ted	ted	macOS, Ubuntu, Windows	3.10
tsice	tsice	macOS, Ubuntu, Windows	3.10
tslime	tslime	macOS, Ubuntu, Windows	3.10
tssaliency	tssaliency	macOS, Ubuntu, Windows	3.10

(वैकल्पिक) वर्चुअल एनवायरनमेंट बनाएं

AI Explainability 360 को कई Python पैकेजों के विशिष्ट संस्करणों की आवश्यकता होती है जो आपके सिस्टम पर अन्य प्रोजेक्ट्स के साथ टकराव कर सकते हैं। यह सुनिश्चित करने के लिए कि निर्भरताएँ सुरक्षित रूप से स्थापित की जा सकें, वर्चुअल एनवायरनमेंट मैनेजर की दृढ़ता से अनुशंसा की जाती है। यदि आपको टूलकिट स्थापित करने में परेशानी हो रही है, तो पहले यह आज़माएँ।

Conda