microsoft/responsible-ai-toolboxلوحات معلومات ومكتبات تفاعلية لتصحيح أخطاء نماذج الذكاء الاصطناعي المسؤول، وتغطي تحليل الأخطاء، والإنصاف، وقابلية التفسير، والسيناريوهات المضادة، والتحليل السببي، وتوازن البيانات.
الذكاء الاصطناعي المسؤول هو نهج لتقييم أنظمة الذكاء الاصطناعي وتطويرها ونشرها بطريقة آمنة وجديرة بالثقة وأخلاقية، واتخاذ قرارات وإجراءات مسؤولة.
صندوق أدوات Responsible AI هو مجموعة من الأدوات التي توفر واجهات مستخدم ومكتبات لاستكشاف وتقييم النماذج والبيانات، تتيح فهمًا أفضل لأنظمة الذكاء الاصطناعي. تمكن هذه الواجهات والمكتبات مطوري أنظمة الذكاء الاصطناعي وأصحاب المصلحة من تطوير ومراقبة الذكاء الاصطناعي بشكل أكثر مسؤولية، واتخاذ إجراءات أفضل مبنية على البيانات.
يتكوّن هذا الصندوق من ثلاثة مستودعات:
لوحة معلومات Responsible AI هي واجهة موحّدة تتيح لك التنقل بسهولة بين مراحل مختلفة من تصحيح أخطاء النماذج واتخاذ القرار. يمكن توجيه هذه التجربة القابلة للتخصيص في اتجاهات متعددة، بدءًا من تحليل النموذج أو البيانات بشكل شامل، وصولًا إلى إجراء تحليل متعمق أو مقارنة للمجموعات محل الاهتمام، وتفسير وتعديل تنبؤات النموذج للحالات الفردية، وتزويد المستخدمين بمعلومات حول قرارات وإجراءات العمل.
لتحقيق هذه الإمكانات، تدمج اللوحة أفكارًا وتقنيات من عدة مجموعات أدوات مفتوحة المصدر في المجالات التالية:
تم تصميم لوحة معلومات Responsible AI لتحقيق الأهداف التالية:
يحتوي هذا المستودع على دفاتر Jupyter notebooks مع أمثلة توضح كيفية استخدام هذه الأداة. ابدأ من هنا.
استخدم أمر pip التالي لتثبيت صندوق أدوات Responsible AI.
إذا كنت تعمل في Jupyter، فتأكد من إعادة تشغيل نواة Jupyter بعد التثبيت.
pip install raiwidgets
تكمن قوة صندوق أدوات Responsible AI في قابلية التخصيص. فهو يمكّن المستخدمين من تصميم مهام عمل مخصصة متكاملة لتصحيح أخطاء النماذج واتخاذ القرارات تلبي احتياجاتهم الخاصة. هل تحتاج إلى بعض الإلهام؟ إليك بعض الأمثلة حول كيفية دمج مكونات الصندوق لتحليل السيناريوهات بطرق مختلفة:
يرجى ملاحظة أن مكوني نظرة عامة على النموذج (بما في ذلك تحليل العدالة) ومستكشف البيانات مفعّلان افتراضيًا!
أمثلة على البيانات الجدولية:
أمثلة على النصوص:
أمثلة على الرؤية الحاسوبية:
تدعم واجهة برمجة تطبيقات صندوق أدوات Responsible AI النماذج المدربة على مجموعات بيانات بتنسيق Python numpy.ndarray أو pandas.DataFrame أو iml.datatypes.DenseData أو scipy.sparse.csr_matrix.
تقبل دوال التفسير في Interpret-Community كلاً من النماذج وخطوط الأنابيب كمدخلات طالما أن النموذج أو خط الأنابيب يطبق دالة predict أو predict_proba تتوافق مع اصطلاح Scikit. إذا لم يكن متوافقًا، يمكنك تغليف دالة التنبؤ الخاصة بنموذجك في دالة غلاف تحول المخرجات إلى التنسيق المدعوم (predict أو predict_proba من Scikit)، ثم تمرير دالة الغلاف هذه إلى تقنيات التفسير التي اخترتها.
إذا تم توفير سكربت خط أنابيب، تفترض دالة التفسير أن سكربت خط الأنابيب قيد التشغيل يُرجع تنبؤًا. كما يدعم المستودع النماذج المدربة عبر أطر التعلم العميق PyTorch وTensorFlow وKeras.
يمكن أيضًا استخدام الأدوات الموجودة داخل صندوق أدوات Responsible AI مع نماذج الذكاء الاصطناعي المقدمة كواجهات برمجة تطبيقات (APIs) من موفري خدمات مثل Azure Cognitive Services. للاطلاع على حالات استخدام أمثلة، راجع المجلدات أدناه:
| المستودع | الأدوات المشمولة |
|---|
| Responsible-AI-Toolbox Repository (هنا) | يحتوي هذا المستودع على أربع أدوات عرض مرئي لتقييم النماذج واتخاذ القرار: 1. لوحة معلومات Responsible AI، وهي واجهة موحّدة تجمع بين العديد من أدوات الذكاء الاصطناعي المسؤول الناضجة من الصندوق لإجراء تقييم مسؤول شامل وتصحيح أخطاء النماذج واتخاذ قرارات عمل مستنيرة. باستخدام هذه اللوحة، يمكنك تحديد أخطاء النموذج، وتشخيص أسباب حدوثها، والتخفيف منها. علاوة على ذلك، توفر إمكانات اتخاذ القرار السببي رؤى قابلة للتنفيذ لأصحاب المصلحة والعملاء. 2. لوحة معلومات تحليل الأخطاء، لتحديد أخطاء النموذج واكتشاف مجموعات البيانات التي يكون أداء النموذج فيها ضعيفًا. 3. لوحة معلومات قابلية التفسير، لفهم تنبؤات النموذج. تعمل هذه اللوحة بواسطة InterpretML. 4. لوحة معلومات العدالة، لفهم مشكلات العدالة في النموذج باستخدام مقاييس مختلفة للعدالة الجماعية عبر السمات الحساسة والمجموعات. تعمل هذه اللوحة بواسطة Fairlearn. |
| Responsible-AI-Toolbox-Mitigations Repository | تساعد مكتبة Responsible AI Mitigations Library ممارسي الذكاء الاصطناعي على استكشاف مختلف القياسات وخطوات التخفيف التي قد تكون الأكثر ملاءمة عندما يكون أداء النموذج ضعيفًا لمجموعة بيانات معينة. تحتوي المكتبة حاليًا على وحدتين: 1. DataProcessing، والتي تقدم تقنيات تخفيف لتحسين أداء النموذج لمجموعات محددة. 2. DataBalanceAnalysis، والتي توفر مقاييس لتشخيص الأخطاء الناتجة عن اختلال توازن البيانات إما في تسميات الفئات أو قيم السمات. 3. Cohort: توفر فئات للتعامل مع المجموعات وإدارتها، مما يسمح بإنشاء خطوط أنابيب مخصصة لكل مجموعة من خلال واجهة سهلة وبديهية. توفر الوحدة أيضًا تقنيات لتعلّم مقدرات (نماذج) منفصلة مختلفة لمجموعات مختلفة ودمجها بطريقة تزيد من تحسين التعريفات المختلفة للعدالة الجماعية. |
| Responsible-AI-Tracker Repository | أداة Responsible AI Toolbox Tracker هي إضافة JupyterLab لإدارة وتتبع ومقارنة نتائج تجارب تعلّم الآلة لتحسين النماذج. باستخدام هذه الإضافة، يمكن للمستخدمين عرض النماذج والكود ومصنوعات التصور في إطار العمل نفسه، مما يتيح عمليات تكرار وتقييم سريعة للنماذج. تشمل الوظائف الرئيسية: 1. إدارة مصنوعات تحسين النموذج وربطها 2. تقييم تفصيلي للنماذج ومقارناتها 3. التكامل مع مكتبة Responsible AI Mitigations 4. التكامل مع mlflow |
| Responsible-AI-Toolbox-GenBit Repository | تساعد مكتبة Responsible AI Gender Bias (GenBit) ممارسي الذكاء الاصطناعي على قياس التحيز بين الجنسين في مجموعات بيانات معالجة اللغة الطبيعية (NLP). الهدف الرئيسي لـ GenBit هو تحليل مدونات النصوص الخاصة بك وحساب مقاييس تعطي رؤى حول التحيز الجندري الموجود في المدونة. |
| تدفق لوحة معلومات Responsible AI | حالة الاستخدام |
|---|
| Model Overview -> Error Analysis -> Data Explorer | لتحديد أخطاء النموذج وتشخيصها من خلال فهم توزيع البيانات الأساسية |
| Model Overview -> Fairness Assessment -> Data Explorer | لتحديد مشكلات عدالة النموذج وتشخيصها من خلال فهم توزيع البيانات الأساسية |
| Model Overview -> Error Analysis -> Counterfactuals Analysis and What-If | لتشخيص الأخطاء في الحالات الفردية باستخدام التحليل المضاد للواقع (الحد الأدنى من التغيير الذي يؤدي إلى تنبؤ مختلف من النموذج) |
| Model Overview -> Data Explorer -> Data Balance | لفهم السبب الجذري للأخطاء ومشكلات العدالة الناشئة عن اختلال توازن البيانات أو عدم تمثيل مجموعة بيانات معينة |
| Model Overview -> Interpretability | لتشخيص أخطاء النموذج من خلال فهم كيفية قيام النموذج بتنبؤاته |
| Data Explorer -> Causal Inference | للتمييز بين الارتباطات والعلاقات السببية في البيانات أو تحديد أفضل المعالجات التي يجب تطبيقها للحصول على نتيجة إيجابية |
| Interpretability -> Causal Inference | لمعرفة ما إذا كانت العوامل التي استخدمها النموذج في اتخاذ القرار لها تأثير سببي على النتيجة في العالم الحقيقي. |
| Data Explorer -> Counterfactuals Analysis and What-If | لمعالجة استفسارات العملاء حول ما يمكنهم فعله في المرة القادمة للحصول على نتيجة مختلفة من نظام ذكاء اصطناعي. |
| Data Explorer -> Data Balance | لاكتساب فهم شامل للبيانات، وتحديد السمات التي تحصل على النتيجة الإيجابية أكثر من غيرها، وتصور توزيعات السمات |