microsoft/responsible-ai-toolboxلوحات معلومات ومكتبات تفاعلية لتصحيح أخطاء نماذج الذكاء الاصطناعي المسؤول، وتغطي تحليل الأخطاء، والإنصاف، وقابلية التفسير، والسيناريوهات المضادة، والتحليل السببي، وتوازن البيانات.
الذكاء الاصطناعي المسؤول هو نهج لتقييم أنظمة الذكاء الاصطناعي وتطويرها ونشرها بطريقة آمنة وجديرة بالثقة وأخلاقية، واتخاذ قرارات وإجراءات مسؤولة.
صندوق أدوات Responsible AI هو مجموعة من الأدوات التي توفر واجهات مستخدم ومكتبات لاستكشاف وتقييم النماذج والبيانات، تتيح فهمًا أفضل لأنظمة الذكاء الاصطناعي. تمكن هذه الواجهات والمكتبات مطوري أنظمة الذكاء الاصطناعي وأصحاب المصلحة من تطوير ومراقبة الذكاء الاصطناعي بشكل أكثر مسؤولية، واتخاذ إجراءات أفضل مبنية على البيانات.
يتكوّن هذا الصندوق من ثلاثة مستودعات:
| المستودع | الأدوات المشمولة |
|---|---|
| Responsible-AI-Toolbox Repository (هنا) | يحتوي هذا المستودع على أربع أدوات عرض مرئي لتقييم النماذج واتخاذ القرار: 1. لوحة معلومات Responsible AI، وهي واجهة موحّدة تجمع بين العديد من أدوات الذكاء الاصطناعي المسؤول الناضجة من الصندوق لإجراء تقييم مسؤول شامل وتصحيح أخطاء النماذج واتخاذ قرارات عمل مستنيرة. باستخدام هذه اللوحة، يمكنك تحديد أخطاء النموذج، وتشخيص أسباب حدوثها، والتخفيف منها. علاوة على ذلك، توفر إمكانات اتخاذ القرار السببي رؤى قابلة للتنفيذ لأصحاب المصلحة والعملاء. 2. لوحة معلومات تحليل الأخطاء، لتحديد أخطاء النموذج واكتشاف مجموعات البيانات التي يكون أداء النموذج فيها ضعيفًا. 3. لوحة معلومات قابلية التفسير، لفهم تنبؤات النموذج. تعمل هذه اللوحة بواسطة InterpretML. 4. لوحة معلومات العدالة، لفهم مشكلات العدالة في النموذج باستخدام مقاييس مختلفة للعدالة الجماعية عبر السمات الحساسة والمجموعات. تعمل هذه اللوحة بواسطة Fairlearn. |
| Responsible-AI-Toolbox-Mitigations Repository | تساعد مكتبة Responsible AI Mitigations Library ممارسي الذكاء الاصطناعي على استكشاف مختلف القياسات وخطوات التخفيف التي قد تكون الأكثر ملاءمة عندما يكون أداء النموذج ضعيفًا لمجموعة بيانات معينة. تحتوي المكتبة حاليًا على وحدتين: 1. DataProcessing، والتي تقدم تقنيات تخفيف لتحسين أداء النموذج لمجموعات محددة. 2. DataBalanceAnalysis، والتي توفر مقاييس لتشخيص الأخطاء الناتجة عن اختلال توازن البيانات إما في تسميات الفئات أو قيم السمات. 3. Cohort: توفر فئات للتعامل مع المجموعات وإدارتها، مما يسمح بإنشاء خطوط أنابيب مخصصة لكل مجموعة من خلال واجهة سهلة وبديهية. توفر الوحدة أيضًا تقنيات لتعلّم مقدرات (نماذج) منفصلة مختلفة لمجموعات مختلفة ودمجها بطريقة تزيد من تحسين التعريفات المختلفة للعدالة الجماعية. |
| Responsible-AI-Tracker Repository | أداة Responsible AI Toolbox Tracker هي إضافة JupyterLab لإدارة وتتبع ومقارنة نتائج تجارب تعلّم الآلة لتحسين النماذج. باستخدام هذه الإضافة، يمكن للمستخدمين عرض النماذج والكود ومصنوعات التصور في إطار العمل نفسه، مما يتيح عمليات تكرار وتقييم سريعة للنماذج. تشمل الوظائف الرئيسية: 1. إدارة مصنوعات تحسين النموذج وربطها 2. تقييم تفصيلي للنماذج ومقارناتها 3. التكامل مع مكتبة Responsible AI Mitigations 4. التكامل مع mlflow |
| Responsible-AI-Toolbox-GenBit Repository | تساعد مكتبة Responsible AI Gender Bias (GenBit) ممارسي الذكاء الاصطناعي على قياس التحيز بين الجنسين في مجموعات بيانات معالجة اللغة الطبيعية (NLP). الهدف الرئيسي لـ GenBit هو تحليل مدونات النصوص الخاصة بك وحساب مقاييس تعطي رؤى حول التحيز الجندري الموجود في المدونة. |
لوحة معلومات Responsible AI هي واجهة موحّدة تتيح لك التنقل بسهولة بين مراحل مختلفة من تصحيح أخطاء النماذج واتخاذ القرار. يمكن توجيه هذه التجربة القابلة للتخصيص في اتجاهات متعددة، بدءًا من تحليل النموذج أو البيانات بشكل شامل، وصولًا إلى إجراء تحليل متعمق أو مقارنة للمجموعات محل الاهتمام، وتفسير وتعديل تنبؤات النموذج للحالات الفردية، وتزويد المستخدمين بمعلومات حول قرارات وإجراءات العمل.
لتحقيق هذه الإمكانات، تدمج اللوحة أفكارًا وتقنيات من عدة مجموعات أدوات مفتوحة المصدر في المجالات التالية:
تم تصميم لوحة معلومات Responsible AI لتحقيق الأهداف التالية:
