Awesome-MoAI-Security — Updated!
قائمة قراءة منسقة وتصنيف لأبحاث الهجوم والدفاع لأنظمة الذكاء الاصطناعي على الأجهزة المحمولة، تغطي الهجمات العدائية، والخلفية، وسرقة النماذج، وهجمات الطاقة وزمن الاستجابة إلى جانب دفاعات الإبهام، وبيئة التنفيذ الموثوقة (TEE)، والعلامات المائية.
قائمة الموارد الرائعة لأمن الذكاء الاصطناعي على الأجهزة المحمولة
SoK: مشهد الهجوم والدفاع لأنظمة الذكاء الاصطناعي على الأجهزة المحمولة
تنفّذ أنظمة الذكاء الاصطناعي على الأجهزة المحمولة النماذج محليًا عبر أطر عمل التعلم الآلي مثل LiteRT/TFLite وCore ML وExecuTorch وONNX، بالإضافة إلى مسرّعات مدعومة بالعتاد. يتتبع هذا المستودع أبحاث الأمن اللازمة لفهم وحماية هذه الأنظمة، حيث يُدخل التخزين المحلي للنماذج على الأجهزة مخاطر أمنية جديدة.
نظرة عامة على نظام الذكاء الاصطناعي على الأجهزة المحمولة
المحتويات
- خارطة طريق القراءة
- التصنيف في لمحة
- تحليل أمني شامل عبر الركائز
- الهجمات على أنظمة MoAI
- الدفاعات لأنظمة MoAI
- المشكلات المفتوحة
- الاتجاهات الناشئة
خارطة طريق القراءة
هل أنت جديد في أمن MoAI؟ ابدأ من هنا:
- افهم النظام البيئي. اقرأ الدراسات التجريبية حول تطبيقات التعلم العميق والنماذج على الأجهزة في تطبيقات Android/iOS.
- تعلّم المخاطر الأساسية. ادرس أبحاث استخراج النماذج وحمايتها، لأن الإقامة المحلية للنموذج هي التحول الأمني المركزي في أنظمة MoAI.
- افهم أسطح الهجوم. ادرس كيف تنشأ هجمات MoAI عبر واجهات الإدخال، وبنيات النماذج، وتنفيذ وقت التشغيل، والبيئات المدعومة بالعتاد.
- اربط الدفاعات بأسطح الهجوم. افحص كيف تحمي دفاعات MoAI هذه الأسطح عبر مراحل ما قبل النشر، وتنفيذ وقت التشغيل، وما بعد النشر.
- انظر إلى المستقبل. استكشف التحديات الأمنية الجديدة في التدريب على الأجهزة، والذكاء الاصطناعي التوليدي على الأجهزة، وأنظمة MoAI الوكيلة.
• 
• 
• 
• 
• 
• 
• 
• 
• 
التصنيف في لمحة
| ركيزة أمن MoAI | ما تحميه | هجمات ممثلة | دفاعات ممثلة |
|---|---|---|---|
| سلامة الإدخال الخاضعة للمستخدم | السلامة الشاملة لمدخلات المستخدم، من جمع البيانات على الجهاز المحمول إلى تسليم المدخلات للنموذج | الهجمات العدائية، هجمات الباب الخلفي، هجمات الطاقة والاستجابة | - |
| أمن النموذج المقيم على الجهاز | بنيات النماذج المنشورة وجميع أشكال ما بعد النشر التي تُخزَّن أو تُحمَّل أو تُحوَّل أو تُجسَّد بها النماذج على الأجهزة | الهجمات العدائية، هجمات الباب الخلفي، هجمات الأوزان العدائية، هجمات سرقة النماذج، هجمات الطاقة والاستجابة | إخفاء النموذج، تفويض النموذج، TEE، العلامة المائية للنموذج |
| احتواء البيئة الأصلية للجهاز | حسابات الاستدلال الحساسة وحالات وقت التشغيل عبر نظام تشغيل الجهاز المحمول، ووقت تشغيل الذكاء الاصطناعي، ونظام الذاكرة الفرعي، وبيئات التنفيذ المدعومة بالعتاد | هجمات سرقة النماذج، هجمات الطاقة والاستجابة | إخفاء النموذج، TEE |
تحليل أمني شامل عبر الركائز
