jinxhy/awesome-moai-securityقائمة قراءة منسقة وتصنيف لأبحاث الهجوم والدفاع لأنظمة الذكاء الاصطناعي على الأجهزة المحمولة، تغطي الهجمات العدائية، والخلفية، وسرقة النماذج، وهجمات الطاقة وزمن الاستجابة إلى جانب دفاعات الإبهام، وبيئة التنفيذ الموثوقة (TEE)، والعلامات المائية.
# قائمة الموارد الرائعة لأمن الذكاء الاصطناعي على الأجهزة المحمولة
<p align="center">
<img src="https://img.shields.io/badge/Companion%20Resource%20for-SoK%20on%20MoAI%20Security-2563EB?style=for-the-badge" height="28" align="absmiddle" />
</p>
<h2 align="center">SoK: مشهد الهجوم والدفاع لأنظمة الذكاء الاصطناعي على الأجهزة المحمولة</h3>
تنفّذ أنظمة الذكاء الاصطناعي على الأجهزة المحمولة النماذج محليًا عبر أطر عمل التعلم الآلي مثل **LiteRT/TFLite** و**Core ML** و**ExecuTorch** و**ONNX**، بالإضافة إلى مسرّعات مدعومة بالعتاد. يتتبع هذا المستودع أبحاث الأمن اللازمة لفهم وحماية هذه الأنظمة، حيث يُدخل التخزين المحلي للنماذج على الأجهزة مخاطر أمنية جديدة.
## نظرة عامة على نظام الذكاء الاصطناعي على الأجهزة المحمولة
<p align="center">
<img src="https://assets.kitploit.com/production/public/readmes/714/ea9f0160c308b88a130c48a071c544d1c0765d4d221298b41899c35755abac69.jpg" alt="نظرة عامة على نظام الذكاء الاصطناعي على الأجهزة المحمولة">
</p>
## المحتويات
- [خارطة طريق القراءة](#reading-roadmap)
- [التصنيف في لمحة](#taxonomy-at-a-glance)
- [تحليل أمني شامل عبر الركائز](#cross-pillar-security-analysis)
- [الهجمات على أنظمة MoAI](#attacks-on-moai-systems)
- [الهجمات العدائية](#adversarial-attacks)
- [استغلال تشابه النماذج](#model-similarity-exploitation)
- [إعادة بناء التدرجات](#gradient-reconstruction)
- [التلاعب بالمعالجة المسبقة](#preprocessing-manipulation)
- [هجمات الباب الخلفي](#backdoor-attacks)
- [حقن الحمولة](#payload-injection)
- [تكميم النموذج](#model-quantization)
- [إخفاء المعلومات في الصور](#image-steganography)
- [هجمات الأوزان العدائية](#adversarial-weight-attacks)
- [هجمات سرقة النماذج](#model-stealing-attacks)
- [التحليل الثابت](#static-analysis)
- [التحليل الديناميكي](#dynamic-analysis)
- [القنوات الجانبية](#side-channel)
- [هجمات الطاقة والاستجابة](#energy-latency-attacks)
- [الدفاعات لأنظمة MoAI](#defenses-for-moai-systems)
- [إخفاء النموذج](#model-obfuscation)
- [الإخفاء على مستوى البرمجيات](#software-level-concealment)
- [الإخفاء على مستوى العتاد](#hardware-level-concealment)
- [تفويض النموذج](#model-authorization)
- [بيئات التنفيذ الموثوقة](#trusted-execution-environments)
- [التنفيذ المتكامل](#monolithic-execution)
- [التنفيذ المجزأ](#partitioned-execution)
- [التفريغ المُخفى](#obfuscated-offloading)
- [العلامة المائية للنموذج](#model-watermarking)
- [المشكلات المفتوحة](#open-problems)
- [الاتجاهات الناشئة](#emerging-directions)
## خارطة طريق القراءة
هل أنت جديد في أمن MoAI؟ ابدأ من هنا:
1. **افهم النظام البيئي.** اقرأ الدراسات التجريبية حول تطبيقات التعلم العميق والنماذج على الأجهزة في تطبيقات Android/iOS.
2. **تعلّم المخاطر الأساسية.** ادرس أبحاث استخراج النماذج وحمايتها، لأن الإقامة المحلية للنموذج هي التحول الأمني المركزي في أنظمة MoAI.
3. **افهم أسطح الهجوم.** ادرس كيف تنشأ هجمات MoAI عبر واجهات الإدخال، وبنيات النماذج، وتنفيذ وقت التشغيل، والبيئات المدعومة بالعتاد.
4. **اربط الدفاعات بأسطح الهجوم.** افحص كيف تحمي دفاعات MoAI هذه الأسطح عبر مراحل ما قبل النشر، وتنفيذ وقت التشغيل، وما بعد النشر.
5. **انظر إلى المستقبل.** استكشف التحديات الأمنية الجديدة في التدريب على الأجهزة، والذكاء الاصطناعي التوليدي على الأجهزة، وأنظمة MoAI الوكيلة.
<img src="https://img.shields.io/badge/-A%20minimal%20first--week%20reading%20path%20for%20newcomers%20to%20MOAI%20security-2563EB?style=for-the-badge" height="28" align="absmiddle" alt="مسار قراءة أدنى للأسبوع الأول للوافدين الجدد إلى أمن MOAI." />
<img src="https://img.shields.io/badge/Ecosystem-4C78A8?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Android-6B7280?style=flat" height="18" align="absmiddle" /> [نظرة أولى على تطبيقات التعلم العميق على الهواتف الذكية](https://arxiv.org/pdf/1812.05448)
• <img src="https://img.shields.io/badge/iOS-6B7280?style=flat" height="18" align="absmiddle" /> [نظرة أولى على النماذج على الأجهزة في تطبيقات iOS](https://arxiv.org/pdf/2307.12328)
<img src="https://img.shields.io/badge/Core%20Risk-D97706?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Stealing-9A3412?style=flat" height="18" align="absmiddle" /> [انتبه لأوزانك: دراسة واسعة النطاق حول الحماية غير الكافية لنماذج التعلم الآلي في تطبيقات الأجهزة المحمولة](https://www.usenix.org/conference/usenixsecurity21/presentation/sun-zhichuang)
<img src="https://img.shields.io/badge/Attack%20Surfaces-7F1D1D?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Adversarial-B91C1C?style=flat" height="18" align="absmiddle" /> [متانة النماذج على الأجهزة: الهجوم العدائي على نماذج التعلم العميق في تطبيقات Android](https://arxiv.org/pdf/2101.04401)
• <img src="https://img.shields.io/badge/Backdoor-BE123C?style=flat" height="18" align="absmiddle" /> [DeepPayload: هجوم الباب الخلفي بصندوق أسود على نماذج التعلم العميق عبر حقن الحمولة العصبية](https://dl.acm.org/doi/10.1109/ICSE43902.2021.00035)
• <img src="https://img.shields.io/badge/Weight-9F1239?style=flat" height="18" align="absmiddle" /> [Typhon Unleashed: هجمات الأوزان العدائية العملية ضد نماذج التعلم العميق على الأجهزة](https://ieeexplore.ieee.org/document/11407485)
• <img src="https://img.shields.io/badge/Latency-92400E?style=flat" height="18" align="absmiddle" /> [هجمات الطاقة والاستجابة على الشبكات العصبية على الأجهزة عبر تسميم الإسفنج](https://arxiv.org/pdf/2305.03888)
<img src="https://img.shields.io/badge/Defenses-166534?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Obfuscation-047857?style=flat" height="18" align="absmiddle" /> [ModelObfuscator: إخفاء معلومات النموذج لحماية الأنظمة القائمة على التعلم الآلي المنشورة](https://arxiv.org/pdf/2306.06112)
• <img src="https://img.shields.io/badge/TEE-0F766E?style=flat" height="18" align="absmiddle" /> [ShadowNet: نظام استدلال آمن وفعّال للنماذج على الأجهزة](https://arxiv.org/abs/2011.05905)
• <img src="https://img.shields.io/badge/Watermarking-0E7490?style=flat" height="18" align="absmiddle" /> [THEMIS: نحو حماية عملية للملكية الفكرية لنماذج التعلم العميق على الأجهزة بعد النشر](https://www.usenix.org/conference/usenixsecurity25/presentation/huang-yujin)
## التصنيف في لمحة
| ركيزة أمن MoAI | ما تحميه | هجمات ممثلة | دفاعات ممثلة |
|---|---|---|---|
| **سلامة الإدخال الخاضعة للمستخدم** | السلامة الشاملة لمدخلات المستخدم، من جمع البيانات على الجهاز المحمول إلى تسليم المدخلات للنموذج | الهجمات العدائية، هجمات الباب الخلفي، هجمات الطاقة والاستجابة | - |
| **أمن النموذج المقيم على الجهاز** | بنيات النماذج المنشورة وجميع أشكال ما بعد النشر التي تُخزَّن أو تُحمَّل أو تُحوَّل أو تُجسَّد بها النماذج على الأجهزة | الهجمات العدائية، هجمات الباب الخلفي، هجمات الأوزان العدائية، هجمات سرقة النماذج، هجمات الطاقة والاستجابة | إخفاء النموذج، تفويض النموذج، TEE، العلامة المائية للنموذج |
| **احتواء البيئة الأصلية للجهاز** | حسابات الاستدلال الحساسة وحالات وقت التشغيل عبر نظام تشغيل الجهاز المحمول، ووقت تشغيل الذكاء الاصطناعي، ونظام الذاكرة الفرعي، وبيئات التنفيذ المدعومة بالعتاد | هجمات سرقة النماذج، هجمات الطاقة والاستجابة | إخفاء النموذج، TEE |
## تحليل أمني شامل عبر الركائز
<p align="center">
<img src="https://raw.githubusercontent.com/jinxhy/awesome-moai-security/main/figures/attack-pillar.jpg" alt="تحليل أمني شامل عبر الركائز للهجمات والمشكلات المفتوحة في أنظمة MoAI.">
<img src="https://raw.githubusercontent.com/jinxhy/awesome-moai-security/main/figures/defense-pillar.jpg" alt="تحليل أمني شامل عبر الركائز للدفاعات والمشكلات المفتوحة في أنظمة MoAI.">
</p>
## الهجمات على أنظمة MoAI
<a id="adversarial-attacks"></a>
<img src="https://img.shields.io/badge/Adversarial%20Attacks-B91C1C?style=flat" height="24" align="absmiddle" />
#### استغلال تشابه النماذج
- [**متانة النماذج على الأجهزة: الهجوم العدائي على نماذج التعلم العميق في تطبيقات Android**](https://dl.acm.org/doi/10.1109/ICSE-SEIP52600.2021.00019) [[الكود](https://github.com/Jinxhy/AppAIsecurity)]
<sub>المؤتمر الدولي لهندسة البرمجيات التابع لـ IEEE/ACM: هندسة البرمجيات في الممارسة (ICSE-SEIP 2021)</sub>
- [**هجوم التطبيق الذكي: اختراق نماذج التعلم العميق في تطبيقات Android**](https://dl.acm.org/doi/10.1109/TIFS.2022.3172213) [[الكود](https://github.com/Jinxhy/SmartAppAttack)]
<sub>معاملات IEEE في أمن المعلومات والطب الشرعي (TIFS 2022)</sub>
- [**فهم التهديدات الواقعية لنماذج التعلم العميق في تطبيقات Android**](https://dl.acm.org/doi/10.1145/3548606.3559388) [[الكود](https://github.com/Advdroid/advdroid-pro)]
<sub>مؤتمر ACM SIGSAC حول أمن الحاسوب والاتصالات (CCS 2022)</sub>
- [**خداع تطبيقاتك: هجمات عدائية بصندوق أسود على تطبيقات التعلم العميق**](https://onlinelibrary.wiley.com/doi/10.1002/smr.2528)
<sub>مجلة البرمجيات: التطور والعملية (JSEP 2024)</sub>
- [**نظرة أولى على النماذج على الأجهزة في تطبيقات iOS**](https://dl.acm.org/doi/10.1145/3617177) [[الكود](https://github.com/huhanGitHub/iOS-App-database)]
<sub>معاملات ACM في هندسة البرمجيات والمنهجية (TOSEM 2024)</sub>
#### إعادة بناء التدرجات
- [**التحقيق في الهجمات ذات الصندوق الأبيض للنماذج على الأجهزة**](https://arxiv.org/abs/2402.05493) [[الكود](https://github.com/zhoumingyi/REOM)]
<sub>المؤتمر الدولي لهندسة البرمجيات التابع لـ IEEE/ACM (ICSE 2024)</sub>
- [**TIM: تمكين الاختبار واسع النطاق بالصندوق الأبيض لنماذج التعلم العميق داخل التطبيقات**](https://doi.org/10.1109/TIFS.2024.3455761) [[الكود](https://zenodo.org/record/7548141)]
<sub>معاملات IEEE في أمن المعلومات والطب الشرعي (TIFS 2024)</sub>
#### التلاعب بالمعالجة المسبقة
- [**ما وراء النموذج: هجوم المعالجة المسبقة للبيانات على نماذج التعلم العميق في تطبيقات Android**](https://dl.acm.org/doi/10.1145/3591197.3591308) [[الكود](https://github.com/Alexender-Ye/attack-focused-on-pre-processing)]
<sub>ورشة عمل الأنظمة الآمنة والجديرة بالثقة للتعلم العميق (SecTL 2023)</sub>
<a id="backdoor-attacks"></a>
<img src="https://img.shields.io/badge/Backdoor%20Attacks-BE123C?style=flat" height="24" align="absmiddle" />
#### حقن الحمولة
- [**DeepPayload: هجوم الباب الخلفي بصندوق أسود على نماذج التعلم العميق عبر حقن الحمولة العصبية**](https://dl.acm.org/doi/10.1109/ICSE43902.2021.00035) [[الكود](https://github.com/yuanchun-li/DeepPayload)]
<sub>المؤتمر الدولي لهندسة البرمجيات التابع لـ IEEE/ACM (ICSE 2021)</sub>
- [**MalModel: إخفاء الحمولة الخبيثة في نماذج التعلم العميق المحمولة مع هجوم الباب الخلفي بصندوق أسود**](https://link.springer.com/article/10.1007/s10515-025-00569-7) [[الكود](https://github.com/hjygh/MalModel)]
<sub>هندسة البرمجيات الآلية (ASEJ 2026)</sub>
#### تكميم النموذج
- [**أبواب خلفية التكميم لأطر عمل التعلم العميق التجارية**](https://arxiv.org/abs/2108.09187) [[الكود](https://github.com/quantization-backdoor/quantization-backdoor)]
<sub>معاملات IEEE في الحوسبة الموثوقة والآمنة (TDSC 2024)</sub>
#### إخفاء المعلومات في الصور
- [**هجوم الباب الخلفي الخفي على النماذج الواقعية في تطبيقات Android**](https://arxiv.org/abs/2501.01263)
<sub>طبعة أولية من arXiv (arXiv 2025)</sub>
<a id="adversarial-weight-attacks"></a>
<img src="https://img.shields.io/badge/Adversarial%20Weight%20Attacks-9F1239?style=flat" height="24" align="absmiddle" />
- [**Typhon Unleashed: هجمات الأوزان العدائية العملية ضد نماذج التعلم العميق على الأجهزة**](https://ieeexplore.ieee.org/document/11407485)
<sub>معاملات IEEE في الحوسبة الموثوقة والآمنة (TDSC 2026)</sub>
<a id="model-stealing-attacks"></a>
<img src="https://img.shields.io/badge/Model%20Stealing%20Attacks-9A3412?style=flat" height="24" align="absmiddle" />
#### التحليل الثابت
- [**نظرة أولى على تطبيقات التعلم العميق على الهواتف الذكية**](https://arxiv.org/pdf/1812.05448) [[الكود](https://github.com/xumengwei/MobileDL)]<br>
<sub>مؤتمر الشبكة العنكبوتية العالمية (WWW 2019)</sub>
- [**نظرة أولى على النماذج على الأجهزة في تطبيقات iOS**](https://arxiv.org/pdf/2307.12328) [[الكود](https://github.com/huhanGitHub/iOS-App-database)]<br>
<sub>معاملات ACM في هندسة البرمجيات والمنهجية (TOSEM 2023)</sub>
- [**انتبه لأوزانك: دراسة واسعة النطاق حول الحماية غير الكافية لنماذج التعلم الآلي في تطبيقات الأجهزة المحمولة**](https://www.usenix.org/conference/usenixsecurity21/presentation/sun-zhichuang) [[الكود](https://github.com/RiS3-Lab/ModelXRay)]<br>
<sub>ندوة USENIX للأمن (USENIX Security 2021)</sub>
- [**REDLC: هندسة عكسية موجهة بالتعلم لمترجمات التعلم العميق**](https://doi.org/10.1109/ISSRE62328.2024.00029)<br>
<sub>الندوة الدولية IEEE حول موثوقية هندسة البرمجيات (ISSRE 2024)</sub>
#### التحليل الديناميكي
- [**انتبه لأوزانك: دراسة واسعة النطاق حول الحماية غير الكافية لنماذج التعلم الآلي في تطبيقات الأجهزة المحمولة**](https://www.usenix.org/conference/usenixsecurity21/presentation/sun-zhichuang) [[الكود](https://github.com/RiS3-Lab/ModelXRay)]<br>
<sub>ندوة USENIX للأمن (USENIX Security 2021)</sub>
- [**فهم التهديدات الواقعية لنماذج التعلم العميق في تطبيقات Android**](https://dl.acm.org/doi/10.1145/3548606.3559388) [[الكود](https://github.com/Advdroid/advdroid-pro)]<br>
<sub>مؤتمر ACM SIGSAC حول أمن الحاسوب والاتصالات (CCS 2022)</sub>
- [**DeMistify: تحديد ثغرات سرقة وإعادة استخدام نماذج التعلم الآلي على الأجهزة في تطبيقات الأجهزة المحمولة**](https://dl.acm.org/doi/10.1145/3597503.3623325) [[الكود](https://github.com/MGYN/DeMistify)]<br>
<sub>المؤتمر الدولي لهندسة البرمجيات التابع لـ IEEE/ACM (ICSE 2024)</sub>
- [**لعبة الأسهم: حول (عدم) أمان إخفاء الأوزان لخوارزميات تقسيم LLM المحمية بـ TEE على الأجهزة**](https://www.usenix.org/conference/usenixsecurity25/presentation/wang-pengli) [[الكود](https://github.com/qsxltss/Game-of-Arrows)]<br>
<sub>ندوة USENIX للأمن (USENIX Security 2025)</sub>
#### القنوات الجانبية
- [**هجوم استخراج النموذج ضد التعلم العميق على الأجهزة عبر القناة الجانبية للطاقة**](https://doi.org/10.1109/ISQED60706.2024.10528716)
<sub>الندوة الدولية IEEE حول التصميم الإلكتروني عالي الجودة (ISQED 2024)</sub>
- [**DeepCache: إعادة النظر في هجمات القنوات الجانبية للذاكرة المؤقتة في ملفات الشبكات العصبية العميقة القابلة للتنفيذ**](https://dl.acm.org/doi/10.1145/3658644.3690239)
<sub>مؤتمر ACM SIGSAC حول أمن الحاسوب والاتصالات (CCS 2024)</sub>
<a id="energy-latency-attacks"></a>
<img src="https://img.shields.io/badge/Energy--latency%20Attacks-92400E?style=flat" height="24" align="absmiddle" />
- [**هجمات الطاقة والاستجابة على الشبكات العصبية على الأجهزة عبر تسميم الإسفنج**](https://dl.acm.org/doi/10.1145/3591197.3591307)
<sub>ورشة عمل الأنظمة الآمنة والجديرة بالثقة للتعلم العميق (SecTL 2023)</sub>
## الدفاعات لأنظمة MoAI
<a id="model-obfuscation"></a>
<img src="https://img.shields.io/badge/Model%20Obfuscation-047857?style=flat" height="24" align="absmiddle" />
#### الإخفاء على مستوى البرمجيات
- [**ModelObfuscator: إخفاء معلومات النموذج لحماية الأنظمة القائمة على التعلم الآلي المنشورة**](https://dl.acm.org/doi/10.1145/3597926.3598113) [[الكود](https://github.com/zhoumingyi/ModelObfuscator)]<br>
<sub>الندوة الدولية ACM SIGSOFT حول اختبار وتحليل البرمجيات (ISSTA 2023)</sub>
- [**DynaMO: حماية نماذج التعلم العميق المحمولة عبر ربط مشغلات التعلم العميق المُخفاة**](https://dl.acm.org/doi/10.1145/3691620.3694998) [[الكود](https://github.com/zhoumingyi/DynaMO)]<br>
<sub>المؤتمر الدولي IEEE/ACM لهندسة البرمجيات الآلية (ASE 2024)</sub>
- [**النموذج الأفضل هو غياب النموذج: توليد تطبيقات كود خالص لاستبدال نماذج التعلم العميق على الأجهزة**](https://dl.acm.org/doi/10.1145/3650212.3652119) [[الكود](https://github.com/zhoumingyi/CustomDLCoder)]<br>
<sub>الندوة الدولية ACM SIGSOFT حول اختبار وتحليل البرمجيات (ISSTA 2024)</sub>
#### الإخفاء على مستوى العتاد
- [**NNSplitter: حل دفاع نشط لنماذج DNN عبر إخفاء الأوزان الآلي**](https://proceedings.mlr.press/v202/zhou23h.html) [[الكود](https://github.com/Tongzhou0101/NNSplitter)]<br>
<sub>المؤتمر الدولي للتعلم الآلي (ICML 2023)</sub>
- [**طريقة إخفاء جديدة قائمة على المنطق الأغلبي لمنع الوصول غير المصرح به إلى الشبكات العصبية العميقة الثنائية**](https://www.nature.com/articles/s41598-025-09722-4)<br>
<sub>التقارير العلمية (Sci. Rep. 2025)</sub>
- [**تأمين المحولات على الأجهزة عبر الربط بالعتاد والإخفاء القابل للعكس**](https://ieeexplore.ieee.org/document/11391918) [[الكود](https://github.com/sarendis56/PUF-Transformer-IP-Protection)]<br>
<sub>المؤتمر السنوي لتطبيقات أمن الحاسوب (ACSAC 2025)</sub>
<a id="model-authorization"></a>
<img src="https://img.shields.io/badge/Model%20Authorization-0A7763?style=flat" height="24" align="absmiddle" />
- [**MMGuard: حماية نماذج التعلم العميق على الأجهزة تلقائيًا في تطبيقات Android**](https://ieeexplore.ieee.org/document/9474328) [[الكود](https://github.com/MMGuard123/MMGuard)]<br>
<sub>ورش عمل IEEE للأمن والخصوصية (SPW 2021)</sub>
- [**تأمين المحولات على الأجهزة عبر الربط بالعتاد والإخفاء القابل للعكس**](https://ieeexplore.ieee.org/document/11391918) [[الكود](https://github.com/sarendis56/PUF-Transformer-IP-Protection)]<br>
<sub>المؤتمر السنوي لتطبيقات أمن الحاسوب (ACSAC 2025)</sub>
<a id="trusted-execution-environments"></a>
<img src="https://img.shields.io/badge/Trusted%20Execution%20Environments-0F766E?style=flat" height="24" align="absmiddle" />
#### التنفيذ المتكامل
- [**Offline Model Guard: تعلم آلي آمن وخاص على الأجهزة المحمولة**](https://arxiv.org/abs/2007.02351)<br>
<sub>مؤتمر التصميم والأتمتة والاختبار في أوروبا (DATE 2020)</sub>
- [**GuardiaNN: استدلال سريع وآمن على الأجهزة في TrustZone باستخدام SRAM المدمجة والعتاد المشفّر**](https://dl.acm.org/doi/10.1145/3528535.3531513)<br>
<sub>مؤتمر ACM/IFIP الدولي للوسيط (Middleware 2022)</sub>
- [**DNN محمول آمن وفعّال باستخدام بيئات التنفيذ الموثوقة**](https://dl.acm.org/doi/10.1145/3579856.3582820)<br>
<sub>مؤتمر ACM الآسيوي حول أمن الحاسوب والاتصالات (AsiaCCS 2023)</sub>
- [**T-Slices: تنفيذ سري لنماذج التعلم العميق عند الحافة غير الموثوقة باستخدام Arm TrustZone**](https://dl.acm.org/doi/10.1145/3577923.3583648)<br>
<sub>مؤتمر ACM حول أمن البيانات والتطبيقات والخصوصية (CODASPY 2023)</sub>
- [**LEAP: TEE صديق للمطورين قائم على TrustZone لتطبيقات الأجهزة المحمولة الذكية**](https://dl.acm.org/doi/10.1109/TMC.2022.3207745)<br>
<sub>معاملات IEEE في الحوسبة المحمولة (TMC 2022)</sub>
- [**ASGARD: حماية الشبكات العصبية العميقة على الأجهزة باستخدام بيئات التنفيذ الموثوقة القائمة على المحاكاة الافتراضية**](https://www.ndss-symposium.org/ndss-paper/asgard-protecting-on-device-deep-neural-networks-with-virtualization-based-trusted-execution-environments/) [[الكود](https://github.com/yonsei-sslab/asgard)]<br>
<sub>ندوة أنظمة الشبكات والأمن الموزع (NDSS 2025)</sub>
- [**TZ-LLM: حماية نماذج اللغة الكبيرة على الأجهزة باستخدام Arm TrustZone**](https://arxiv.org/abs/2511.13717) [[الكود](https://zenodo.org/records/17054270)]<br>
<sub>المؤتمر الأوروبي لأنظمة الحاسوب (EuroSys 2026)</sub>
- [**FlexServe: نظام تقديم LLM سريع وآمن للأجهزة المحمولة مع عزل مرن للموارد**](https://arxiv.org/abs/2603.09046)<br>
<sub>طبعة أولية من arXiv (arXiv 2026)</sub>
#### التنفيذ المجزأ
- [**DarkneTZ: نحو خصوصية النماذج عند الحافة باستخدام بيئات التنفيذ الموثوقة**](https://arxiv.org/abs/2004.05703) [[الكود](https://github.com/mofanv/darknetz)]<br>
<sub>المؤتمر الدولي السنوي حول أنظمة وتطبيقات وخدمات الأجهزة المحمولة (MobiSys 2020)</sub>
- [**HybridTEE: تنفيذ DNN محمول آمن باستخدام بيئة تنفيذ موثوقة هجينة**](https://par.nsf.gov/servlets/purl/10217344) [[الكود](https://github.com/hwsel/HybridTEE)]<br>
<sub>ندوة الأمن والثقة الآسيوية الموجهة للعتاد (AsianHOST 2020)</sub>- [**SecDeep: Secure and Performant On-Device Deep Learning Inference Framework for Mobile and IoT Devices**](https://dl.acm.org/doi/10.1145/3450268.3453524)<br>
<sub>المؤتمر الدولي لتصميم وتنفيذ إنترنت الأشياء (IoTDI 2021)</sub>
- [**ShadowNet: A Secure and Efficient On-Device Model Inference System for Convolutional Neural Networks**](https://ieeexplore.ieee.org/document/10179382) [[Code](https://github.com/RiS3-Lab/ShadowNet)]<br>
<sub>ندوة IEEE للأمن والخصوصية (S&P 2023)</sub>
- [**MirrorNet: A TEE-Friendly Framework for Secure On-Device DNN Inference**](https://arxiv.org/abs/2311.09489)<br>
<sub>المؤتمر الدولي المشترك بين IEEE/ACM للتصميم بمساعدة الحاسوب (ICCAD 2023)</sub>
- [**TSQP: Safeguarding Real-Time Inference for Quantization Neural Networks on Edge Devices**](https://ieeexplore.ieee.org/document/11023493) [[Code](https://github.com/D1aoBoomm/TSQP)]<br>
<sub>ندوة IEEE للأمن والخصوصية (S&P 2025)</sub>
- [**TEESlice: Protecting Sensitive Neural Network Models in Trusted Execution Environments When Attackers Have Pre-Trained Models**](https://dl.acm.org/doi/10.1145/3707453)<br>
<sub>معاملات ACM في هندسة البرمجيات والمنهجية (TOSEM 2025)</sub>
- [**TensorShield: Safeguarding On-Device Inference by Shielding Critical DNN Tensors with TEE**](https://arxiv.org/abs/2505.22735) [[Code](https://github.com/suntong30/TensorShield)]<br>
<sub>مؤتمر ACM SIGSAC لأمن الحاسوب والاتصالات (CCS 2025)</sub>
#### التحميل المشوّش (Obfuscated Offloading)
- [**GroupCover: A Secure, Efficient and Scalable Inference Framework for On-Device Model Protection Based on TEEs**](https://proceedings.mlr.press/v235/zhang24bn.html) [[Code](https://github.com/ZzzzMe/GroupCover)]<br>
<sub>المؤتمر الدولي لتعلم الآلة (ICML 2024)</sub>
- [**Game of Arrows: On the (In-)Security of Weight Obfuscation for On-Device TEE-Shielded LLM Partition Algorithms**](https://www.usenix.org/conference/usenixsecurity25/presentation/wang-pengli) [[Code](https://github.com/qsxltss/Game-of-Arrows)]<br>
<sub>ندوة USENIX للأمن (USENIX Security 2025)</sub>
- [**MirageNet: A Secure, Efficient, and Scalable On-Device Model Protection in Heterogeneous TEE and GPU System**](https://arxiv.org/abs/2601.13826)<br>
<sub>طبعة أولية من arXiv (arXiv 2026)</sub>
<a id="model-watermarking"></a>
<img src="https://img.shields.io/badge/Model%20Watermarking-0E7490?style=flat" height="24" align="absmiddle" />
- [**THEMIS: Towards Practical Intellectual Property Protection for Post-Deployment On-Device Deep Learning Models**](https://www.usenix.org/conference/usenixsecurity25/presentation/huang-yujin) [[Code](https://github.com/Jinxhy/THEMIS)]<br>
<sub>ندوة USENIX للأمن (USENIX Security 2025)</sub>
## المشكلات المفتوحة
تلخص المشكلات المفتوحة التالية الفجوات البحثية الرئيسية التي حددناها في دراسة المعرفة (SoK) الخاصة بنا. نُبقي الأوصاف هنا على مستوى عالٍ للقراء الذين يستخدمون هذا المستودع. يمكن العثور على مناقشات تقنية أكثر تفصيلاً في الورقة البحثية.
<img src="https://img.shields.io/badge/ATTACK%20OPS%20%E2%80%94%20FROM%20MODEL%20ACCESS%20TO%20DEPLOYABLE%20ATTACKS-7F1D1D?style=for-the-badge" height="28" align="absmiddle" />
1. **الجدوى العملية للهجوم.**
تبقى الهجمات العدائية ضد النماذج على الجهاز صعبة التحقيق بعد النشر لأنها غالباً ما تتطلب التحكم في مدخلات النموذج، أو إدخال تشويشات عدائية، أو إعادة تغليف التطبيق لتعديل كود المعالجة المسبقة. قد تكون هذه الخطوات غير عملية أو قابلة للاكتشاف في عمليات النشر الفعلية للمستخدمين النهائيين.
2. **التعديل الخفي للنموذج.**
تحتاج هجمات الباب الخلفي إلى إيجاد نقاط دخول بعد النشر تتجاوز التسميم القياسي في وقت التدريب لأن النماذج على الجهاز عادةً ما تكون للقراءة فقط وللاستدلال فقط. التحدي الرئيسي هو إدخال سلوك خبيث مخفي دون إنتاج تغييرات ملحوظة في مكونات النموذج.
3. **التحديد الدقيق للأوزان.**
تكشف هجمات الأوزان العدائية عن خطر تكامل على مستوى المعاملات، لكن النشر العملي يعتمد على تحديد الأوزان الحرجة للسلوك في مساحة البحث الكبيرة للمعاملات. هذا صعب لأن المهاجمين غالباً ما يفتقرون إلى التوجيه التدرجي ويحتاجون إلى الحفاظ على الفائدة المشروعة أثناء تعديل معاملات محددة فقط.
4. **استخراج النموذج الموثوق.**
لا يجعل التخزين المحلي للنموذج سرقة النموذج أمراً مباشراً. لا يزال الاستخراج العملي يعتمد على تحديد النموذج الموثوق، وفك التشفير، وإعادة البناء في وجود خوارزميات تشفير مخصصة، وأطر عمل ذكاء اصطناعي غير قياسية، وسلوك تحميل خاص بوقت التشغيل.
5. **عدم تجانس العتاد.**
تعتمد هجمات الطاقة-الكمون على كيفية تفاعل أنماط التنشيط المسمومة مع سلوك التنفيذ الخاص بالجهاز. قد تؤدي إلى تضخيم الكمون واستهلاك الطاقة على المسرعات الحساسة للندرة، لكنها تفشل في الانتقال إلى عتاد لا يعتمد على التنفيذ المرتبط بالندرة.
---
[Read more](https://github.com/jinxhy/awesome-moai-security)