jinxhy/awesome-moai-securityमोबाइल ऑन-डिवाइस AI सिस्टम के लिए आक्रमण और रक्षा अनुसंधान की सुव्यवस्थित पठन सूची और वर्गीकरण, जिसमें एडवर्सेरियल, बैकडोर, मॉडल चोरी, और ऊर्जा-विलंबता आक्रमण शामिल हैं, साथ ही अस्पष्टीकरण, TEE, और वॉटरमार्किंग रक्षा तकनीकें शामिल हैं।
# Awesome Mobile On-Device AI Security
<p align="center">
<img src="https://img.shields.io/badge/Companion%20Resource%20for-SoK%20on%20MoAI%20Security-2563EB?style=for-the-badge" height="28" align="absmiddle" />
</p>
<h2 align="center">SoK: Attack and Defense Landscape of Mobile On-device AI Systems</h3>
मोबाइल ऑन-डिवाइस AI सिस्टम **LiteRT/TFLite**, **Core ML**, **ExecuTorch**, **ONNX** जैसे ML फ्रेमवर्क और हार्डवेयर-समर्थित एक्सेलेरेटर के माध्यम से AI मॉडल को स्थानीय रूप से निष्पादित करते हैं। यह रिपॉजिटरी ऐसी प्रणालियों को समझने और सुरक्षित करने के लिए आवश्यक सुरक्षा अनुसंधान को ट्रैक करती है, क्योंकि ऑन-डिवाइस मॉडल का स्थानीय भंडारण नए सुरक्षा जोखिम पैदा करता है।
## Overview of a Mobile On-Device AI system
<p align="center">
<img src="https://assets.kitploit.com/production/public/readmes/714/ea9f0160c308b88a130c48a071c544d1c0765d4d221298b41899c35755abac69.jpg" alt="Overview of a Mobile On-Device AI system">
</p>
## सामग्री
- [रीडिंग रोडमैप](#reading-roadmap)
- [एक नज़र में वर्गीकरण](#taxonomy-at-a-glance)
- [क्रॉस-पिलर सुरक्षा विश्लेषण](#cross-pillar-security-analysis)
- [MoAI सिस्टम पर हमले](#attacks-on-moai-systems)
- [एडवर्सेरियल हमले](#adversarial-attacks)
- [मॉडल समानता का शोषण](#model-similarity-exploitation)
- [ग्रेडिएंट पुनर्निर्माण](#gradient-reconstruction)
- [प्रीप्रोसेसिंग हेरफेर](#preprocessing-manipulation)
- [बैकडोर हमले](#backdoor-attacks)
- [पेलोड इंजेक्शन](#payload-injection)
- [मॉडल क्वांटाइज़ेशन](#model-quantization)
- [इमेज स्टेग्नोग्राफी](#image-steganography)
- [एडवर्सेरियल वेट हमले](#adversarial-weight-attacks)
- [मॉडल चोरी के हमले](#model-stealing-attacks)
- [स्टैटिक विश्लेषण](#static-analysis)
- [डायनामिक विश्लेषण](#dynamic-analysis)
- [साइड चैनल](#side-channel)
- [ऊर्जा-विलंबता हमले](#energy-latency-attacks)
- [MoAI सिस्टम के लिए सुरक्षा उपाय](#defenses-for-moai-systems)
- [मॉडल अस्पष्टीकरण](#model-obfuscation)
- [सॉफ्टवेयर-स्तरीय छुपाव](#software-level-concealment)
- [हार्डवेयर-स्तरीय छुपाव](#hardware-level-concealment)
- [मॉडल प्राधिकरण](#model-authorization)
- [विश्वसनीय निष्पादन वातावरण](#trusted-execution-environments)
- [मोनोलिथिक निष्पादन](#monolithic-execution)
- [विभाजित निष्पादन](#partitioned-execution)
- [अस्पष्ट ऑफलोडिंग](#obfuscated-offloading)
- [मॉडल वॉटरमार्किंग](#model-watermarking)
- [खुली समस्याएँ](#open-problems)
- [उभरती दिशाएँ](#emerging-directions)
## रीडिंग रोडमैप
MoAI सुरक्षा में नए हैं? यहाँ से शुरू करें:
1. **पारिस्थितिकी तंत्र को समझें।** Android/iOS ऐप्स में डीप लर्निंग ऐप्स और ऑन-डिवाइस मॉडल पर अनुभवजन्य अध्ययन पढ़ें।
2. **मुख्य जोखिम सीखें।** मॉडल निष्कर्षण और मॉडल सुरक्षा पेपर का अध्ययन करें, क्योंकि स्थानीय मॉडल निवास MoAI सिस्टम में केंद्रीय सुरक्षा बदलाव है।
3. **हमले की सतहों को समझें।** अध्ययन करें कि MoAI हमले इनपुट इंटरफेस, मॉडल आर्टिफैक्ट्स, रनटाइम निष्पादन और हार्डवेयर-समर्थित वातावरण में कैसे उत्पन्न होते हैं।
4. **सुरक्षा उपायों को सतहों से जोड़ें।** जांचें कि MoAI सुरक्षा उपाय इन सतहों को पूर्व-तैनाती, रनटाइम निष्पादन और पोस्ट-तैनाती चरणों में कैसे सुरक्षित करते हैं।
5. **आगे देखें।** ऑन-डिवाइस प्रशिक्षण, ऑन-डिवाइस GenAI और एजेंटिक MoAI सिस्टम में नई सुरक्षा चुनौतियों का अन्वेषण करें।
<img src="https://img.shields.io/badge/-A%20minimal%20first--week%20reading%20path%20for%20newcomers%20to%20MOAI%20security-2563EB?style=for-the-badge" height="28" align="absmiddle" alt="A minimal first-week reading path for newcomers to MOAI security." />
<img src="https://img.shields.io/badge/Ecosystem-4C78A8?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Android-6B7280?style=flat" height="18" align="absmiddle" /> [A First Look at Deep Learning Apps on Smartphones](https://arxiv.org/pdf/1812.05448)
• <img src="https://img.shields.io/badge/iOS-6B7280?style=flat" height="18" align="absmiddle" /> [A First Look at On-device Models in iOS Apps](https://arxiv.org/pdf/2307.12328)
<img src="https://img.shields.io/badge/Core%20Risk-D97706?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Stealing-9A3412?style=flat" height="18" align="absmiddle" /> [Mind Your Weight(s): A Large-scale Study on Insufficient ML Model Protection in Mobile Apps](https://www.usenix.org/conference/usenixsecurity21/presentation/sun-zhichuang)
<img src="https://img.shields.io/badge/Attack%20Surfaces-7F1D1D?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Adversarial-B91C1C?style=flat" height="18" align="absmiddle" /> [Robustness of On-device Models: Adversarial Attack to Deep Learning Models on Android Apps](https://arxiv.org/pdf/2101.04401)
• <img src="https://img.shields.io/badge/Backdoor-BE123C?style=flat" height="18" align="absmiddle" /> [DeepPayload: Black-box Backdoor Attack on Deep Learning Models through Neural Payload Injection](https://dl.acm.org/doi/10.1109/ICSE43902.2021.00035)
• <img src="https://img.shields.io/badge/Weight-9F1239?style=flat" height="18" align="absmiddle" /> [Typhon Unleashed: Practical Adversarial Weight Attacks Against On-Device Deep Learning Models](https://ieeexplore.ieee.org/document/11407485)
• <img src="https://img.shields.io/badge/Latency-92400E?style=flat" height="18" align="absmiddle" /> [Energy-Latency Attacks to On-Device Neural Networks via Sponge Poisoning](https://arxiv.org/pdf/2305.03888)
<img src="https://img.shields.io/badge/Defenses-166534?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Obfuscation-047857?style=flat" height="18" align="absmiddle" /> [ModelObfuscator: Obfuscating Model Information to Protect Deployed ML-based Systems](https://arxiv.org/pdf/2306.06112)
• <img src="https://img.shields.io/badge/TEE-0F766E?style=flat" height="18" align="absmiddle" /> [ShadowNet: A Secure and Efficient On-device Model Inference System](https://arxiv.org/abs/2011.05905)
• <img src="https://img.shields.io/badge/Watermarking-0E7490?style=flat" height="18" align="absmiddle" /> [THEMIS: Towards Practical IP Protection for Post-Deployment On-Device DL Models](https://www.usenix.org/conference/usenixsecurity25/presentation/huang-yujin)
## एक नज़र में वर्गीकरण
| MoAI सुरक्षा स्तंभ | यह क्या सुरक्षित करता है | प्रतिनिधि हमले | प्रतिनिधि सुरक्षा उपाय |
|---|---|---|---|
| **उपयोगकर्ता-नियंत्रित इनपुट अखंडता** | उपयोगकर्ता इनपुट की एंड-टू-एंड अखंडता, मोबाइल डेटा अधिग्रहण से मॉडल-इनपुट हैंडऑफ तक | एडवर्सेरियल हमले, बैकडोर हमले, ऊर्जा-विलंबता हमले | - |
| **डिवाइस-निवासी मॉडल सुरक्षा** | तैनात मॉडल आर्टिफैक्ट्स और सभी पोस्ट-तैनाती रूप जिनमें मॉडल डिवाइस पर संग्रहीत, लोड, रूपांतरित या भौतिक रूप से प्रस्तुत किए जाते हैं | एडवर्सेरियल हमले, बैकडोर हमले, एडवर्सेरियल वेट हमले, मॉडल चोरी के हमले, ऊर्जा-विलंबता हमले | मॉडल अस्पष्टीकरण, मॉडल प्राधिकरण, TEE, मॉडल वॉटरमार्किंग |
| **डिवाइस-मूल वातावरण संयम** | मोबाइल OS, AI रनटाइम, मेमोरी सबसिस्टम और हार्डवेयर-समर्थित निष्पादन वातावरण में संवेदनशील अनुमान गणना और रनटाइम अवस्थाएँ | मॉडल चोरी के हमले, ऊर्जा-विलंबता हमले | मॉडल अस्पष्टीकरण, TEE |
## क्रॉस-पिलर सुरक्षा विश्लेषण
<p align="center">
<img src="https://raw.githubusercontent.com/jinxhy/awesome-moai-security/main/figures/attack-pillar.jpg" alt="Cross-pillar security analysis of attacks and open problems in MoAI systems.">
<img src="https://raw.githubusercontent.com/jinxhy/awesome-moai-security/main/figures/defense-pillar.jpg" alt="Cross-pillar security analysis of defenses and open problems in MoAI systems.">
</p>
## MoAI सिस्टम पर हमले
<a id="adversarial-attacks"></a>
<img src="https://img.shields.io/badge/Adversarial%20Attacks-B91C1C?style=flat" height="24" align="absmiddle" />
#### मॉडल समानता का शोषण
- [**Robustness of On-device Models: Adversarial Attack to Deep Learning Models on Android Apps**](https://dl.acm.org/doi/10.1109/ICSE-SEIP52600.2021.00019) [[Code](https://github.com/Jinxhy/AppAIsecurity)]
<sub>IEEE/ACM International Conference on Software Engineering: Software Engineering in Practice (ICSE-SEIP 2021)</sub>
- [**Smart App Attack: Hacking Deep Learning Models in Android Apps**](https://dl.acm.org/doi/10.1109/TIFS.2022.3172213) [[Code](https://github.com/Jinxhy/SmartAppAttack)]
<sub>IEEE Transactions on Information Forensics and Security (TIFS 2022)</sub>
- [**Understanding Real-world Threats to Deep Learning Models in Android Apps**](https://dl.acm.org/doi/10.1145/3548606.3559388) [[Code](https://github.com/Advdroid/advdroid-pro)]
<sub>ACM SIGSAC Conference on Computer and Communications Security (CCS 2022)</sub>
- [**Cheating Your Apps: Black-box Adversarial Attacks on Deep Learning Apps**](https://onlinelibrary.wiley.com/doi/10.1002/smr.2528)
<sub>Journal of Software: Evolution and Process (JSEP 2024)</sub>
- [**A First Look at On-device Models in iOS Apps**](https://dl.acm.org/doi/10.1145/3617177) [[Code](https://github.com/huhanGitHub/iOS-App-database)]
<sub>ACM Transactions on Software Engineering and Methodology (TOSEM 2024)</sub>
#### ग्रेडिएंट पुनर्निर्माण
- [**Investigating White-Box Attacks for On-Device Models**](https://arxiv.org/abs/2402.05493) [[Code](https://github.com/zhoumingyi/REOM)]
<sub>IEEE/ACM International Conference on Software Engineering (ICSE 2024)</sub>
- [**TIM: Enabling Large-Scale White-Box Testing on In-App Deep Learning Models**](https://doi.org/10.1109/TIFS.2024.3455761) [[Code](https://zenodo.org/record/7548141)]
<sub>IEEE Transactions on Information Forensics and Security (TIFS 2024)</sub>
#### प्रीप्रोसेसिंग हेरफेर
- [**Beyond the Model: Data Pre-processing Attack to Deep Learning Models in Android Apps**](https://dl.acm.org/doi/10.1145/3591197.3591308) [[Code](https://github.com/Alexender-Ye/attack-focused-on-pre-processing)]
<sub>Secure and Trustworthy Deep Learning Systems Workshop (SecTL 2023)</sub>
<a id="backdoor-attacks"></a>
<img src="https://img.shields.io/badge/Backdoor%20Attacks-BE123C?style=flat" height="24" align="absmiddle" />
#### पेलोड इंजेक्शन
- [**DeepPayload: Black-box Backdoor Attack on Deep Learning Models through Neural Payload Injection**](https://dl.acm.org/doi/10.1109/ICSE43902.2021.00035) [[Code](https://github.com/yuanchun-li/DeepPayload)]
<sub>IEEE/ACM International Conference on Software Engineering (ICSE 2021)</sub>
- [**MalModel: Hiding Malicious Payload in Mobile Deep Learning Models with Black-box Backdoor Attack**](https://link.springer.com/article/10.1007/s10515-025-00569-7) [[Code](https://github.com/hjygh/MalModel)]
<sub>Automated Software Engineering (ASEJ 2026)</sub>
#### मॉडल क्वांटाइज़ेशन
- [**Quantization Backdoors to Deep Learning Commercial Frameworks**](https://arxiv.org/abs/2108.09187) [[Code](https://github.com/quantization-backdoor/quantization-backdoor)]
<sub>IEEE Transactions on Dependable and Secure Computing (TDSC 2024)</sub>
#### इमेज स्टेग्नोग्राफी
- [**Stealthy Backdoor Attack to Real-world Models in Android Apps**](https://arxiv.org/abs/2501.01263)
<sub>arXiv preprint (arXiv 2025)</sub>
<a id="adversarial-weight-attacks"></a>
<img src="https://img.shields.io/badge/Adversarial%20Weight%20Attacks-9F1239?style=flat" height="24" align="absmiddle" />
- [**Typhon Unleashed: Practical Adversarial Weight Attacks Against On-Device Deep Learning Models**](https://ieeexplore.ieee.org/document/11407485)
<sub>IEEE Transactions on Dependable and Secure Computing (TDSC 2026)</sub>
<a id="model-stealing-attacks"></a>
<img src="https://img.shields.io/badge/Model%20Stealing%20Attacks-9A3412?style=flat" height="24" align="absmiddle" />
#### स्टैटिक विश्लेषण
- [**A First Look at Deep Learning Apps on Smartphones**](https://arxiv.org/pdf/1812.05448) [[Code](https://github.com/xumengwei/MobileDL)]<br>
<sub>The World Wide Web Conference (WWW 2019)</sub>
- [**A First Look at On-device Models in iOS Apps**](https://arxiv.org/pdf/2307.12328) [[Code](https://github.com/huhanGitHub/iOS-App-database)]<br>
<sub>ACM Transactions on Software Engineering and Methodology (TOSEM 2023)</sub>
- [**Mind Your Weight(s): A Large-scale Study on Insufficient Machine Learning Model Protection in Mobile Apps**](https://www.usenix.org/conference/usenixsecurity21/presentation/sun-zhichuang) [[Code](https://github.com/RiS3-Lab/ModelXRay)]<br>
<sub>USENIX Security Symposium (USENIX Security 2021)</sub>
- [**REDLC: Learning-Driven Reverse Engineering for Deep Learning Compilers**](https://doi.org/10.1109/ISSRE62328.2024.00029)<br>
<sub>IEEE International Symposium on Software Reliability Engineering (ISSRE 2024)</sub>
#### डायनामिक विश्लेषण
- [**Mind Your Weight(s): A Large-scale Study on Insufficient Machine Learning Model Protection in Mobile Apps**](https://www.usenix.org/conference/usenixsecurity21/presentation/sun-zhichuang) [[Code](https://github.com/RiS3-Lab/ModelXRay)]<br>
<sub>USENIX Security Symposium (USENIX Security 2021)</sub>
- [**Understanding Real-world Threats to Deep Learning Models in Android Apps**](https://dl.acm.org/doi/10.1145/3548606.3559388) [[Code](https://github.com/Advdroid/advdroid-pro)]<br>
<sub>ACM SIGSAC Conference on Computer and Communications Security (CCS 2022)</sub>
- [**DeMistify: Identifying On-device Machine Learning Models Stealing and Reuse Vulnerabilities in Mobile Apps**](https://dl.acm.org/doi/10.1145/3597503.3623325) [[Code](https://github.com/MGYN/DeMistify)]<br>
<sub>IEEE/ACM International Conference on Software Engineering (ICSE 2024)</sub>
- [**Game of Arrows: On the (In-)Security of Weight Obfuscation for On-Device TEE-Shielded LLM Partition Algorithms**](https://www.usenix.org/conference/usenixsecurity25/presentation/wang-pengli) [[Code](https://github.com/qsxltss/Game-of-Arrows)]<br>
<sub>USENIX Security Symposium (USENIX Security 2025)</sub>
#### साइड चैनल
- [**Model Extraction Attack against On-Device Deep Learning with Power Side Channel**](https://doi.org/10.1109/ISQED60706.2024.10528716)
<sub>IEEE International Symposium on Quality Electronic Design (ISQED 2024)</sub>
- [**DeepCache: Revisiting Cache Side-Channel Attacks in Deep Neural Networks Executables**](https://dl.acm.org/doi/10.1145/3658644.3690239)
<sub>ACM SIGSAC Conference on Computer and Communications Security (CCS 2024)</sub>
<a id="energy-latency-attacks"></a>
<img src="https://img.shields.io/badge/Energy--latency%20Attacks-92400E?style=flat" height="24" align="absmiddle" />
- [**Energy-Latency Attacks to On-Device Neural Networks via Sponge Poisoning**](https://dl.acm.org/doi/10.1145/3591197.3591307)
<sub>Secure and Trustworthy Deep Learning Systems Workshop (SecTL 2023)</sub>
## MoAI सिस्टम के लिए सुरक्षा उपाय
<a id="model-obfuscation"></a>
<img src="https://img.shields.io/badge/Model%20Obfuscation-047857?style=flat" height="24" align="absmiddle" />
#### सॉफ्टवेयर-स्तरीय छुपाव
- [**ModelObfuscator: Obfuscating Model Information to Protect Deployed ML-Based Systems**](https://dl.acm.org/doi/10.1145/3597926.3598113) [[Code](https://github.com/zhoumingyi/ModelObfuscator)]<br>
<sub>ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA 2023)</sub>
- [**DynaMO: Protecting Mobile DL Models through Coupling Obfuscated DL Operators**](https://dl.acm.org/doi/10.1145/3691620.3694998) [[Code](https://github.com/zhoumingyi/DynaMO)]<br>
<sub>IEEE/ACM International Conference on Automated Software Engineering (ASE 2024)</sub>
- [**Model-less Is the Best Model: Generating Pure Code Implementations to Replace On-Device DL Models**](https://dl.acm.org/doi/10.1145/3650212.3652119) [[Code](https://github.com/zhoumingyi/CustomDLCoder)]<br>
<sub>ACM SIGSOFT International Symposium on Software Testing and Analysis (ISSTA 2024)</sub>
#### हार्डवेयर-स्तरीय छुपाव
- [**NNSplitter: An Active Defense Solution for DNN Model via Automated Weight Obfuscation**](https://proceedings.mlr.press/v202/zhou23h.html) [[Code](https://github.com/Tongzhou0101/NNSplitter)]<br>
<sub>International Conference on Machine Learning (ICML 2023)</sub>
- [**A Novel Obfuscation Method Based on Majority Logic for Preventing Unauthorized Access to Binary Deep Neural Networks**](https://www.nature.com/articles/s41598-025-09722-4)<br>
<sub>Scientific Reports (Sci. Rep. 2025)</sub>
- [**Securing On-device Transformer with Hardware Binding and Reversible Obfuscation**](https://ieeexplore.ieee.org/document/11391918) [[Code](https://github.com/sarendis56/PUF-Transformer-IP-Protection)]<br>
<sub>Annual Computer Security Applications Conference (ACSAC 2025)</sub>
<a id="model-authorization"></a>
<img src="https://img.shields.io/badge/Model%20Authorization-0A7763?style=flat" height="24" align="absmiddle" />
- [**MMGuard: Automatically Protecting On-Device Deep Learning Models in Android Apps**](https://ieeexplore.ieee.org/document/9474328) [[Code](https://github.com/MMGuard123/MMGuard)]<br>
<sub>IEEE Security and Privacy Workshops (SPW 2021)</sub>
- [**Securing On-device Transformer with Hardware Binding and Reversible Obfuscation**](https://ieeexplore.ieee.org/document/11391918) [[Code](https://github.com/sarendis56/PUF-Transformer-IP-Protection)]<br>
<sub>Annual Computer Security Applications Conference (ACSAC 2025)</sub>
<a id="trusted-execution-environments"></a>
<img src="https://img.shields.io/badge/Trusted%20Execution%20Environments-0F766E?style=flat" height="24" align="absmiddle" />
#### मोनोलिथिक निष्पादन
- [**Offline Model Guard: Secure and Private ML on Mobile Devices**](https://arxiv.org/abs/2007.02351)<br>
<sub>Design, Automation and Test in Europe Conference (DATE 2020)</sub>
- [**GuardiaNN: Fast and Secure On-Device Inference in TrustZone Using Embedded SRAM and Cryptographic Hardware**](https://dl.acm.org/doi/10.1145/3528535.3531513)<br>
<sub>ACM/IFIP International Middleware Conference (Middleware 2022)</sub>
- [**Secure and Efficient Mobile DNN Using Trusted Execution Environments**](https://dl.acm.org/doi/10.1145/3579856.3582820)<br>
<sub>ACM Asia Conference on Computer and Communications Security (AsiaCCS 2023)</sub>
- [**T-Slices: Confidential Execution of Deep Learning Inference at the Untrusted Edge with Arm TrustZone**](https://dl.acm.org/doi/10.1145/3577923.3583648)<br>
<sub>ACM Conference on Data and Application Security and Privacy (CODASPY 2023)</sub>
- [**LEAP: TrustZone Based Developer-Friendly TEE for Intelligent Mobile Apps**](https://dl.acm.org/doi/10.1109/TMC.2022.3207745)<br>
<sub>IEEE Transactions on Mobile Computing (TMC 2022)</sub>
- [**ASGARD: Protecting On-Device Deep Neural Networks with Virtualization-Based Trusted Execution Environments**](https://www.ndss-symposium.org/ndss-paper/asgard-protecting-on-device-deep-neural-networks-with-virtualization-based-trusted-execution-environments/) [[Code](https://github.com/yonsei-sslab/asgard)]<br>
<sub>Network and Distributed System Security Symposium (NDSS 2025)</sub>
- [**TZ-LLM: Protecting On-Device Large Language Models with Arm TrustZone**](https://arxiv.org/abs/2511.13717) [[Code](https://zenodo.org/records/17054270)]<br>
<sub>European Conference on Computer Systems (EuroSys 2026)</sub>
- [**FlexServe: A Fast and Secure LLM Serving System for Mobile Devices with Flexible Resource Isolation**](https://arxiv.org/abs/2603.09046)<br>
<sub>arXiv preprint (arXiv 2026)</sub>
#### विभाजित निष्पादन
- [**DarkneTZ: Towards Model Privacy at the Edge Using Trusted Execution Environments**](https://arxiv.org/abs/2004.05703) [[Code](https://github.com/mofanv/darknetz)]<br>
<sub>Annual International Conference on Mobile Systems, Applications, and Services (MobiSys 2020)</sub>
- [**HybridTEE: Secure Mobile DNN Execution Using Hybrid Trusted Execution Environment**](https://par.nsf.gov/servlets/purl/10217344) [[Code](https://github.com/hwsel/HybridTEE)]<br>
<sub>Asian Hardware Oriented Security and Trust Symposium (AsianHOST 2020)</sub>- [**SecDeep: मोबाइल और IoT उपकरणों के लिए सुरक्षित और उच्च-प्रदर्शन वाला ऑन-डिवाइस डीप लर्निंग इन्फ्रेंस फ्रेमवर्क**](https://dl.acm.org/doi/10.1145/3450268.3453524)<br>
<sub>इंटरनेट-ऑफ-थिंग्स डिज़ाइन और कार्यान्वयन पर अंतर्राष्ट्रीय सम्मेलन (IoTDI 2021)</sub>
- [**ShadowNet: कन्वोल्यूशनल न्यूरल नेटवर्क के लिए एक सुरक्षित और कुशल ऑन-डिवाइस मॉडल इन्फ्रेंस सिस्टम**](https://ieeexplore.ieee.org/document/10179382) [[कोड](https://github.com/RiS3-Lab/ShadowNet)]<br>
<sub>IEEE सुरक्षा और गोपनीयता संगोष्ठी (S&P 2023)</sub>
- [**MirrorNet: सुरक्षित ऑन-डिवाइस DNN इन्फ्रेंस के लिए TEE-अनुकूल फ्रेमवर्क**](https://arxiv.org/abs/2311.09489)<br>
<sub>IEEE/ACM अंतर्राष्ट्रीय कंप्यूटर-एडेड डिज़ाइन सम्मेलन (ICCAD 2023)</sub>
- [**TSQP: एज डिवाइसों पर क्वांटाइज़ेशन न्यूरल नेटवर्क के लिए रीयल-टाइम इन्फ्रेंस की सुरक्षा**](https://ieeexplore.ieee.org/document/11023493) [[कोड](https://github.com/D1aoBoomm/TSQP)]<br>
<sub>IEEE सुरक्षा और गोपनीयता संगोष्ठी (S&P 2025)</sub>
- [**TEESlice: विश्वसनीय निष्पादन वातावरण में संवेदनशील न्यूरल नेटवर्क मॉडल की सुरक्षा जब हमलावरों के पास पूर्व-प्रशिक्षित मॉडल हों**](https://dl.acm.org/doi/10.1145/3707453)<br>
<sub>ACM सॉफ्टवेयर इंजीनियरिंग और कार्यप्रणाली पर लेनदेन (TOSEM 2025)</sub>
- [**TensorShield: TEE के साथ महत्वपूर्ण DNN टेंसर को ढालकर ऑन-डिवाइस इन्फ्रेंस की सुरक्षा**](https://arxiv.org/abs/2505.22735) [[कोड](https://github.com/suntong30/TensorShield)]<br>
<sub>ACM SIGSAC कंप्यूटर और संचार सुरक्षा सम्मेलन (CCS 2025)</sub>
#### अस्पष्टीकृत ऑफलोडिंग
- [**GroupCover: TEE पर आधारित ऑन-डिवाइस मॉडल सुरक्षा के लिए एक सुरक्षित, कुशल और स्केलेबल इन्फ्रेंस फ्रेमवर्क**](https://proceedings.mlr.press/v235/zhang24bn.html) [[कोड](https://github.com/ZzzzMe/GroupCover)]<br>
<sub>मशीन लर्निंग पर अंतर्राष्ट्रीय सम्मेलन (ICML 2024)</sub>
- [**तीरों का खेल: ऑन-डिवाइस TEE-संरक्षित LLM विभाजन एल्गोरिदम के लिए वेट अस्पष्टीकरण की (अ-)सुरक्षा पर**](https://www.usenix.org/conference/usenixsecurity25/presentation/wang-pengli) [[कोड](https://github.com/qsxltss/Game-of-Arrows)]<br>
<sub>USENIX सुरक्षा संगोष्ठी (USENIX Security 2025)</sub>
- [**MirageNet: विषम TEE और GPU प्रणाली में सुरक्षित, कुशल और स्केलेबल ऑन-डिवाइस मॉडल सुरक्षा**](https://arxiv.org/abs/2601.13826)<br>
<sub>arXiv प्रीप्रिंट (arXiv 2026)</sub>
<a id="model-watermarking"></a>
<img src="https://img.shields.io/badge/Model%20Watermarking-0E7490?style=flat" height="24" align="absmiddle" />
- [**THEMIS: तैनाती के बाद ऑन-डिवाइस डीप लर्निंग मॉडल के लिए व्यावहारिक बौद्धिक संपदा संरक्षण की दिशा में**](https://www.usenix.org/conference/usenixsecurity25/presentation/huang-yujin) [[कोड](https://github.com/Jinxhy/THEMIS)]<br>
<sub>USENIX सुरक्षा संगोष्ठी (USENIX Security 2025)</sub>
## खुली समस्याएँ
निम्नलिखित खुली समस्याएँ हमारे SoK में पहचाने गए मुख्य शोध अंतरालों का सारांश प्रस्तुत करती हैं। हम यहाँ विवरणों को उच्च-स्तरीय रखते हैं ताकि इस रिपॉजिटरी का उपयोग करने वाले पाठकों को सुविधा हो। अधिक तकनीकी चर्चाएँ पेपर में पाई जा सकती हैं।
<img src="https://img.shields.io/badge/ATTACK%20OPS%20%E2%80%94%20FROM%20MODEL%20ACCESS%20TO%20DEPLOYABLE%20ATTACKS-7F1D1D?style=for-the-badge" height="28" align="absmiddle" />
1. **हमले की तैनाती की व्यावहारिकता।**
ऑन-डिवाइस मॉडलों के विरुद्ध प्रतिकूल हमले तैनाती के बाद साकार करना कठिन बने रहते हैं क्योंकि उन्हें अक्सर मॉडल इनपुट पर नियंत्रण, प्रतिकूल व्यवधानों का सम्मिलन, या प्रीप्रोसेसिंग कोड को संशोधित करने के लिए ऐप रीपैकेजिंग की आवश्यकता होती है। ये चरण वास्तविक अंत-उपयोगकर्ता तैनाती में अव्यावहारिक या पहचाने जाने योग्य हो सकते हैं।
2. **गुप्त मॉडल संशोधन।**
बैकडोर हमलों को मानक प्रशिक्षण-समय विषाक्तता से परे तैनाती-पश्चात प्रवेश बिंदु खोजने की आवश्यकता होती है क्योंकि ऑन-डिवाइस मॉडल आमतौर पर केवल-पठनीय और केवल-इन्फ्रेंस होते हैं। मुख्य चुनौती मॉडल कलाकृतियों में अवलोकन योग्य परिवर्तन उत्पन्न किए बिना छिपे हुए दुर्भावनापूर्ण व्यवहार को प्रस्तुत करना है।
3. **सटीक वेट स्थानीयकरण।**
---
[Read more](https://github.com/jinxhy/awesome-moai-security)