jinxhy/awesome-moai-security针对移动端设备上AI系统的攻击与防御研究精选阅读清单及分类体系，涵盖对抗攻击、后门攻击、模型窃取攻击及能耗-延迟攻击，同时涉及混淆、TEE与水印防御措施。
# 移动端设备端AI安全资源精选
<p align="center">
<img src="https://img.shields.io/badge/Companion%20Resource%20for-SoK%20on%20MoAI%20Security-2563EB?style=for-the-badge" height="28" align="absmiddle" />
</p>
<h2 align="center">SoK：移动设备端AI系统的攻防全景</h3>
移动设备端AI系统通过 **LiteRT/TFLite**、**Core ML**、**ExecuTorch**、**ONNX** 等机器学习框架以及硬件加速器在本地执行AI模型。本仓库追踪理解和保护此类系统所需的安全研究，因为设备端模型的本地存储引入了新的安全风险。
## 移动设备端AI系统概览
<p align="center">
<img src="https://assets.kitploit.com/production/public/readmes/714/ea9f0160c308b88a130c48a071c544d1c0765d4d221298b41899c35755abac69.jpg" alt="移动设备端AI系统概览">
</p>
## 目录
- [阅读路线图](#reading-roadmap)
- [分类体系速览](#taxonomy-at-a-glance)
- [跨支柱安全分析](#cross-pillar-security-analysis)
- [针对MoAI系统的攻击](#attacks-on-moai-systems)
- [对抗性攻击](#adversarial-attacks)
- [模型相似性利用](#model-similarity-exploitation)
- [梯度重建](#gradient-reconstruction)
- [预处理操纵](#preprocessing-manipulation)
- [后门攻击](#backdoor-attacks)
- [载荷注入](#payload-injection)
- [模型量化](#model-quantization)
- [图像隐写](#image-steganography)
- [对抗性权重攻击](#adversarial-weight-attacks)
- [模型窃取攻击](#model-stealing-attacks)
- [静态分析](#static-analysis)
- [动态分析](#dynamic-analysis)
- [侧信道](#side-channel)
- [能耗-延迟攻击](#energy-latency-attacks)
- [针对MoAI系统的防御](#defenses-for-moai-systems)
- [模型混淆](#model-obfuscation)
- [软件级隐藏](#software-level-concealment)
- [硬件级隐藏](#hardware-level-concealment)
- [模型授权](#model-authorization)
- [可信执行环境](#trusted-execution-environments)
- [整体式执行](#monolithic-execution)
- [分区执行](#partitioned-execution)
- [混淆卸载](#obfuscated-offloading)
- [模型水印](#model-watermarking)
- [开放问题](#open-problems)
- [新兴方向](#emerging-directions)
## 阅读路线图
MoAI安全新手？从这里开始：
1. **了解生态系统。** 阅读关于Android/iOS应用中深度学习应用和设备端模型的实证研究。
2. **学习核心风险。** 研究模型提取和模型保护相关论文，因为本地模型驻留是MoAI系统安全转变的核心。
3. **理解攻击面。** 研究MoAI攻击如何跨越输入接口、模型工件、运行时执行和硬件支持环境产生。
4. **将防御与攻击面关联。** 考察MoAI防御如何在部署前、运行时执行和部署后阶段保护这些攻击面。
5. **展望未来。** 探索设备端训练、设备端生成式AI和智能体MoAI系统中的新安全挑战。
<img src="https://img.shields.io/badge/-A%20minimal%20first--week%20reading%20path%20for%20newcomers%20to%20MOAI%20security-2563EB?style=for-the-badge" height="28" align="absmiddle" alt="面向MOAI安全新手的极简首周阅读路径。" />
<img src="https://img.shields.io/badge/Ecosystem-4C78A8?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Android-6B7280?style=flat" height="18" align="absmiddle" /> [智能手机上深度学习应用的初步审视](https://arxiv.org/pdf/1812.05448)
• <img src="https://img.shields.io/badge/iOS-6B7280?style=flat" height="18" align="absmiddle" /> [iOS应用中设备端模型的初步审视](https://arxiv.org/pdf/2307.12328)
<img src="https://img.shields.io/badge/Core%20Risk-D97706?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Stealing-9A3412?style=flat" height="18" align="absmiddle" /> [注意你的权重：移动应用中ML模型保护不足的大规模研究](https://www.usenix.org/conference/usenixsecurity21/presentation/sun-zhichuang)
<img src="https://img.shields.io/badge/Attack%20Surfaces-7F1D1D?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Adversarial-B91C1C?style=flat" height="18" align="absmiddle" /> [设备端模型的鲁棒性：针对Android应用深度学习模型的对抗性攻击](https://arxiv.org/pdf/2101.04401)
• <img src="https://img.shields.io/badge/Backdoor-BE123C?style=flat" height="18" align="absmiddle" /> [DeepPayload：通过神经载荷注入对深度学习模型的黑盒后门攻击](https://dl.acm.org/doi/10.1109/ICSE43902.2021.00035)
• <img src="https://img.shields.io/badge/Weight-9F1239?style=flat" height="18" align="absmiddle" /> [Typhon Unleashed：针对设备端深度学习模型的实用对抗性权重攻击](https://ieeexplore.ieee.org/document/11407485)
• <img src="https://img.shields.io/badge/Latency-92400E?style=flat" height="18" align="absmiddle" /> [通过海绵投毒对设备端神经网络的能耗-延迟攻击](https://arxiv.org/pdf/2305.03888)
<img src="https://img.shields.io/badge/Defenses-166534?style=flat" height="22" align="absmiddle" /><br>
• <img src="https://img.shields.io/badge/Obfuscation-047857?style=flat" height="18" align="absmiddle" /> [ModelObfuscator：混淆模型信息以保护已部署的基于ML的系统](https://arxiv.org/pdf/2306.06112)
• <img src="https://img.shields.io/badge/TEE-0F766E?style=flat" height="18" align="absmiddle" /> [ShadowNet：安全高效的设备端模型推理系统](https://arxiv.org/abs/2011.05905)
• <img src="https://img.shields.io/badge/Watermarking-0E7490?style=flat" height="18" align="absmiddle" /> [THEMIS：面向部署后设备端DL模型的实际IP保护](https://www.usenix.org/conference/usenixsecurity25/presentation/huang-yujin)
## 分类体系速览
| MoAI安全支柱 | 保护对象 | 代表性攻击 | 代表性防御 |
|---|---|---|---|
| **用户主导的输入完整性** | 用户输入的端到端完整性，从移动数据采集到模型输入交接 | 对抗性攻击、后门攻击、能耗-延迟攻击 | - |
| **设备驻留模型安全** | 已部署的模型工件以及模型在设备上存储、加载、转换或物化的所有部署后形态 | 对抗性攻击、后门攻击、对抗性权重攻击、模型窃取攻击、能耗-延迟攻击 | 模型混淆、模型授权、TEE、模型水印 |
| **设备原生环境隔离** | 跨移动操作系统、AI运行时、内存子系统和硬件支持执行环境的敏感推理计算和运行时状态 | 模型窃取攻击、能耗-延迟攻击 | 模型混淆、TEE |
## 跨支柱安全分析
<p align="center">
<img src="https://raw.githubusercontent.com/jinxhy/awesome-moai-security/main/figures/attack-pillar.jpg" alt="MoAI系统中攻击和开放问题的跨支柱安全分析。">
<img src="https://raw.githubusercontent.com/jinxhy/awesome-moai-security/main/figures/defense-pillar.jpg" alt="MoAI系统中防御和开放问题的跨支柱安全分析。">
</p>
## 针对MoAI系统的攻击
<a id="adversarial-attacks"></a>
<img src="https://img.shields.io/badge/Adversarial%20Attacks-B91C1C?style=flat" height="24" align="absmiddle" />
#### 模型相似性利用
- [**设备端模型的鲁棒性：针对Android应用深度学习模型的对抗性攻击**](https://dl.acm.org/doi/10.1109/ICSE-SEIP52600.2021.00019) [[代码](https://github.com/Jinxhy/AppAIsecurity)]
<sub>IEEE/ACM软件工程国际会议：软件工程实践（ICSE-SEIP 2021）</sub>
- [**智能应用攻击：入侵Android应用中的深度学习模型**](https://dl.acm.org/doi/10.1109/TIFS.2022.3172213) [[代码](https://github.com/Jinxhy/SmartAppAttack)]
<sub>IEEE信息取证与安全汇刊（TIFS 2022）</sub>
- [**理解Android应用中深度学习模型的现实威胁**](https://dl.acm.org/doi/10.1145/3548606.3559388) [[代码](https://github.com/Advdroid/advdroid-pro)]
<sub>ACM SIGSAC计算机与通信安全会议（CCS 2022）</sub>
- [**欺骗你的应用：针对深度学习应用的黑盒对抗性攻击**](https://onlinelibrary.wiley.com/doi/10.1002/smr.2528)
<sub>软件：演化与过程杂志（JSEP 2024）</sub>
- [**iOS应用中设备端模型的初步审视**](https://dl.acm.org/doi/10.1145/3617177) [[代码](https://github.com/huhanGitHub/iOS-App-database)]
<sub>ACM软件工程与方法论汇刊（TOSEM 2024）</sub>
#### 梯度重建
- [**设备端模型白盒攻击研究**](https://arxiv.org/abs/2402.05493) [[代码](https://github.com/zhoumingyi/REOM)]
<sub>IEEE/ACM软件工程国际会议（ICSE 2024）</sub>
- [**TIM：实现应用内深度学习模型的大规模白盒测试**](https://doi.org/10.1109/TIFS.2024.3455761) [[代码](https://zenodo.org/record/7548141)]
<sub>IEEE信息取证与安全汇刊（TIFS 2024）</sub>
#### 预处理操纵
- [**超越模型：针对Android应用深度学习模型的数据预处理攻击**](https://dl.acm.org/doi/10.1145/3591197.3591308) [[代码](https://github.com/Alexender-Ye/attack-focused-on-pre-processing)]
<sub>安全可信深度学习系统研讨会（SecTL 2023）</sub>
<a id="backdoor-attacks"></a>
<img src="https://img.shields.io/badge/Backdoor%20Attacks-BE123C?style=flat" height="24" align="absmiddle" />
#### 载荷注入
- [**DeepPayload：通过神经载荷注入对深度学习模型的黑盒后门攻击**](https://dl.acm.org/doi/10.1109/ICSE43902.2021.00035) [[代码](https://github.com/yuanchun-li/DeepPayload)]
<sub>IEEE/ACM软件工程国际会议（ICSE 2021）</sub>
- [**MalModel：通过黑盒后门攻击在移动深度学习模型中隐藏恶意载荷**](https://link.springer.com/article/10.1007/s10515-025-00569-7) [[代码](https://github.com/hjygh/MalModel)]
<sub>自动化软件工程（ASEJ 2026）</sub>
#### 模型量化
- [**针对深度学习商业框架的量化后门**](https://arxiv.org/abs/2108.09187) [[代码](https://github.com/quantization-backdoor/quantization-backdoor)]
<sub>IEEE可靠与安全计算汇刊（TDSC 2024）</sub>
#### 图像隐写
- [**针对Android应用中真实世界模型的隐蔽后门攻击**](https://arxiv.org/abs/2501.01263)
<sub>arXiv预印本（arXiv 2025）</sub>
<a id="adversarial-weight-attacks"></a>
<img src="https://img.shields.io/badge/Adversarial%20Weight%20Attacks-9F1239?style=flat" height="24" align="absmiddle" />
- [**Typhon Unleashed：针对设备端深度学习模型的实用对抗性权重攻击**](https://ieeexplore.ieee.org/document/11407485)
<sub>IEEE可靠与安全计算汇刊（TDSC 2026）</sub>
<a id="model-stealing-attacks"></a>
<img src="https://img.shields.io/badge/Model%20Stealing%20Attacks-9A3412?style=flat" height="24" align="absmiddle" />
#### 静态分析
- [**智能手机上深度学习应用的初步审视**](https://arxiv.org/pdf/1812.05448) [[代码](https://github.com/xumengwei/MobileDL)]<br>
<sub>万维网会议（WWW 2019）</sub>
- [**iOS应用中设备端模型的初步审视**](https://arxiv.org/pdf/2307.12328) [[代码](https://github.com/huhanGitHub/iOS-App-database)]<br>
<sub>ACM软件工程与方法论汇刊（TOSEM 2023）</sub>
- [**注意你的权重：移动应用中机器学习模型保护不足的大规模研究**](https://www.usenix.org/conference/usenixsecurity21/presentation/sun-zhichuang) [[代码](https://github.com/RiS3-Lab/ModelXRay)]<br>
<sub>USENIX安全研讨会（USENIX Security 2021）</sub>
- [**REDLC：面向深度学习编译器的学习驱动逆向工程**](https://doi.org/10.1109/ISSRE62328.2024.00029)<br>
<sub>IEEE软件可靠性工程国际研讨会（ISSRE 2024）</sub>
#### 动态分析
- [**注意你的权重：移动应用中机器学习模型保护不足的大规模研究**](https://www.usenix.org/conference/usenixsecurity21/presentation/sun-zhichuang) [[代码](https://github.com/RiS3-Lab/ModelXRay)]<br>
<sub>USENIX安全研讨会（USENIX Security 2021）</sub>
- [**理解Android应用中深度学习模型的现实威胁**](https://dl.acm.org/doi/10.1145/3548606.3559388) [[代码](https://github.com/Advdroid/advdroid-pro)]<br>
<sub>ACM SIGSAC计算机与通信安全会议（CCS 2022）</sub>
- [**DeMistify：识别移动应用中设备端机器学习模型窃取和重用漏洞**](https://dl.acm.org/doi/10.1145/3597503.3623325) [[代码](https://github.com/MGYN/DeMistify)]<br>
<sub>IEEE/ACM软件工程国际会议（ICSE 2024）</sub>
- [**箭之战：论设备端TEE防护LLM分区算法权重混淆的（不）安全性**](https://www.usenix.org/conference/usenixsecurity25/presentation/wang-pengli) [[代码](https://github.com/qsxltss/Game-of-Arrows)]<br>
<sub>USENIX安全研讨会（USENIX Security 2025）</sub>
#### 侧信道
- [**基于功耗侧信道的设备端深度学习模型提取攻击**](https://doi.org/10.1109/ISQED60706.2024.10528716)
<sub>IEEE国际质量电子设计研讨会（ISQED 2024）</sub>
- [**DeepCache：重新审视深度神经网络可执行文件中的缓存侧信道攻击**](https://dl.acm.org/doi/10.1145/3658644.3690239)
<sub>ACM SIGSAC计算机与通信安全会议（CCS 2024）</sub>
<a id="energy-latency-attacks"></a>
<img src="https://img.shields.io/badge/Energy--latency%20Attacks-92400E?style=flat" height="24" align="absmiddle" />
- [**通过海绵投毒对设备端神经网络的能耗-延迟攻击**](https://dl.acm.org/doi/10.1145/3591197.3591307)
<sub>安全可信深度学习系统研讨会（SecTL 2023）</sub>
## 针对MoAI系统的防御
<a id="model-obfuscation"></a>
<img src="https://img.shields.io/badge/Model%20Obfuscation-047857?style=flat" height="24" align="absmiddle" />
#### 软件级隐藏
- [**ModelObfuscator：混淆模型信息以保护已部署的基于ML的系统**](https://dl.acm.org/doi/10.1145/3597926.3598113) [[代码](https://github.com/zhoumingyi/ModelObfuscator)]<br>
<sub>ACM SIGSOFT软件测试与分析国际研讨会（ISSTA 2023）</sub>
- [**DynaMO：通过耦合混淆DL算子保护移动DL模型**](https://dl.acm.org/doi/10.1145/3691620.3694998) [[代码](https://github.com/zhoumingyi/DynaMO)]<br>
<sub>IEEE/ACM自动化软件工程国际会议（ASE 2024）</sub>
- [**无模型即最佳模型：生成纯代码实现以替代设备端DL模型**](https://dl.acm.org/doi/10.1145/3650212.3652119) [[代码](https://github.com/zhoumingyi/CustomDLCoder)]<br>
<sub>ACM SIGSOFT软件测试与分析国际研讨会（ISSTA 2024）</sub>
#### 硬件级隐藏
- [**NNSplitter：通过自动化权重混淆实现DNN模型的主动防御方案**](https://proceedings.mlr.press/v202/zhou23h.html) [[代码](https://github.com/Tongzhou0101/NNSplitter)]<br>
<sub>国际机器学习会议（ICML 2023）</sub>
- [**一种基于多数逻辑的新型混淆方法，用于防止对二进制深度神经网络的未授权访问**](https://www.nature.com/articles/s41598-025-09722-4)<br>
<sub>科学报告（Sci. Rep. 2025）</sub>
- [**通过硬件绑定和可逆混淆保护设备端Transformer**](https://ieeexplore.ieee.org/document/11391918) [[代码](https://github.com/sarendis56/PUF-Transformer-IP-Protection)]<br>
<sub>年度计算机安全应用会议（ACSAC 2025）</sub>
<a id="model-authorization"></a>
<img src="https://img.shields.io/badge/Model%20Authorization-0A7763?style=flat" height="24" align="absmiddle" />
- [**MMGuard：自动保护Android应用中的设备端深度学习模型**](https://ieeexplore.ieee.org/document/9474328) [[代码](https://github.com/MMGuard123/MMGuard)]<br>
<sub>IEEE安全与隐私研讨会（SPW 2021）</sub>
- [**通过硬件绑定和可逆混淆保护设备端Transformer**](https://ieeexplore.ieee.org/document/11391918) [[代码](https://github.com/sarendis56/PUF-Transformer-IP-Protection)]<br>
<sub>年度计算机安全应用会议（ACSAC 2025）</sub>
<a id="trusted-execution-environments"></a>
<img src="https://img.shields.io/badge/Trusted%20Execution%20Environments-0F766E?style=flat" height="24" align="absmiddle" />
#### 整体式执行
- [**Offline Model Guard：移动设备上的安全私有ML**](https://arxiv.org/abs/2007.02351)<br>
<sub>欧洲设计、自动化与测试会议（DATE 2020）</sub>
- [**GuardiaNN：利用嵌入式SRAM和密码硬件在TrustZone中实现快速安全的设备端推理**](https://dl.acm.org/doi/10.1145/3528535.3531513)<br>
<sub>ACM/IFIP国际中间件会议（Middleware 2022）</sub>
- [**使用可信执行环境实现安全高效的移动DNN**](https://dl.acm.org/doi/10.1145/3579856.3582820)<br>
<sub>ACM亚洲计算机与通信安全会议（AsiaCCS 2023）</sub>
- [**T-Slices：使用Arm TrustZone在不可信边缘实现深度学习推理的机密执行**](https://dl.acm.org/doi/10.1145/3577923.3583648)<br>
<sub>ACM数据与应用安全与隐私会议（CODASPY 2023）</sub>
- [**LEAP：面向智能移动应用的基于TrustZone的开发者友好型TEE**](https://dl.acm.org/doi/10.1109/TMC.2022.3207745)<br>
<sub>IEEE移动计算汇刊（TMC 2022）</sub>
- [**ASGARD：使用基于虚拟化的可信执行环境保护设备端深度神经网络**](https://www.ndss-symposium.org/ndss-paper/asgard-protecting-on-device-deep-neural-networks-with-virtualization-based-trusted-execution-environments/) [[代码](https://github.com/yonsei-sslab/asgard)]<br>
<sub>网络与分布式系统安全研讨会（NDSS 2025）</sub>
- [**TZ-LLM：使用Arm TrustZone保护设备端大语言模型**](https://arxiv.org/abs/2511.13717) [[代码](https://zenodo.org/records/17054270)]<br>
<sub>欧洲计算机系统会议（EuroSys 2026）</sub>
- [**FlexServe：面向移动设备的快速安全LLM服务系统，支持灵活资源隔离**](https://arxiv.org/abs/2603.09046)<br>
<sub>arXiv预印本（arXiv 2026）</sub>
#### 分区执行
- [**DarkneTZ：使用可信执行环境实现边缘模型隐私**](https://arxiv.org/abs/2004.05703) [[代码](https://github.com/mofanv/darknetz)]<br>
<sub>年度国际移动系统、应用与服务会议（MobiSys 2020）</sub>
- [**HybridTEE：使用混合可信执行环境实现安全移动DNN执行**](https://par.nsf.gov/servlets/purl/10217344) [[代码](https://github.com/hwsel/HybridTEE)]<br>
<sub>亚洲硬件导向安全与信任研讨会（AsianHOST 2020）</sub>- [**SecDeep：面向移动与物联网设备的安全高性能端侧深度学习推理框架**](https://dl.acm.org/doi/10.1145/3450268.3453524)<br>
<sub>物联网设计与实现国际会议（IoTDI 2021）</sub>
- [**ShadowNet：面向卷积神经网络的安全高效端侧模型推理系统**](https://ieeexplore.ieee.org/document/10179382) [[代码](https://github.com/RiS3-Lab/ShadowNet)]<br>
<sub>IEEE安全与隐私研讨会（S&P 2023）</sub>
- [**MirrorNet：面向安全端侧DNN推理的TEE友好框架**](https://arxiv.org/abs/2311.09489)<br>
<sub>IEEE/ACM国际计算机辅助设计会议（ICCAD 2023）</sub>
- [**TSQP：保障边缘设备上量化神经网络实时推理的安全**](https://ieeexplore.ieee.org/document/11023493) [[代码](https://github.com/D1aoBoomm/TSQP)]<br>
<sub>IEEE安全与隐私研讨会（S&P 2025）</sub>
- [**TEESlice：在攻击者拥有预训练模型时于可信执行环境中保护敏感神经网络模型**](https://dl.acm.org/doi/10.1145/3707453)<br>
<sub>ACM软件工程与方法论汇刊（TOSEM 2025）</sub>
- [**TensorShield：通过TEE屏蔽关键DNN张量以保障端侧推理安全**](https://arxiv.org/abs/2505.22735) [[代码](https://github.com/suntong30/TensorShield)]<br>
<sub>ACM SIGSAC计算机与通信安全会议（CCS 2025）</sub>
#### 混淆卸载
- [**GroupCover：基于TEE的端侧模型保护安全、高效且可扩展的推理框架**](https://proceedings.mlr.press/v235/zhang24bn.html) [[代码](https://github.com/ZzzzMe/GroupCover)]<br>
<sub>国际机器学习会议（ICML 2024）</sub>
- [**箭之博弈：论端侧TEE屏蔽LLM分区算法中权重混淆的（不）安全性**](https://www.usenix.org/conference/usenixsecurity25/presentation/wang-pengli) [[代码](https://github.com/qsxltss/Game-of-Arrows)]<br>
<sub>USENIX安全研讨会（USENIX Security 2025）</sub>
- [**MirageNet：异构TEE与GPU系统中的安全、高效且可扩展的端侧模型保护**](https://arxiv.org/abs/2601.13826)<br>
<sub>arXiv预印本（arXiv 2026）</sub>
<a id="model-watermarking"></a>
<img src="https://img.shields.io/badge/Model%20Watermarking-0E7490?style=flat" height="24" align="absmiddle" />
- [**THEMIS：面向部署后端侧深度学习模型的实际知识产权保护**](https://www.usenix.org/conference/usenixsecurity25/presentation/huang-yujin) [[代码](https://github.com/Jinxhy/THEMIS)]<br>
<sub>USENIX安全研讨会（USENIX Security 2025）</sub>
## 开放问题
以下开放问题总结了我们在SoK中识别出的主要研究空白。我们在此为使用本仓库的读者提供高层级描述。更深入的技术讨论可在论文中找到。
<img src="https://img.shields.io/badge/ATTACK%20OPS%20%E2%80%94%20FROM%20MODEL%20ACCESS%20TO%20DEPLOYABLE%20ATTACKS-7F1D1D?style=for-the-badge" height="28" align="absmiddle" />
1. **攻击部署的实用性。**
针对端侧模型的对抗性攻击在部署后仍难以实现，因为它们通常需要控制模型输入、插入对抗性扰动，或通过应用重打包来修改预处理代码。这些步骤在真实终端用户部署中可能不切实际或容易被检测。
2. **隐蔽的模型修改。**
由于端侧模型通常是只读且仅用于推理的，后门攻击需要在标准训练时投毒之外寻找部署后的入口点。关键挑战在于引入隐藏的恶意行为而不在模型工件中产生可观察的变化。
3. **精确的权重定位。**
对抗性权重攻击暴露了参数级完整性风险，但实际部署取决于在庞大的参数搜索空间中定位行为关键权重。这很困难，因为攻击者通常缺乏梯度指导，并且需要在仅修改选定参数的同时保持良性效用。
4. **可靠的模型提取。**
本地模型存储并不会使模型窃取变得简单。在存在定制加密算法、非标准AI框架和运行时特定加载行为的情况下，实际提取仍依赖于可靠的模型识别、解密和重建。
5. **硬件异构性。**
能量-延迟攻击取决于中毒激活模式如何与设备特定的执行行为交互。它们可能在稀疏性敏感的加速器上放大延迟和能耗，但在没有稀疏性依赖执行的硬件上则无法迁移。
<img src="https://img.shields.io/badge/DEFENSE%20OPS%20%E2%80%94%20FROM%20PROTECTION%20MECHANISMS%20TO%20POST--RELEASE%20GUARANTEES-166534?style=for-the-badge" height="28" align="absmiddle" />
6. **可执行等价性。**
模型混淆仍需在授权推理期间保持原始预测函数。这种可执行等价性可能暴露可恢复的运行时状态、变换后的权重、算子语义或结构轨迹，从而促成语义、结构或参数恢复。
7. **客户端强制执行。**
模型授权将正确推理绑定到凭据、完整性检查和打包权重恢复。然而，这些检查需要在移动端栈内执行，使得强制执行依赖于部署后可被逆向工程、重打包、挂钩或插桩的客户端代码。
8. **TEE部署可行性。**
TEE防御需要模型格式、AI框架、算子库、委托、加速器以及CPU/GPU/NPU隔离接口之间的协调支持。当前移动生态系统仍缺乏广泛采用、对开发者透明的TEE后端侧推理栈。
9. **水印鲁棒性。**
模型水印支持部署后的所有权验证，但被窃取的模型可能通过框架转换、加密或应用级输入输出中介被重新部署。这些变换可能在保持良性推理的同时破坏用于验证的触发响应、置信度模式或输出语义。
## 新兴方向
除了上述九个开放问题之外，我们的SoK还强调了三个新兴方向，MoAI安全很可能在这些方向上进一步扩展。这些方向将MoAI安全研究引向系统性评估，同时将其范围扩展到端侧训练和智能体MoAI系统引入的新兴攻击面。我们在此进行高层级总结。配套论文提供了更详细的动机、威胁面和研究挑战。
<img src="https://img.shields.io/badge/Unified%20MoAI%20Security%20Benchmarking-7E22CE?style=for-the-badge" height="28" align="absmiddle" />
现有的MoAI安全研究使用自收集数据集、方法特定指标和不同威胁模型来评估攻击与防御，且通常局限于单一平台（Android或iOS）。这使得评估结果难以比较，并忽视了平台特定差异。未来工作应建立统一基准，标准化数据集、指标和威胁模型，并支持跨平台评估，以实现对MoAI安全的系统性、可比性和可复现性评估。
<img src="https://img.shields.io/badge/On--device%20Training%20Security-5B21B6?style=for-the-badge" height="28" align="absmiddle" />
当前MoAI安全研究主要关注只读且仅用于推理的已部署模型。端侧训练改变了这一假设，允许模型在本地更新，从而在训练过程中暴露梯度、参数更新和用户数据。这为本地微调、更新完整性、训练数据暴露、个性化投毒以及终端用户设备上训练时状态的防御开辟了新的问题。
<img src="https://img.shields.io/badge/Agentic%20MoAI%20Governance-A21CAF?style=for-the-badge" height="28" align="absmiddle" />
MoAI系统正从被动本地推理演变为将模型与传感器、私有用户数据、应用上下文、操作系统服务和跨应用接口相连接的智能体工作流。这将安全焦点从仅保护模型工件转向治理上下文到行动的链条。未来工作应研究移动上下文的溯源、可信用户意图与不可信环境内容的分离、工具和API使用的任务范围权限、敏感操作的确认与回滚，以及智能体计划、记忆和行动的审计。