返回更新列表
已更新Jul 21, 2026

Awesome-MoAI-Security — 已更新!

针对移动端设备上AI系统的攻击与防御研究精选阅读清单及分类体系，涵盖对抗攻击、后门攻击、模型窃取攻击及能耗-延迟攻击，同时涉及混淆、TEE与水印防御措施。

分享

移动端设备端AI安全资源精选

SoK：移动设备端AI系统的攻防全景

移动设备端AI系统通过 LiteRT/TFLite、Core ML、ExecuTorch、ONNX 等机器学习框架以及硬件加速器在本地执行AI模型。本仓库追踪理解和保护此类系统所需的安全研究，因为设备端模型的本地存储引入了新的安全风险。

移动设备端AI系统概览

移动设备端AI系统概览

目录

阅读路线图

MoAI安全新手？从这里开始：

  1. 了解生态系统。 阅读关于Android/iOS应用中深度学习应用和设备端模型的实证研究。
  2. 学习核心风险。 研究模型提取和模型保护相关论文，因为本地模型驻留是MoAI系统安全转变的核心。
  3. 理解攻击面。 研究MoAI攻击如何跨越输入接口、模型工件、运行时执行和硬件支持环境产生。
  4. 将防御与攻击面关联。 考察MoAI防御如何在部署前、运行时执行和部署后阶段保护这些攻击面。
  5. 展望未来。 探索设备端训练、设备端生成式AI和智能体MoAI系统中的新安全挑战。
面向MOAI安全新手的极简首周阅读路径。


•  智能手机上深度学习应用的初步审视
•  iOS应用中设备端模型的初步审视


•  注意你的权重：移动应用中ML模型保护不足的大规模研究


•  设备端模型的鲁棒性：针对Android应用深度学习模型的对抗性攻击
•  DeepPayload：通过神经载荷注入对深度学习模型的黑盒后门攻击
•  Typhon Unleashed：针对设备端深度学习模型的实用对抗性权重攻击
•  通过海绵投毒对设备端神经网络的能耗-延迟攻击


•  ModelObfuscator：混淆模型信息以保护已部署的基于ML的系统
•  ShadowNet：安全高效的设备端模型推理系统
•  THEMIS：面向部署后设备端DL模型的实际IP保护

分类体系速览

MoAI安全支柱保护对象代表性攻击代表性防御
用户主导的输入完整性用户输入的端到端完整性，从移动数据采集到模型输入交接对抗性攻击、后门攻击、能耗-延迟攻击-
设备驻留模型安全已部署的模型工件以及模型在设备上存储、加载、转换或物化的所有部署后形态对抗性攻击、后门攻击、对抗性权重攻击、模型窃取攻击、能耗-延迟攻击模型混淆、模型授权、TEE、模型水印
设备原生环境隔离跨移动操作系统、AI运行时、内存子系统和硬件支持执行环境的敏感推理计算和运行时状态模型窃取攻击、能耗-延迟攻击模型混淆、TEE

跨支柱安全分析

MoAI系统中攻击和开放问题的跨支柱安全分析。 MoAI系统中防御和开放问题的跨支柱安全分析。

针对MoAI系统的攻击

模型相似性利用

梯度重建

预处理操纵

载荷注入

模型量化

图像隐写

静态分析

阅读更多

分类

Android安全iOS安全逆向工程隐写术移动安全硬件安全机器学习论文与研究学习与教育精选资源AI 安全对抗性攻击