jinxhy/awesome-moai-securityモバイルオンデバイスAIシステムの攻撃と防御研究に関する厳選された読書リストと分類法。敵対的攻撃、バックドア攻撃、モデル窃取攻撃、エネルギー遅延攻撃とともに、難読化、TEE、ウォーターマーキング防御を網羅しています。
モバイルオンデバイスAIシステムは、LiteRT/TFLite、Core ML、ExecuTorch、ONNXなどのMLフレームワークとハードウェアバックアップアクセラレータを通じて、AIモデルをローカルで実行します。このリポジトリは、オンデバイスモデルのローカル保存が新たなセキュリティリスクをもたらすため、そのようなシステムを理解し保護するために必要なセキュリティ研究を追跡します。
MoAIセキュリティに初めて触れる方は、ここから始めてください:
• 
• 
• 
• 
• 
• 
• 
• 
• 
• 
| MoAIセキュリティの柱 | 保護対象 | 代表的な攻撃 | 代表的な防御 |
|---|---|---|---|
| ユーザー管理の入力整合性 | モバイルデータ取得からモデル入力への受け渡しまでの、ユーザー入力のエンドツーエンドの整合性 | 敵対的攻撃、バックドア攻撃、エネルギー・レイテンシ攻撃 | - |
| デバイス常駐モデルのセキュリティ | 展開されたモデルアーティファクトと、モデルがデバイス上で保存、読み込み、変換、または実体化されるすべての展開後形態 | 敵対的攻撃、バックドア攻撃、敵対的ウェイト攻撃、モデル窃取攻撃、エネルギー・レイテンシ攻撃 | モデル難読化、モデル認可、TEE、モデル透かし |
| デバイスネイティブ環境の封じ込め | モバイルOS、AIランタイム、メモリサブシステム、ハードウェアバックアップ実行環境にわたる機密推論計算とランタイム状態 | モデル窃取攻撃、エネルギー・レイテンシ攻撃 | モデル難読化、TEE |
オンデバイスモデルの堅牢性: Androidアプリ上のディープラーニングモデルへの敵対的攻撃 [コード]
IEEE/ACM 国際ソフトウェア工学会議: ソフトウェアエンジニアリング実践 (ICSE-SEIP 2021)
Smart App Attack: Androidアプリのディープラーニングモデルをハッキングする [コード]
IEEE 情報フォレンジクスとセキュリティに関するトランザクション (TIFS 2022)
Androidアプリにおけるディープラーニングモデルへの現実世界の脅威を理解する [コード]
ACM SIGSAC コンピュータおよび通信セキュリティ会議 (CCS 2022)
アプリを騙す: ディープラーニングアプリへのブラックボックス敵対的攻撃
Journal of Software: Evolution and Process (JSEP 2024)
iOSアプリにおけるオンデバイスモデルの初期的調査 [コード]
ACM ソフトウェア工学と方法論に関するトランザクション (TOSEM 2024)
オンデバイスモデルに対するホワイトボックス攻撃の調査 [コード]
IEEE/ACM 国際ソフトウェア工学会議 (ICSE 2024)
TIM: アプリ内ディープラーニングモデルに対する大規模ホワイトボックステストを可能にする [コード]
IEEE 情報フォレンジクスとセキュリティに関するトランザクション (TIFS 2024)
