Anamorpher
Anamorpher（anamorphosis に由来）は、マルチモーダルAIシステムに対する画像スケーリング攻撃を作成・可視化するためのツールです。フロントエンドインターフェースとPython APIを提供し、ダウンスケール時にのみマルチモーダルプロンプトインジェクションを明らかにする画像を生成します。この攻撃ベクトルの詳細については、「Weaponizing image scaling against production AI systems」 を参照してください。
Anamorpher は活発なベータ開発中です。フィードバックやコントリビューションを歓迎します！
機能
- Bicubic、Bilinear、Nearest Neighbor のダウンスケーリングアルゴリズムの特定の実装を使用するシステム向けのペイロードを生成
- OpenCV、PyTorch、TensorFlow、Pillow の実装を含むフロントエンドインターフェースを通じてペイロードの効果を比較
- Python API のモジュール設計を利用して、独自のカスタム画像ダウンスケーリング実装を組み込む
 |  |
| フロントエンドデモ | Gemini CLI 攻撃デモ |
要件
- Python 3.11+
- uv（推奨）または pip
セットアップ
- 依存関係をインストール：
- バックエンドを起動：
uv run python backend/app.py
- ウェブブラウザで
frontend/index.html を開く
Windows: TensorFlow の依存関係のため、WSL2 を使用してください。
警告と既知の制限
- これらのシステムは確率的な性質を持つため、結果は変動する可能性があります。一貫した評価のために、各サンプルを5回実行してください。
- 追加の画像変換は、インジェクションの有効性を妨げる可能性があります。
- Bicubic および Bilinear ダウンスケーリングアルゴリズムの実装間では、アンチエイリアシングの頑健性の違い、スケーリングライブラリのデフォルトパラメータの違い、および補間動作に影響を与える実装固有の最適化により、すべてのペイロードがすべての実装およびパラメータセットに対して有効であるとは限りません。
- これは、より広範な本番AIシステムにも当てはまります。システムのスケーリング動作は変更される可能性があるためです。
メンテナー
参考資料
