Anamorpher
Anamorpher（命名于 anamorphosis（错视画））是一款用于制作和可视化针对多模态AI系统的图像缩放攻击的工具。它提供了一个前端界面和Python API，用于生成仅在缩小时才会显示多模态提示注入的图像。有关此攻击向量的更多信息，请参阅 《利用图像缩放攻击生产AI系统》。
Anamorpher处于活跃的beta开发阶段。我们欢迎反馈和贡献！
功能特性
- 为使用双三次、双线性及最近邻下采样算法特定实现的系统生成载荷
- 通过包含OpenCV、PyTorch、TensorFlow和Pillow实现的前端界面比较载荷有效性
- 利用Python API的模块化设计包含您自己的自定义图像下采样实现
 |  |
| 前端演示 | Gemini CLI 攻击演示 |
要求
设置
- 安装依赖：
- 运行后端：
uv run python backend/app.py
- 在网页浏览器中打开
frontend/index.html
Windows：请使用 WSL2，因为TensorFlow依赖。
警告与已知限制
- 由于这些系统的概率性，结果可能会有所不同。为了进行一致评估，请对每个示例运行5次。
- 额外的图像变换可能会干扰注入的有效性。
- 并非所有载荷都能针对双三次和双线性下采样算法的每个实现和参数集生效，这是因为不同实现中抗锯齿的鲁棒性不同、缩放库中的默认参数不同，以及影响插值行为的实现特定优化。
- 这一点在生产AI系统中更为广泛适用，因为系统缩放行为可能会发生变化。
维护者
参考文献
