아나모퍼
아나모퍼(아나모포시스에서 따온 이름)는 다중 모달 AI 시스템에 대한 이미지 스케일링 공격을 제작하고 시각화하는 도구입니다. 다운스케일될 때만 다중 모달 프롬프트 인젝션을 드러내는 이미지를 생성하기 위한 프론트엔드 인터페이스와 Python API를 제공합니다. 이 공격 벡터에 대한 자세한 내용은 "Weaponizing image scaling against production AI systems"를 참조하세요.
아나모퍼는 활성 베타 개발 중입니다. 피드백과 기여를 환영합니다!
특징
- 바이큐빅, 바이리니어, 최근접 이웃 다운스케일링 알고리즘의 선택된 구현을 사용하는 시스템에 대한 페이로드 생성
- OpenCV, PyTorch, TensorFlow 및 Pillow의 구현을 포함하는 프론트엔드 인터페이스를 통해 페이로드 효과 비교
- Python API의 모듈식 설계를 사용하여 자체 커스텀 이미지 다운스케일링 구현 포함
 |  |
| 프론트엔드 데모 | Gemini CLI 공격 데모 |
요구 사항
- Python 3.11+
- uv (권장) 또는 pip
설정
- 종속성 설치:
- 백엔드 실행:
uv run python backend/app.py
- 웹 브라우저에서
frontend/index.html 열기
Windows: TensorFlow 종속성 때문에 WSL2를 사용하세요.
경고 및 알려진 제한 사항
- 이러한 시스템의 확률적 특성으로 인해 결과가 다를 수 있습니다. 일관된 평가를 위해 각 예제를 5번 실행하세요.
- 추가 이미지 변환은 인젝션의 효과를 방해할 수 있습니다.
- 바이큐빅 및 바이리니어 다운스케일링 알고리즘의 각 구현 및 매개변수 세트에 대해 모든 페이로드가 작동하는 것은 아닙니다. 이는 구현 간 안티앨리어싱의 다양한 견고성, 스케일링 라이브러리의 다양한 기본 매개변수, 보간 동작에 영향을 미치는 구현별 최적화 때문입니다.
- 이는 생산 AI 시스템에도 더 광범위하게 적용됩니다. 시스템 스케일링 동작은 변경될 수 있습니다.
Maintainers
참고 자료
trailofbits/anamorpher
