Skip to content
KitploitKITPLOIT
ИнструментыБлог
Отправить
ИнструментыБлог
Отправить

Инструменты для хакинга, пентеста и кибербезопасности — ваш арсенал защиты!

Kitploit — это каталог инструментов для хакинга, кибербезопасности и пентестинга. Находите последние обновления проектов для поиска уязвимостей, анализа систем, автоматизации тестирования и усиления вашей безопасности.

··Ленты·Контакты·Конфиденциальность·© 2026 Kitploit

Каталог инструментов

Категории

Все категории
Loading categories
anamorpher — атаки масштабирования изображений для многомодальной инъекции промптов | Kitploit
Инструменты/GitHubGitHub/trailofbits/anamorpher
Генерация полезной нагрузкиМашинное ОбучениеБезопасность ИИСостязательная Атака
GitHubtrailofbits/anamorpher

anamorpher

атаки масштабирования изображений для многомодальной инъекции промптов

Репозиторий
1.1k9166 месяцев назадПроверено Kitploit

Популярное

Смотреть все →

Откройте для себя самые используемые инструменты нашего сообщества.

Изучить все инструменты

Просмотрите нашу коллекцию инструментов

Смотреть все инструменты →
Поделиться

Anamorpher

Anamorpher (назван в честь анаморфоза) — это инструмент для создания и визуализации атак с изменением масштаба изображений на мультимодальные AI-системы. Он предоставляет интерфейс фронтенда и Python API для генерации изображений, которые раскрывают мультимодальные инъекции промптов только при уменьшении масштаба. Дополнительную информацию об этом векторе атак см. в статье «Weaponizing image scaling against production AI systems».

Anamorpher находится в активной бета-разработке. Мы рады отзывам и вкладу!

Возможности

  • Генерация полезных нагрузок для систем, использующих отдельные реализации алгоритмов бикубического, билинейного и ближайшего соседа при уменьшении масштаба
  • Сравнение эффективности полезных нагрузок через интерфейс фронтенда, включающий реализации из OpenCV, PyTorch, TensorFlow и Pillow
  • Возможность добавления собственной реализации уменьшения масштаба изображений с помощью модульной конструкции Python API
Сравнение, показывающее скрытый промптДемонстрация атаки в действии
Демонстрация фронтендаДемонстрация атаки Gemini CLI

Требования

  • Python 3.11+
  • uv (рекомендуется) или pip

Установка

  1. Установите зависимости:
root@kitploit:~
uv sync
  1. Запустите бэкенд:
root@kitploit:~
uv run python backend/app.py
  1. Откройте frontend/index.html в веб-браузере

Windows: Используйте WSL2 из-за зависимостей TensorFlow.

Предупреждения и известные ограничения

  • Из-за вероятностной природы этих систем результаты могут различаться. Для последовательной оценки запускайте каждый пример 5 раз.
  • Дополнительные преобразования изображений могут снизить эффективность инъекций.
  • Не все полезные нагрузки будут работать с каждой реализацией и набором параметров алгоритмов бикубического и билинейного уменьшения масштаба из-за различной устойчивости сглаживания в разных реализациях, отличающихся параметров по умолчанию в библиотеках масштабирования и оптимизаций, специфичных для реализации, которые влияют на поведение интерполяции.
  • Это также справедливо для производственных AI-систем в целом, так как поведение масштабирования в системе может изменяться.

Сопровождающие

  • Kikimora Morozova
  • Suha Sabi Hussain

Ссылки

  • Weaponizing image scaling against production AI systems
  • Adversarial Preprocessing: Understanding and Preventing Image-Scaling Attacks in Machine Learning
  • Seeing is Not Believing: Camouflage Attacks on Image Scaling Algorithms
Скачать инструмент