Skip to content
KitploitKITPLOIT
ИнструментыЭксплойтыБлог
Log in
Отправить
ИнструментыЭксплойтыБлог
Отправить

Инструменты для хакинга, пентеста и кибербезопасности — ваш арсенал защиты!

Kitploit — это каталог инструментов для хакинга, кибербезопасности и пентестинга. Находите последние обновления проектов для поиска уязвимостей, анализа систем, автоматизации тестирования и усиления вашей безопасности.

ЛентыКонтактыКонфиденциальность© 2026 Kitploit

Каталог инструментов

Категории

Все категории
Loading categories
DetectViT — Детектор для тестирования без обучения, не зависящий от триггера, для Vision Transformers с бэкдором, который выявляет отравленные образцы с помощью согласованности внимания между головами и дисперсии энтропии. | Kitploit
Инструменты/GitHubGitHub/siquanhuang/detectvit
Оборонительные ИнструментыМашинное ОбучениеСтатьи и ИсследованияБезопасность ИИОбнаружение Аномалий
GitHubsiquanhuang/detectvit

DetectViT

Детектор для тестирования без обучения, не зависящий от триггера, для Vision Transformers с бэкдором, который выявляет отравленные образцы с помощью согласованности внимания между головами и дисперсии энтропии.

Репозиторий
192 дней назадЕщё не проверено
Поделиться

DetectViT: Обнаружение бэкдоров во время тестирования для Vision Transformers на основе расхождения внимания между головами

Сикуань Хуан1, Ицзян Ли2, Синфу Янь3,*, Нинчжи Гао1, Лэйюй Ши1, Ин Гао1,*

1Южно-Китайский технологический университет   2Калифорнийский университет в Сан-Диего   3Южно-Китайский педагогический университет

*Авторы, ответственные за переписку

NeurIPS 2026 Paper Poster License


Обзор

Vision Transformers (ViT) служат визуальным энкодером большинства мультимодальных моделей, и практики регулярно используют сторонние предобученные контрольные точки, которые могут содержать бэкдор. DetectViT — это детектор бэкдор-образцов для ViT, работающий во время тестирования, который анализирует головы внимания, а не выходы или эмбеддинги модели.

  • Без обучения. Нет доступа к обучающим данным и не требуется обучать вспомогательную модель.
  • Без использования выходов. Работает как для классификации, так и для открытой генерации (например, для подписывания изображений с помощью LLaVA).
  • Независимость от триггера. Предварительные знания о типе триггера не требуются.
  • Лёгкость. Один прямой проход на тестовый образец; обнаружение использует веса внимания, уже вычисленные во время инференса.

Ключевое наблюдение

На чистых изображениях головы внимания фокусируются на разных областях с сопоставимой концентрацией. Бэкдор-триггеры нарушают этот баланс двумя способами:

  • Полный захват внимания. Видимый локализованный триггер стягивает все головы в одну и ту же область, что приводит к аномально высокому пространственному перекрытию между головами.
  • Частичный захват внимания. Скрытый глобальный триггер захватывает головы неравномерно, что приводит к аномально большой дисперсии концентрации внимания между головами.

Внимание CLS-к-патчам для шести голов на чистого изображения, изображения с видимым патч-триггером (полный захват) и изображения со скрытым смешанным триггером (частичный захват)

Метод

Конвейер DetectViT

DetectViT извлекает распределение внимания CLS-к-патчам каждой головы и вычисляет два взаимодополняющих сигнала:

  • Оценка согласованности между головами $\mathcal{S}_{\text{cons}}$: среднее попарное косинусное сходство между головами слоя (максимум по слоям). Она отражает полный захват.
  • Оценка дисперсии энтропии между головами $\mathcal{S}_{\text{var}}$: дисперсия энтропии внимания отдельных голов внутри слоя (максимум по слоям). Она отражает частичный захват.

Пороги оцениваются по правилу трёх сигм, $\tau = \mu + 3\sigma$, всего по 64–128 чистым изображениям из распределения, отличного от обучающего, из любого источника. Тестовый образец помечается как содержащий бэкдор, если $\mathcal{S}{\text{cons}} > \tau{\text{cons}}$ или $\mathcal{S}{\text{var}} > \tau{\text{var}}$.


Основные результаты

Эффективность обнаружения для четырёх бэкдор-атак на ViT. TPR и FPR указаны в %, AUC — в шкале [0, 1]. «–» означает, что метод неприменим (методы на основе меток не справляются со свободными подписями) или не выдаёт непрерывную оценку.

ЗащитаBadViT
TPR↑ / FPR↓ / AUC↑
TrojViT
TPR↑ / FPR↓ / AUC↑
BadCLIP
TPR↑ / FPR↓ / AUC↑
BadVision
TPR↑ / FPR↓ / AUC↑
TeCo77.95 / 61.86 / 0.6355.00 / 51.76 / 0.5199.20 / 39.52 / 0.89–
Scale-Up88.65 / 30.66 / 0.8185.00 / 41.98 / 0.7491.84 / 65.03 / 0.66–
PatchProc90.61 / 18.42 / 0.8987.60 / 21.44 / 0.8586.97 / 26.78 / 0.82–
DeDe63.97 / 23.29 / 0.7850.20 / 25.80 / 0.7255.12 / 27.97 / 0.697.00 / 29.68 / 0.50
BackdoorIDS80.79 / 9.73 / –5.00 / 10.84 / –93.24 / 16.88 / –96.00 / 15.96 / –
DetectViT100.00 / 1.58 / 1.0090.80 / 5.94 / 0.95100.00 / 0.17 / 1.0096.00 / 3.00 / 0.99

Дополнительные атаки. На пяти дополнительных атаках, охватывающих самоконтролируемые энкодеры (BadEncoder, DRUPE), отравление с чистыми метками (Label-Consistent), триггеры в частотной области (Low-Frequency) и оптимизированные глобальные триггеры (Blended-Optimized), DetectViT — единственный метод, который сохраняет AUC не ниже 0.97 на всех из них. Полные результаты приведены в приложении к статье.

Время выполнения. Среднее время обнаружения на один образец (с):

ЗащитаBadViTTrojViTBadCLIPBadVision
TeCo2.50944.29201.8448–
Scale-Up0.02460.02610.0696–
PatchProc0.66860.69260.8257–
DeDe0.02060.02790.10340.6060
BackdoorIDS0.17340.19820.25603.3458
DetectViT0.01240.01340.01630.0226

Постер

DetectViT NeurIPS 2026 poster

Нажмите на изображение, чтобы открыть PDF в полном разрешении.


Установка

git clone https://github.com/siquanhuang/DetectViT.git
cd DetectViT

Предварительные требования

  • Python 3.10.5
  • PyTorch 2.1.2
  • CUDA 11.8

Предобученные модели атак и триггеры

Скачайте предобученные контрольные точки бэкдор-моделей и оптимизированные триггеры с Google Drive:

[Ссылка на Google Drive]


Использование

Метод обнаружения реализован в detectvit.py. Запустите main.py, чтобы оценить DetectViT для каждой атаки.

BadViT

python3 main.py \
  --defense DetectViT \
  --attack_type badvit \
  --trojvit_attack_dir TrojViT/logs/Caltech101_DeiT-T_target0_BadViT \
  --trojvit_network DeiT-T \
  --trojvit_num_classes 102 \
  --trojvit_data_dir ./data

TrojViT

python3 main.py \
  --defense DetectViT \
  --attack_type trojvit \
  --trojvit_attack_dir TrojViT/logs/Tiny-ImageNet_DeiT-S_target2_TrojViT \
  --trojvit_data_dir ./data/tiny-imagenet-200 \
  --trojvit_network DeiT-S \
  --gpu 0

BadCLIP

python3 -u main.py \
  --defense DetectViT \
  --attack_type badclip \
  --gpu 0 \
  --eval_data_type ImageNet1K \
  --eval_test_data_dir BadCLIP/data/ImageNet1K/validation/ \
  --add_backdoor \
  --asr \
  --label banana \
  --patch_type ours_tnature \
  --patch_location middle \
  --patch_name BadCLIP/opti_patches/tnature_eda_bs64_ep50_32_middle_01_05_pos_neg.jpg \
  --patch_size 32

BadVision

python3 -u main.py \
  --defense DetectViT \
  --attack_type badvision \
  --gpu 0

Ключевые аргументы

Скачать инструмент

Популярное

Смотреть все →

Откройте для себя самые используемые инструменты нашего сообщества.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 Полный набор инструментов OSINT: граф расследования, оценка достоверности, семейства псевдонимов, карта, временная шкала и отчёты. 49 модулей, более 400 сайтов, API-ключи не требуются.

    1.1k
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Приложение GhostLock с запуском в один клик (CVE-2026-43499)

    618
  • 3

    looking-glass

    anonghosty/looking-glass

    Платформа CSIRT, которая загружает отчёты Shadowserver в MongoDB и воспроизводит их в виде интерактивных карт, аналитики, результатов, рекомендаций и исполнительных дашбордов.

    411
  • 4

    ARTEX

    baarai/artex

    Платформа автономного тестирования на проникновение на основе мультиагентной LLM с агентами-планировщиками и агентами-исполнителями, графами активов и исследования, записью MITM-трафика и повторной проверкой уязвимостей.

    328
  • 5

    jumpserver

    jumpserver/jumpserver

    JumpServer — это платформа управления привилегированным доступом (PAM) с открытым исходным кодом, которая предоставляет командам DevOps и IT безопасный доступ по требованию к конечным точкам SSH, RDP, Kubernetes, баз данных и RemoteApp через веб-браузер.

    314
  • 6

    Aliens_eye

    arxhr007/aliens_eye

    OSINT-движок на базе ИИ для обнаружения и сопоставления более 7 700 идентификаторов в социальных сетях по всему интернету

    275

Изучить все инструменты

Просмотрите нашу коллекцию инструментов

Смотреть все инструменты →