Skip to content
KitploitKITPLOIT
ИнструментыЭксплойтыБлог
Log in
Отправить
ИнструментыЭксплойтыБлог
Отправить

Инструменты для хакинга, пентеста и кибербезопасности — ваш арсенал защиты!

Kitploit — это каталог инструментов для хакинга, кибербезопасности и пентестинга. Находите последние обновления проектов для поиска уязвимостей, анализа систем, автоматизации тестирования и усиления вашей безопасности.

ЛентыКонтактыКонфиденциальность© 2026 Kitploit

Каталог инструментов

Категории

Все категории
Loading categories
GuardReasoner-VL — [NeurIPS 2025] Официальный исходный код для статьи «GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning». | Kitploit
Инструменты/GitHubGitHub/yueliu1999/guardreasoner-vl
Оборонительные ИнструментыМашинное ОбучениеБезопасность ИИОбнаружение Аномалий
GitHubyueliu1999/guardreasoner-vl

GuardReasoner-VL

[NeurIPS 2025] Официальный исходный код для статьи «GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning».

Репозиторий
1259488 месяцев назадПроверено Kitploit
Поделиться

GuardReasoner-VL: защита VLM с помощью рассуждения с подкреплением

Yue Liu, Shengfang Zhai, Mingzhe Du
Yulin Chen, Tri Cao, Hongcheng Gao, Cheng Wang
Xinfeng Li, Kun Wang, Junfeng Fang, Jiaheng Zhang, Bryan Hooi
1Национальный университет Сингапура, 2Наньянский технологический университет

Чтобы повысить безопасность VLM, в этой статье представлена новая защитная модель для VLM на основе рассуждений, получившая название GuardReasoner-VL. Основная идея заключается в том, чтобы побудить защитную модель обдуманно рассуждать перед принятием решений о модерации с помощью онлайн-обучения с подкреплением (online RL). Во-первых, мы создаём GuardReasoner-VLTrain — корпус рассуждений с 123K примерами и 631K шагами рассуждений, охватывающий текстовые, графические и текстово-графические входные данные. Затем на его основе мы выполняем холодный старт способности модели к рассуждениям с помощью SFT. Кроме того, мы дополнительно улучшаем рассуждения, связанные с модерацией, с помощью online RL. В частности, для повышения разнообразия и сложности примеров мы применяем выборку с отклонением (rejection sampling) с последующей аугментацией данных с помощью предложенной конкатенации данных с учётом безопасности (safety-aware data concatenation). Кроме того, мы используем динамический параметр отсечения (clipping), чтобы поощрять исследование на ранних этапах и эксплуатацию на поздних. Чтобы сбалансировать производительность и эффективность использования токенов, мы разрабатываем награду за безопасность с учётом длины (length-aware safety reward), которая учитывает точность, формат и стоимость токенов. Обширные эксперименты демонстрируют превосходство нашей модели. Примечательно, что она превосходит модель, занявшую второе место, в среднем на 19,27% по F1-метрике.

Рисунок 1: Обзор GuardReasoner-VL.

Обновления

  • (2025/09/19) GuardReasoner-VL принята на NeurIPS 2025.
  • (2025/07/01) GuardReasoner-VL принята на воркшоп ICML R2-FM.
  • (2025/06/03) Опубликован тренировочный конвейер для online RL.
  • (2025/05/29) Опубликован тренировочный конвейер для R-SFT.
  • (2025/05/29) Опубликованы обучающие данные GuardReasoner-VLTrain и GuardReasoner-VLTrain-Image.
  • (2025/05/18) Выпущены модели (3B-Eco, 3B, 7B-Eco, 7B).
  • (2025/05/18) Опубликован код GuardReasoner-VL.
  • (2025/05/18) GuardReasoner-VL доступна на arXiv.

Использование

Быстрый старт

Чтобы оценить GuardReasoner-VL, выполните следующий код.

python ./evaluate.py

Результаты сохраняются в файл result.csv.

Performance of GuardReasoner-VL (GuardReasoner-VL-7B):
ToxicChat           ,HarmBenchPrompt     ,OpenAIModeration    ,AegisSafetyTest     ,SimpleSafetyTests   ,WildGuardTest       ,Average (Text)      ,HarmImageTest       ,SPA-VL-Eval         ,Average (All)       
76.51               ,98.30               ,70.98               ,90.13               ,98.99               ,88.35               ,79.88               ,70.84               ,85.60               ,79.07               
HarmBenchResponse   ,SafeRLHF            ,BeaverTails         ,XSTestReponseHarmful,WildGuardTest       ,Average (Text)      ,SPA-VL-Eval         ,Average (All)       
87.22               ,66.37               ,84.76               ,92.72               ,79.04               ,79.42               ,73.22               ,77.58               

Performance of GuardReasoner-VL (GuardReasoner-VL-Eco-7B):
ToxicChat           ,HarmBenchPrompt     ,OpenAIModeration    ,AegisSafetyTest     ,SimpleSafetyTests   ,WildGuardTest       ,Average (Text)      ,HarmImageTest       ,SPA-VL-Eval         ,Average (All)       
76.26               ,98.73               ,70.82               ,90.34               ,99.50               ,88.54               ,79.82               ,64.84               ,85.26               ,77.49               
HarmBenchResponse   ,SafeRLHF            ,BeaverTails         ,XSTestReponseHarmful,WildGuardTest       ,Average (Text)      ,SPA-VL-Eval         ,Average (All)       
86.22               ,66.15               ,85.51               ,93.33               ,78.60               ,79.51               ,70.81               ,76.94               

Performance of GuardReasoner-VL (GuardReasoner-VL-3B):
ToxicChat           ,HarmBenchPrompt     ,OpenAIModeration    ,AegisSafetyTest     ,SimpleSafetyTests   ,WildGuardTest       ,Average (Text)      ,HarmImageTest       ,SPA-VL-Eval         ,Average (All)       
74.45               ,89.10               ,70.83               ,88.79               ,99.50               ,88.92               ,78.77               ,70.93               ,86.47               ,78.73               
HarmBenchResponse   ,SafeRLHF            ,BeaverTails         ,XSTestReponseHarmful,WildGuardTest       ,Average (Text)      ,SPA-VL-Eval         ,Average (All)       
85.76               ,66.37               ,85.16               ,93.08               ,76.07               ,78.83               ,71.19               ,76.56               

Performance of GuardReasoner-VL (GuardReasoner-VL-Eco-3B):
ToxicChat           ,HarmBenchPrompt     ,OpenAIModeration    ,AegisSafetyTest     ,SimpleSafetyTests   ,WildGuardTest       ,Average (Text)      ,HarmImageTest       ,SPA-VL-Eval         ,Average (All)       
73.47               ,88.58               ,70.87               ,89.04               ,99.50               ,89.16               ,78.43               ,66.79               ,85.82               ,77.39               
HarmBenchResponse   ,SafeRLHF            ,BeaverTails         ,XSTestReponseHarmful,WildGuardTest       ,Average (Text)      ,SPA-VL-Eval         ,Average (All)       
84.72               ,66.96               ,85.39               ,93.59               ,77.39               ,79.31               ,72.01               ,77.14               

Основные результаты

Рисунок 2: Средняя производительность GuardReasoner-VL на мультимодальных guardrail-бенчмарках.

Таблица 1: Производительность на задаче выявления вредоносности промптов.

Таблица 2: Производительность на задаче выявления вредоносности ответов.

Версия для разработки

Чтобы воспроизвести процесс генерации GuardReasoner-VL, выполните следующий код.

bash test.sh

Чтобы использовать GuardReasoner-VL, выполните следующий код.

CUDA_VISIBLE_DEVICES=0 python deploy.py
Скачать инструмент

Популярное

Смотреть все →

Откройте для себя самые используемые инструменты нашего сообщества.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 Полный набор инструментов OSINT: граф расследования, оценка достоверности, семейства псевдонимов, карта, временная шкала и отчёты. 49 модулей, более 400 сайтов, API-ключи не требуются.

    614
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Приложение GhostLock с запуском в один клик (CVE-2026-43499)

    476
  • 3

    ARTEX

    baarai/artex

    Платформа автономного тестирования на проникновение на основе мультиагентной LLM с агентами-планировщиками и агентами-исполнителями, графами активов и исследования, записью MITM-трафика и повторной проверкой уязвимостей.

    389
  • 4

    redforge

    cybersecurity91/redforge

    Браузерный инструментарий для red team с 102 офлайн-инструментами для разведки, генерации полезной нагрузки, атак на учётные данные, криптографии, кодирования и отчётности по проектам.

    334
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Система действий для кибербезопасности на базе ИИ — где намерение превращается в управляемое исполнение, доказательства становятся оперативной памятью, а каждая операция улучшает следующую.

    257
  • 6

    antifox

    antifox-ai/antifox

    Мультиагентная платформа автономного тестирования на проникновение на базе ИИ, которая выполняет разведку, обнаружение поверхности атаки, валидацию эксплуатации и подготовку отчётов с подтверждающими доказательствами.

    247

Изучить все инструменты

Просмотрите нашу коллекцию инструментов

Смотреть все инструменты →