Skip to content
KitploitKITPLOIT
HerramientasBlog
Log in
Enviar
HerramientasBlog
Enviar

¡Herramientas de Hacking, PenTest y Ciberseguridad para tu Arsenal de Seguridad!

Kitploit es un directorio de herramientas de hacking, ciberseguridad y pentesting. Descubre las últimas actualizaciones de proyectos para encontrar vulnerabilidades, analizar sistemas, automatizar pruebas y fortalecer tu seguridad.

FeedsContactoPrivacidad© 2026 Kitploit

Directorio de Herramientas

Categorías

Ver todas las categorías
Loading categories
GuardReasoner-VL — [NeurIPS 2025] Código fuente oficial del artículo "GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning". | Kitploit
Herramientas/GitHubGitHub/yueliu1999/guardreasoner-vl
Herramientas DefensivasAprendizaje AutomáticoSeguridad de IADetección de Anomalías
GitHubyueliu1999/guardreasoner-vl

GuardReasoner-VL

[NeurIPS 2025] Código fuente oficial del artículo "GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning".

Ver Repositorio
125948hace 8 mesesRevisado por Kitploit
Compartir

GuardReasoner-VL: Salvaguardando los VLM mediante razonamiento reforzado

Yue Liu, Shengfang Zhai, Mingzhe Du
Yulin Chen, Tri Cao, Hongcheng Gao, Cheng Wang
Xinfeng Li, Kun Wang, Junfeng Fang, Jiaheng Zhang, Bryan Hooi
1National University of Singapore, 2Nanyang Technological University

Para mejorar la seguridad de los VLM, este artículo presenta un novedoso modelo guardián de VLM basado en razonamiento, denominado GuardReasoner-VL. La idea central es incentivar al modelo guardián a razonar deliberadamente antes de tomar decisiones de moderación mediante RL online. Primero, construimos GuardReasoner-VLTrain, un corpus de razonamiento con 123K muestras y 631K pasos de razonamiento, que abarca entradas de texto, imagen y texto-imagen. Luego, a partir de él, iniciamos en frío la capacidad de razonamiento de nuestro modelo mediante SFT. Además, mejoramos aún más el razonamiento relativo a la moderación mediante RL online. Concretamente, para aumentar la diversidad y dificultad de las muestras, realizamos muestreo por rechazo seguido de aumento de datos mediante la concatenación de datos sensible a la seguridad propuesta. Asimismo, utilizamos un parámetro de recorte dinámico para fomentar la exploración en las primeras etapas y la explotación en las posteriores. Para equilibrar el rendimiento y la eficiencia de tokens, diseñamos una recompensa de seguridad consciente de la longitud que integra precisión, formato y coste de tokens. Los extensos experimentos demuestran la superioridad de nuestro modelo. Notablemente, supera al subcampeón en un promedio de 19.27% de puntuación F1.

Figura 1: Descripción general de GuardReasoner-VL.

Actualización

  • (2025/09/19) GuardReasoner-VL ha sido aceptado en NeurIPS 2025.
  • (2025/07/01) GuardReasoner-VL ha sido aceptado en el Workshop ICML R2-FM.
  • (2025/06/03) Se ha publicado el pipeline de entrenamiento de Online RL.
  • (2025/05/29) Se ha publicado el pipeline de entrenamiento de R-SFT.
  • (2025/05/29) Se han publicado los datos de entrenamiento GuardReasoner-VLTrain y GuardReasoner-VLTrain-Image.
  • (2025/05/18) Se han publicado los modelos (3B-Eco, 3B, 7B-Eco, 7B).
  • (2025/05/18) Se ha publicado el código de GuardReasoner-VL.
  • (2025/05/18) GuardReasoner-VL está en arXiv.

Uso

Inicio rápido

Para evaluar GuardReasoner-VL, ejecuta el siguiente código.

python ./evaluate.py

Los resultados se guardan en el archivo result.csv.

Performance of GuardReasoner-VL (GuardReasoner-VL-7B):
ToxicChat           ,HarmBenchPrompt     ,OpenAIModeration    ,AegisSafetyTest     ,SimpleSafetyTests   ,WildGuardTest       ,Average (Text)      ,HarmImageTest       ,SPA-VL-Eval         ,Average (All)       
76.51               ,98.30               ,70.98               ,90.13               ,98.99               ,88.35               ,79.88               ,70.84               ,85.60               ,79.07               
HarmBenchResponse   ,SafeRLHF            ,BeaverTails         ,XSTestReponseHarmful,WildGuardTest       ,Average (Text)      ,SPA-VL-Eval         ,Average (All)       
87.22               ,66.37               ,84.76               ,92.72               ,79.04               ,79.42               ,73.22               ,77.58               

Performance of GuardReasoner-VL (GuardReasoner-VL-Eco-7B):
ToxicChat           ,HarmBenchPrompt     ,OpenAIModeration    ,AegisSafetyTest     ,SimpleSafetyTests   ,WildGuardTest       ,Average (Text)      ,HarmImageTest       ,SPA-VL-Eval         ,Average (All)       
76.26               ,98.73               ,70.82               ,90.34               ,99.50               ,88.54               ,79.82               ,64.84               ,85.26               ,77.49               
HarmBenchResponse   ,SafeRLHF            ,BeaverTails         ,XSTestReponseHarmful,WildGuardTest       ,Average (Text)      ,SPA-VL-Eval         ,Average (All)       
86.22               ,66.15               ,85.51               ,93.33               ,78.60               ,79.51               ,70.81               ,76.94               

Performance of GuardReasoner-VL (GuardReasoner-VL-3B):
ToxicChat           ,HarmBenchPrompt     ,OpenAIModeration    ,AegisSafetyTest     ,SimpleSafetyTests   ,WildGuardTest       ,Average (Text)      ,HarmImageTest       ,SPA-VL-Eval         ,Average (All)       
74.45               ,89.10               ,70.83               ,88.79               ,99.50               ,88.92               ,78.77               ,70.93               ,86.47               ,78.73               
HarmBenchResponse   ,SafeRLHF            ,BeaverTails         ,XSTestReponseHarmful,WildGuardTest       ,Average (Text)      ,SPA-VL-Eval         ,Average (All)       
85.76               ,66.37               ,85.16               ,93.08               ,76.07               ,78.83               ,71.19               ,76.56               

Performance of GuardReasoner-VL (GuardReasoner-VL-Eco-3B):
ToxicChat           ,HarmBenchPrompt     ,OpenAIModeration    ,AegisSafetyTest     ,SimpleSafetyTests   ,WildGuardTest       ,Average (Text)      ,HarmImageTest       ,SPA-VL-Eval         ,Average (All)       
73.47               ,88.58               ,70.87               ,89.04               ,99.50               ,89.16               ,78.43               ,66.79               ,85.82               ,77.39               
HarmBenchResponse   ,SafeRLHF            ,BeaverTails         ,XSTestReponseHarmful,WildGuardTest       ,Average (Text)      ,SPA-VL-Eval         ,Average (All)       
84.72               ,66.96               ,85.39               ,93.59               ,77.39               ,79.31               ,72.01               ,77.14               

Resultados principales

Figura 2: Rendimiento medio de GuardReasoner-VL en los benchmarks multimodales de salvaguarda.

Tabla 1: Rendimiento en la tarea de detección de nocividad de prompts.

Tabla 2: Rendimiento en la tarea de detección de nocividad de respuestas.

Versión de desarrollo

Para reproducir el proceso de generación de GuardReasoner-VL, ejecuta el siguiente código.

bash test.sh

Para usar GuardReasoner-VL, ejecuta el siguiente código.

CUDA_VISIBLE_DEVICES=0 python deploy.py

Para reproducir el proceso de entrenamiento de GuardReasoner, consulta el pipeline de entrenamiento.

Descargar herramienta

Más Populares

Ver todos →

Descubre las herramientas más usadas por nuestra comunidad.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 El kit de herramientas OSINT definitivo: grafo de investigación, puntuación de confianza, familias de alias, mapa, línea de tiempo e informes. 49 módulos, más de 400 sitios, sin necesidad de claves API.

    591
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Aplicación de Ejecución con un Solo Toque GhostLock (CVE-2026-43499)

    481
  • 3

    ARTEX

    baarai/artex

    Plataforma de pruebas de penetración autónoma multiagente basada en LLM con agentes planificadores/trabajadores, grafos de activos y de exploración, registro de tráfico MITM y reevaluación de vulnerabilidades.

    389
  • 4

    redforge

    cybersecurity91/redforge

    Kit de herramientas de red team del lado del navegador con 102 herramientas offline para reconocimiento, generación de payloads, ataques de credenciales, criptografía, codificación y elaboración de informes de compromiso.

    332
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    El sistema de acción para la ciberseguridad nativa de IA—donde la intención se convierte en ejecución gobernada, la evidencia se convierte en memoria operativa y cada operación mejora la siguiente.

    255
  • 6

    antifox

    antifox-ai/antifox

    Plataforma de pruebas de penetración autónoma con múltiples agentes de IA que ejecuta reconocimiento, descubrimiento de superficie de ataque, validación de explotación y entrega de informes respaldados por evidencia.

    247

Explora todas las herramientas

Explora nuestra colección de herramientas

Ver todas las herramientas →