#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Escanea salidas de LLM y contenido generado por IA en busca de señales de exfiltración de datos (EchoLeak, CVE-2025-32711) antes de que lleguen a los…

Código de investigación y conjunto de datos (WSD) para evaluar el impacto de la marca de agua de audio en la anti-suplantación, utilizando wav2vec2…

Este repositorio proporciona la implementación oficial de POISONCRAFT: envenenamiento práctico de la generación aumentada por recuperación para…

Implementación de marca de agua de texto sin distorsión basada en acoplamiento óptimo para incrustar señales detectables en texto generado por LLM…

Marco de trabajo ensemble para la detección y reparación de vulnerabilidades de software mediante múltiples modelos de lenguaje grandes, con análisis…

[CVPR 2025-ADVML] Repositorio oficial de `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks`

Marco automatizado para secuestrar el razonamiento de seguridad en modelos de razonamiento grandes mediante trazas de razonamiento simuladas y…

Implementación en código de "Jailbreaking Multiturno Mejorado con Patrones: Explotando Vulnerabilidades Estructurales en Modelos de Lenguaje de Gran…

Segmentación de elementos prohibidos mediante modelado bicapa consciente de la oclusión (ICME 2025)

[ICCV 2025] Protección anti-manipulación para la generación no autorizada de imágenes individuales

Código de investigación que implementa métodos de ataque y defensa de puerta trasera para LLMs, incluyendo los algoritmos IBSD, SLIP, BeDKD y BadApex.

Implementación del artículo "DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images"

Proxy de seguridad para agentes de IA. Escanea cada mensaje en busca de inyección de prompts, PII y secretos. Defensa en profundidad: proxy en Go +…

Código oficial del artículo de ISSTA 2026: ¿Es suficiente "Saber que es malicioso"? Evaluación de los LLM para la auditoría de comportamiento de…

PISmith: Red Teaming basado en Aprendizaje por Refuerzo para Defensas contra Inyección de Prompts

Laboratorio de detección de Sentinel para cadenas de ataque de MCP: robo de tokens por SSRF CVE-2026-26118, envenenamiento de herramientas,…

Código para 'Dirigiendo la Censura: Descubriendo Vectores de Representación para el Control del "Pensamiento" de LLM'

CVPR2023: Clústeres no aprendibles: Hacia ejemplos no aprendibles independientes de la etiqueta