#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

DECeption con Motor de Validación Integrada Evaluativa (DECEIVE): ¡Deja que un LLM haga todo el trabajo difícil del honeypot!
Red teamer local impulsado por IA en un teléfono

Extensión de navegador que detecta PII y datos sensibles en chats de IA, los enmascara con marcadores de posición antes de enviarlos y restaura los…

Una inyección de prompt en un bot de revisión de código que ejecuta correcciones generadas por IA en un sandbox. El sandbox utiliza una lista negra…

Aviso de seguridad: Cross-Site Scripting Almacenado a través de mensajes de agente que conduce al robo de tokens de sesión (openclaw-dashboard)

Demuestra el uso de aprendizaje automático para predecir secuencias de generadores de números aleatorios, destacando debilidades criptográficas…

Una herramienta de ataque de gradiente de coordenadas codicioso (GCG) lista para producción para modelos de lenguaje grandes (LLMs)

Código PoC de la presentación de DEF CON 25

Un pequeño harness en Go que utiliza Ollama para orquestar LLMs en un flujo de proceso restringido.

Usar LLMs para clasificación de documentos

Conoce a Eclipse, el único jailbreak que hace el moonwalk alrededor de ChatGPT 4o.

HopLa Burp Suite Extender plugin - Aporta capacidades de IA, soporte de autocompletado y un conjunto de payloads útiles a Burp Suite

El Proyecto OWASP Subtractive Security Top 10 es una iniciativa para identificar, documentar y promover las oportunidades de mayor impacto para…

Noisegate: una puerta de enlace de privacidad diferencial que permite que un agente LLM no confiable consulte datos sensibles a través de MCP (Model…

Cyber Panel - El panel de control de hosting para OpenLiteSpeed

Estándar abierto para documentar metadatos relevantes para la seguridad de los modelos de IA, incluida la procedencia de los datos de entrenamiento,…

Escáner de seguridad de WordPress de solo lectura para servidores HestiaCP. Detecta indicadores de compromiso de wp2shell (CVE-2026-63030 /…

Colección de trabajo sobre CVE en tenserflow, explotando su binario