#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

CyberRAG — RAG 100% local (Ollama) sobre apuntes y libros de ciberseguridad: recuperación híbrida, respuestas con citas, asistente de pentest por…
Un repositorio de prueba de concepto que muestra cómo un servidor MCP no confiable puede robar literalmente todo...

Exploits para CVE-2024-14027 creados usando AI/Claude como prueba.

Pipeline de investigación para detectar señales latentes de exposición a inyección indirecta de prompts en LLM agénticos mediante sondaje de estados…

Código de investigación que reproduce experimentos de jailbreak de LLM multi-turno (FITD, MRCJ, ActorAttack, X-Teaming) del artículo de…

CLI de análisis estático que escanea bases de código en busca de inyección de prompts en LLM, exfiltración de datos, jailbreak y vulnerabilidades de…

Exponer y detallar una vulnerabilidad XSS almacenada no autenticada en el Google Cloud Vertex AI Python SDK que afecta a las versiones 1.98.0 a…

Detecta ataques de fuga de contexto en LLM entrenando sondas de comportamiento ligeras sobre log-probabilidades, con canales de detección vLLM…

Proyecto de OWASP para el modelado de amenazas asistido por IA, que ayuda a los equipos a identificar, analizar y documentar amenazas de seguridad y…

Defensa de auditoría de acciones previa a la ejecución que detecta y enmascara la inyección indirecta de prompts en agentes LLM que utilizan…

Monorepo de seguridad local en el navegador con seis módulos para triaje de APK/IPA móviles, fuzzing DAST del lado del cliente, directorios OSINT,…

Vulnerabilidad de jailbreak en las profundidades de salida temprana de los LLM. Publicado en NeurIPS 2026 en el taller FLMSec

Sandbox de confianza cero para agentes de IA con jaula de sistema de archivos a nivel de kernel, proxy de red transparente y motor de políticas…

Arnés agéntico que automatiza el descubrimiento y la validación de vulnerabilidades, orquestando flujos de trabajo de análisis impulsados por IA para…

Banco de pruebas determinista y arnés de evaluación para el envenenamiento de memoria persistente en agentes LLM, con casos emparejados…

Local test range for agent memory poisoning - watch a planted memory steer an agent, then prove the repair. Synthetic targets, scripted deterministic…

Implementación de referencia abierta del protocolo VEP (RFC-010): un sandbox determinista y una suite de benchmarks que evalúan el confinamiento en…

Framework de ataque de promoción grupal agéntico impulsado por LLM que manipula las clasificaciones de recomendadores de filtrado colaborativo de…