#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Más allá del prompt: jailbreaking de LLMs con llamada a funciones mediante trazas de moderación simuladas
Investigación de seguridad abierta sobre la infraestructura de agentes de codificación de IA. Manifiestos de remediación ejecutables por agentes para…

Revisión sistemática y curada de la literatura de más de 756 artículos sobre aplicaciones de LLM en ciberseguridad, cubriendo inteligencia de…

DECeption con Motor de Validación Integrada Evaluativa (DECEIVE): ¡Deja que un LLM haga todo el trabajo difícil del honeypot!

[NeurIPS 2025] Código fuente oficial del artículo "GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning".

EU AI Act Compliance Tool - Clasificación de riesgos y pruebas de sesgo

Laboratorio de evaluación de comportamiento (Quorum) para el proyecto superpowers que impulsa CLIs reales de agentes de codificación (Claude, Codex,…

Plataforma práctica de aprendizaje de seguridad en IA con aplicaciones LLM intencionalmente vulnerables. Explora OWASP Top 10 para LLMs a través de…

AMBER ICI v5: centro de mando de investigación Ollama con enfoque local-first, con evidencia delimitada por caso, cadenas de agentes, recuperación…

Red portatil de reconocimiento inteligente con IA offline

Consola de ataque de inyección de prompts de código abierto. Prueba la seguridad de la IA lanzando ataques categorizados contra cualquier endpoint.

AGLS

Marco de trabajo ensemble para la detección y reparación de vulnerabilidades de software mediante múltiples modelos de lenguaje grandes, con análisis…

Código de investigación que implementa métodos de ataque y defensa de puerta trasera para LLMs, incluyendo los algoritmos IBSD, SLIP, BeDKD y BadApex.

Biblioteca de Python para análisis de seguridad impulsado por LLM local con análisis binario de Ghidra, escaneo de vulnerabilidades C/C++ e…

NetLogic es un kit de herramientas avanzado de análisis de red y ciberseguridad para la inspección de tráfico, análisis de paquetes y detección de…

POC de escape de contenedores Docker mediante mlx-metal importlib

SafeForge es un centro de aplicaciones móviles de código abierto construido en GitLab que permite a los desarrolladores crear, cargar y compartir…