#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Un agente de auditoría de alineación capaz de explorar rápidamente hipótesis de alineación.

HopLa Burp Suite Extender plugin - Aporta capacidades de IA, soporte de autocompletado y un conjunto de payloads útiles a Burp Suite

ExploitGym es un benchmark realista a gran escala construido a partir de vulnerabilidades del mundo real, diseñado para evaluar la capacidad de los…

Extensión de escáner de vulnerabilidades impulsada por IA para Burp Suite con soporte multi-proveedor (Ollama, OpenAI, Claude, Gemini)

Ingeniería inversa asistida por IA con Ghidra

Repositorio de código abierto para validar aplicaciones de IA agéntica: red team, comportamiento, cadena de suministro, análisis estático.

Multi-Source Analysis & Threat Intelligence Search

Marco de ajuste fino que aplica calibración de seguridad óptima de primer orden y recalibración periódica a los LLM, preservando actualizaciones…

Incrusta y detecta marcas de agua basadas en estilo y con clave en código Python, Java y C++ generado por LLM mediante reescritura de CST,…

Open-source antivirus and firewall for AI agents: block risky tools, secret access, prompt injection, malicious packages, MCP servers, plugins, and…

Marco de LLMSecOps gobernado por políticas que proporciona SAST basado en AST, escaneo de secretos, comprobaciones de cadena de suministro y CSPM…

Extensión de Burp Suite que añade herramientas MCP integradas, análisis asistido por IA, controles de privacidad, escaneo pasivo y activo y más

Sandbox eBPF a nivel de kernel para asegurar las llamadas a herramientas de agentes LLM realizadas a través del Protocolo de Contexto de Modelo (MCP)

Token a Token, Comprometido: Vulnerabilidades de Puerta Trasera en Modelos Autorregresivos Unificados (NeurIPS'26)

Implementación de investigación de Hop-Decayed Influence (HDI) y el marco de ataque 3S, que expone vulnerabilidades estructurales de indexación…

Seguridad de LLM: analiza cómo el ajuste fino desplaza el comportamiento de rechazo y evalúa las defensas de congelación de capas y de bajo rango.

Una plataforma de pruebas de seguridad abierta y local-first para pentesters, agentes de IA, pipelines de CI/CD y equipos.

Un banco de pruebas de seguridad empírico que evalúa la inyección de prompts, las vulnerabilidades de subordinado confundido y las defensas de…