#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

# Demostración educativa de tres vulnerabilidades de Claude Code (bypass de hooks, inyección MCP, exfiltración de claves API) con servidor atacante,…

Extensión de Burp Suite que incorpora detección pasiva de vulnerabilidades mediante inteligencia artificial.

Evaluación comparativa de detecciones de inyección de prompts para agentes web.

Let AI agents explore a running game from the inside. Live, safe, instant.

StealthRL: framework de RL para parafrasear texto de IA de forma adversaria y poner a prueba la robustez de los detectores.

Tubería automatizada de análisis de amenazas impulsada por IA que enruta archivos, URLs, IPs, dominios o imágenes a través de analizadores de…

Una herramienta que comprueba si una instancia de TorchServe es vulnerable a CVE-2023-43654

MCP se está adoptando rápidamente. La guía de seguridad se está quedando atrás. Esta lista de verificación brinda a los ingenieros de seguridad,…

Extensión de navegador que detecta PII y datos sensibles en chats de IA, los enmascara con marcadores de posición antes de enviarlos y restaura los…

Seguridad para la era moderna de la IA: defiéndete contra agentes de IA maliciosos y paquetes npm maliciosos.

Noisegate: una puerta de enlace de privacidad diferencial que permite que un agente LLM no confiable consulte datos sensibles a través de MCP (Model…

Marco para auditar algoritmos de aprendizaje automático contra ataques adversarios y sesgos, proporcionando herramientas educativas y un artículo…

Volatility 3 plugin that carves MCP/JSON-RPC message candidates from Windows and Linux memory dumps, preserving raw bytes, addresses, and SHA-256 for…

Defensa asimétrica contra agentes de IA adversarios. VeilGate evalúa cada solicitud entrante, redirige a los agentes sospechosos a un entorno…

Sistema RAG de la Guía de Pruebas de Seguridad Web de OWASP con ChromaDB, MCP para Claude Code

Kit de herramientas de seguridad modular para agentes autónomos que ofrece análisis estático, auditoría de configuración, monitoreo en tiempo de…

Puerta de seguridad explicable para aplicaciones LLM — bloquea la inyección de prompts con una razón auditable para cada decisión.

Investigación de seguridad sobre la compactación de contexto en agentes de programación: muestra cómo las etiquetas de rol falsificadas en contenido…