#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Marco defensivo que mantiene una memoria sombra centrada en la seguridad para detectar y bloquear amenazas de inyección de prompts y de horizonte…

La seguridad no puede ser una instrucción de prompt. TBP proporciona un límite externo en la capa de ejecución para agentes autónomos, aplicando…

Generador impulsado por LLM para Mythic Agents, Payload-Type y C2 Profiles.

AI IR Overlay™ — marco práctico de respuesta a incidentes para agentes de IA en producción. Basado en NIST SP 800-61 r3, alineado con NIST AI RMF,…

Un Agente de Evaluación para Detectar Desinformación y Envenenamiento de Conocimiento en Sistemas de Generación Aumentada por Recuperación.

Escáner de vulnerabilidades impulsado por agentes para bases de código a gran escala. Utiliza LLM para encontrar problemas de seguridad difíciles de…

Kit de herramientas de seguridad para agentes de IA. Escanea tu máquina en busca de habilidades peligrosas y configuraciones MCP, monitorea ataques a…

Marco de defensa que mantiene congelados los modelos de audio-lenguaje y añade una puerta de riesgo de capa intermedia con adaptadores de seguridad…

Motor de WAF lógico de nueva generación construido en SWI-Prolog. Cuenta con un cerebro de aprendizaje inductivo que opera a más de 2M+ LIPS con un…

Incrusta múltiples mensajes secretos en las elecciones de tokens de chat de LLM utilizando codificadores esteganográficos aritméticos/Discop, con…

Tamper-evident tracing, policy gates and cross-checks for AI agents: see what the agent did, and why.

Punto de referencia para evaluar la seguridad de los agentes de IA frente a ataques incrustados en el contexto orientado a habilidades, con 155 casos…

Fuzzing impulsado por LLM a través de OSS-Fuzz.

Plataforma de inteligencia de amenazas impulsada por IA para monitoreo automatizado de CVEs/ransomware, vigilancia de dominios, detección de fugas de…

Herramienta de capacitación en concientización de seguridad para simulaciones de phishing autorizadas y auditorías internas de TI.

Esteganografía lingüística demostrablemente segura que incrusta mensajes secretos en texto generado por LLM mediante codificación de rango rotativa.…

[🎖️ Mención de honor en HAIPS @COLM'26] El primer benchmark para evaluar qué tan bien actúan los agentes LLM en alineación con el alcance de…

Framework de auditoría de seguridad de extremo a extremo para agentes LLM: modelado estático de AST y de propagación de datos (taint), síntesis de…