#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Un benchmark para el descubrimiento de errores impulsado por LLM: 77 desafíos en 43 proyectos de código abierto (C/C++/Java).

Un proxy transparente de redacción de PII para el tráfico de API de LLM. Se sitúa entre una aplicación y un proveedor de LLM (actualmente Anthropic),…

Proyecto Incubator de OWASP: detecta credenciales expuestas en contenido entregado por el navegador (JavaScript, respuestas de configuración, tráfico…

Herramienta de capacitación en concientización de seguridad para simulaciones de phishing autorizadas y auditorías internas de TI.

CEREBRO-RED v2: Plataforma avanzada de investigación de Red Team para LLM con algoritmo PAIR y evaluación LLM-como-juez

Servidor AIO de Gestión en la Nube

Un paquete de TypeScript que proporciona agentes impulsados por IA para tareas de Seguridad de Aplicaciones (AppSec), construido sobre los modelos de…

CVPR2023: Clústeres no aprendibles: Hacia ejemplos no aprendibles independientes de la etiqueta

Marco de ataque para romper defensas contra la inyección de indicaciones basadas en ajuste fino (SecAlign, SecAlign++, StruQ) mediante ataques…

Servidor proxy que envuelve servidores MCP con perfilado de comportamiento, escaneo de seguridad, control de riesgos y ejecución segura. Detecta…

Conoce qué cambió dentro de tu release de Electron: compara dos compilaciones para IPC, preload, ventanas, fuses y hosts, con file:line. CLI, puerta…

Triaje de alcanzabilidad para escaneos de vulnerabilidades. Envía los hallazgos del escáner a un agente LLM que lee tu código fuente y decide qué CVE…

Forensia de terminal criptográfica y reproducción de sesiones para agentes de IA. Rastrea, firma y audita cada comando con etiquetas de procedencia,…

Reglas de detección Sigma para la monitorización de seguridad de agentes de IA

Secure local REST, CLI, MCP, and agent bridge for IDA Pro 9.x

Autoridad impuesta por el kernel y seguridad en tiempo de ejecución para sistemas Linux, software autónomo y agentes de IA.

Marco de ajuste fino que aplica calibración de seguridad óptima de primer orden y recalibración periódica a los LLM, preservando actualizaciones…

Proyecto de referencia de OWASP para la evidencia de seguridad de la IA agéntica: correlaciona la ejecución del agente, la identidad, las llamadas a…