#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Sandbox WASM con control de capacidades para código de agentes de IA. Los agentes solo pueden llamar a herramientas proporcionadas explícitamente con…

Código PoC de la presentación de DEF CON 25

Asistente impulsado por IA para probadores de penetración que genera cargas útiles, analiza código, realiza reconocimiento y ejecuta acciones de…

Usar LLMs para clasificación de documentos

Análisis forense similar a Wireshark para comunicaciones del Model Context Protocol Captura, inspecciona e investiga todas las peticiones y…

Protección en tiempo de ejecución para agentes de IA

Guardarraíles en tiempo real para llamadas a herramientas de Claude Code.

Conjunto de datos de prompts basados en IA generativa centrados en ciberseguridad para la evaluación comparativa de modelos de lenguaje grandes.

ssh-chat en C moderno

Una biblioteca de Python para Aprendizaje Automático Seguro y Explicable Documentación disponible @ https://secml.gitlab.io Síguenos en Twitter @…

Extensión de navegador que detecta PII y datos sensibles en chats de IA, los enmascara con marcadores de posición antes de enviarlos y restaura los…

Reglas de seguridad portátiles para el límite de acción de agentes de IA

PISmith: Red Teaming basado en Aprendizaje por Refuerzo para Defensas contra Inyección de Prompts

Implementación del artículo "DeeCLIP: A Robust and Generalizable Transformer-Based Framework for Detecting AI-Generated Images"

Segmentación de elementos prohibidos mediante modelado bicapa consciente de la oclusión (ICME 2025)

Un escáner de seguridad de AWS basado en terminal con más de 102 comprobaciones de seguridad en VPC, IAM, S3, CloudTrail, contenedores (ECS/EKS) y…

Una simulación adversarial de IA de Red Team vs. Blue Team.

Aplica delegación de privilegios mínimos para agentes de IA con credenciales firmadas y con alcance definido. Otorga a los subagentes capacidades y…