#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Flow Integrity Deterministic Enforcement System. Mecanismos para proteger agentes de IA con control de flujo de información.
[ICLR 2026] - Repositorio oficial del artículo: "RedBench: Un Conjunto de Datos Universal para Red Teaming Integral de Modelos de Lenguaje de Gran…

CVE-Factory

AGLS

Marco de ataque para romper defensas contra la inyección de indicaciones basadas en ajuste fino (SecAlign, SecAlign++, StruQ) mediante ataques…

OpenAnt de Knostic es el producto líder de código abierto de descubrimiento de vulnerabilidades basado en LLM, que ayuda a los defensores a encontrar…

Proyecto Mantis: Contraatacando al hacker de IA; la inyección de prompts como defensa contra ciberataques impulsados por LLM

Escalado de inferencia para la garantía de seguridad de LLM

Un novedoso ataque adversarial contra LLM basado en la técnica Exponentiated Gradient Descent.

Arquitectura de aprendizaje profundo resistente a adversarios para la localización interior 5G segura, que combina CNN y atención de múltiples…

Demostración de investigación de ataques de inyección de prompts indirectos para controlar agentes web autónomos basados en LLM, con herramientas…

Código para el artículo Certified Unlearning for Neural Networks, ICML 2025

El código para ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)

StealthRL: framework de RL para parafrasear texto de IA de forma adversaria y poner a prueba la robustez de los detectores.

[NeurIPS 2025] Código fuente oficial del artículo "GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning".

[NeurIPS '25] Código para el artículo "IF-Guide: Influence Function-Guided Suppression of Harmful Training Data for Reducing LLM Toxicity"

Pre-install security for AI agents, npm packages, and MCP servers. Zero-dep local static analysis; normal scans never execute package code.
