#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

DonkAI es un laboratorio práctico para el OWASP Top 10 para Aplicaciones LLM (2025): no se requiere un LLM real.
Implementación del artículo "Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model"

Una lista seleccionada de recursos útiles que cubren IA Ofensiva.

Una caja de herramientas de Python para crear ejemplos adversariales que engañan a redes neuronales en PyTorch, TensorFlow y JAX.

Un escáner de seguridad estático + de tiempo de ejecución para servidores MCP (Model Context Protocol)

Self-hostable AI SOC that fuses security alerts, auto-triages via agentic AI, runs MITRE ATT&CK investigations, and logs every agent decision in a…

El agente de seguridad independiente para software escrito por IA. Encuentra problemas, investiga si son reales y te muestra la evidencia. Núcleo…

Control de acceso para agentes de IA. Define qué pueden hacer Claude Code, Codex, Gemini, Cursor y cualquier servidor MCP, revisa las acciones de…

Código de investigación para detectar y desintoxicar backdoors en modelos de difusión de texto a imagen, con pipelines para Stable Diffusion v1.4,…

Benchmark estandarizado de robustez adversarial con un leaderboard público y un zoológico de modelos descargable para evaluar modelos de ML contra…

Research-only AI watermark robustness toolkit: local reverse proxy strips C2PA/EXIF/XMP, Unicode, image/audio stego, OOXML/PDF metadata, and scans…

Un juego de investigación en ciberseguridad que mide cómo los humanos detectan correos electrónicos de phishing generados por IA. Construido como una…

Protocolo de delegación de uso de secretos — uso de secretos a nivel de protocolo para sistemas agénticos

Visibilidad de la actividad de los agentes de IA en los endpoints, con detección en el dispositivo, bloqueo opcional previo a la acción y…

Defensa de purificación en la etapa de entrada de caja negra que neutraliza ataques de puerta trasera en detectores de objetos mediante corrupción,…

Arnés de agente iterativo que utiliza LLMs y Certora Prover para generar y refinar especificaciones CVL de contratos inteligentes, realimentando la…

Escanea diffs de código con contexto para construir un grafo de impacto y utiliza LLMs para encontrar vulnerabilidades, con soporte para escaneos…

☸️ La plataforma de pruebas para el SDLC agéntico