#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Un repositorio para realizar jailbreak a varios LLMs, principalmente Claude.

Informe profesional de evaluación de vulnerabilidad para el riesgo de inyección de comandos en LiteLLM, que incluye resumen ejecutivo, impacto…

Auditor de seguridad de sombrero blanco autónomo para revisión de código impulsada por IA, investigación de bug bounty, construcción de exploits y…

Harness de agente en sandbox de código abierto para equipos. Brindando a cada empleado un agente personal seguro.

Repositorio de investigación que documenta los límites de generalización de los LLM en la detección de vulnerabilidades de seguridad en código, con…

Un runtime* seguro para agentes de IA autónomos. Política a partir de constituciones en inglés sencillo. (*https://ironcurtain.dev)

Escáner de vulnerabilidades para políticas administradas por el cliente de AWS utilizando ChatGPT

Repositorio de plantillas Nuclei generadas por IA para CVEs públicas aún no cubiertas por plantillas existentes, mejorando la velocidad y cobertura…

Estándar de seguridad para habilidades de agentes, que proporciona pautas y mejores prácticas para proteger agentes autónomos impulsados por IA en…

Modelo de aprendizaje automático intencionalmente vulnerable para formación práctica en seguridad. Explora vulnerabilidades comunes de ML, ataques…

Extensión de escáner de vulnerabilidades impulsada por IA para Burp Suite con soporte multi-proveedor (Ollama, OpenAI, Claude, Gemini)

Un sandbox autoalojado para que los red teams prueben payloads contra la detección moderna antes del despliegue. La integración con MCP permite que…

Contribuciones de inteligencia de amenazas de DugganUSA al IETF Hackathon: vectores de referencia de ataques agénticos del mundo real, análisis de…

Scraper de Python basado en IA

Un doggo que ayuda a buscar problemas de seguridad en tus repositorios.


Detector de inyección de prompts y jailbreak en dos etapas: compuertas regex más un clasificador ONNX DeBERTa-v3 cuantizado, con soporte para…

Descubrimiento de vulnerabilidades zero-shot mediante LLMs