#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Investigación de seguridad sobre la compactación de contexto en agentes de programación: muestra cómo las etiquetas de rol falsificadas en contenido…

OWASP Top 10 para aplicaciones de modelos de lenguaje grandes

Motor de coincidencia de patrones de prompts inspirado en YARA que combina reglas de palabras clave, regex, similitud semántica y evaluación mediante…

Bucle DevSecOps de GitLab Duo en el que una segunda IA vuelve a atacar cada corrección escrita por IA, guardando cada omisión exitosa como un…

Implementación de investigación del ataque Black-Hole que envenena los índices de bases de datos vectoriales mediante hubness impulsada por…

Encuentra código que se ejecuta sin que lo pidas: archivos del repositorio que se ejecutan al abrir la carpeta (tareas de VS Code, hooks de agentes,…

bifurcación de decomp.wtf: coincidencia de Windows PE, cadenas de herramientas MinGW/clang-cl y un puente REA MCP opcional

[🎖️ Mención de honor en HAIPS @COLM'26] El primer benchmark para evaluar qué tan bien actúan los agentes LLM en alineación con el alcance de…

Proyecto de OWASP para el modelado de amenazas asistido por IA, que ayuda a los equipos a identificar, analizar y documentar amenazas de seguridad y…

Instant, Concurrent, Secure & Lightweight Sandbox for AI Agents.

Plataforma de detección y remediación de vulnerabilidades asistida por IA que incluye un agente de endpoint en Go, un panel de control centralizado y…

Agente autónomo independiente de pentesting con IA con un bucle planificar→actuar→evaluar, habilidades genéricas, control de acciones destructivas y…

Extracción determinista con PyGhidra, triaje y pipeline local de backend de compilador con LLM para la reimplementación en C.

Local CVE triage engine aggregating 25 sources (NVD, EPSS, CISA KEV, OSV, Shodan) into 0-100 risk scores, with CLI, REST API, MCP server and…

Agente autónomo de seguridad de endpoints en Rust que combina un driver Ring-0 de Windows y bloqueo pre-ejecución con eBPF en Linux, detección YARA,…

Enumerador de privesc para Linux que confirma la explotabilidad y te da el comando exacto para obtener una shell de root, sin necesidad de buscar en…

Framework modular de red-team para Active Directory impulsado por IA para pruebas de penetración autorizadas, enumeración de AD, análisis de rutas de…

Escanea bases de datos PostgreSQL y issues de Jira en busca de PII usando regex, NER/ML y detección opcional con LLM autoalojado, con informes…