#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Herramienta de pentesting de chat-box de IA en C: lanza payloads de lenguaje (SQLi/NoSQL/XSS/SSTI) e inyección de prompts contra interfaces de chat y…
Proyecto de referencia de OWASP para la evidencia de seguridad de la IA agéntica: correlaciona la ejecución del agente, la identidad, las llamadas a…

Arnés agéntico que automatiza el descubrimiento y la validación de vulnerabilidades, orquestando flujos de trabajo de análisis impulsados por IA para…

Proyecto de OWASP centrado en la seguridad de las aplicaciones de modelos de lenguaje grandes, que abarca riesgos específicos de los LLM, guías de…

OWASP guide defining a standardized penetration testing methodology for humanoid, industrial, and autonomous robots, covering ROS/ROS2, DDS, CAN bus,…

Un modelo de riesgos orientado a la auditoría sobre cómo las inferencias generadas por agentes pueden cambiar de estatus epistémico, adquirir…

Creates CycloneDX Bill of Materials (BOM) for your projects from source and container images. Supports many languages and package managers. Integrate…

Habilidad de Claude Code y Codex para encontrar copias de Brotli potencialmente vulnerables y guiar las actualizaciones para CVE-2026-111497.

Escanea Shodan en busca de servidores Ollama y llama.cpp expuestos públicamente, enumerando hosts, ubicaciones y modelos disponibles para…

Sistema de trazabilidad entre agentes y diagnóstico de seguridad para agentes LLM que utilizan herramientas: normaliza eventos de traza, construye…

Código de investigación para medir las tasas de éxito de ataques de jailbreak (ASR y ASR por pasos) contra LLMs, con implementaciones de ataques como…

Investigación sobre inyecciones de prompts persistentes mediante funciones de memoria en Claude, Gemini y ChatGPT, con pasos de reproducción,…

Protocolo de delegación de uso de secretos — uso de secretos a nivel de protocolo para sistemas agénticos

Vulnerabilidad de jailbreak en las profundidades de salida temprana de los LLM. Publicado en NeurIPS 2026 en el taller FLMSec

Triaje de alcanzabilidad para escaneos de vulnerabilidades. Envía los hallazgos del escáner a un agente LLM que lee tu código fuente y decide qué CVE…

Pipeline de Colab reproducible que fundamenta seis dimensiones de competencia en Alfabetización en Seguridad de IA en benchmarks públicos y…

Diagnostic LLM safety benchmark with 3,489 bilingual prompts, an 84-label taxonomy, and prompt-level rubric judging for explainable, fine-grained…

Tamper-evident tracing, policy gates and cross-checks for AI agents: see what the agent did, and why.