#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit
infisical/agent-vaultUn proxy de credenciales HTTP y vault para agentes de IA como Claude Code, OpenClaw, Hermes, agentes personalizados + harnesses, y más.
zerobootdev/zerobootSandboxes de VM de submilisegundo para agentes de IA mediante copy-on-write forking
thalesgroup-cert/watcherPlataforma de inteligencia de amenazas impulsada por IA para monitoreo automatizado de CVEs/ransomware, vigilancia de dominios, detección de fugas de…
six2dez/burp-ai-agentExtensión de Burp Suite que añade herramientas MCP integradas, análisis asistido por IA, controles de privacidad, escaneo pasivo y activo y más
kubeshop/testkube☸️ La plataforma de pruebas abierta para equipos de ingeniería impulsados por IA
commando-x/vuln-bankPlataforma bancaria intencionalmente vulnerable para practicar pruebas de seguridad en aplicaciones web, API e IA/LLM, revisión de código seguro e…
bethgelab/foolboxUna caja de herramientas de Python para crear ejemplos adversariales que engañan a redes neuronales en PyTorch, TensorFlow y JAX.
owasp/www-project-top-10-for-large-language-model-applicationsOWASP Top 10 para Aplicaciones de Modelos de Lenguaje Grande (Parte del Proyecto de Seguridad GenAI)
zakirkun/guardian-cliGuardián es una herramienta CLI de automatización de pruebas de penetración impulsada por IA, lista para producción, que aprovecha Google Gemini y…
meridianlabs-ai/inspect_petriUn agente de auditoría de alineación capaz de explorar rápidamente hipótesis de alineación.
mrwadams/stride-gptUna herramienta de modelado de amenazas impulsada por IA que aprovecha los modelos GPT de OpenAI para generar modelos de amenazas para una aplicación…
tihanyin/pssw100avbUna lista de scripts de Powershell útiles con 100% de evasión de AV (en el momento de la publicación).
knostic/openantOpenAnt de Knostic es el producto líder de código abierto de descubrimiento de vulnerabilidades basado en LLM, que ayuda a los defensores a encontrar…
mrwadams/attackgenAttackGen es una herramienta de pruebas de respuesta a incidentes de ciberseguridad que aprovecha el poder de los grandes modelos de lenguaje y el…
protectai/ai-exploitsUna colección de exploits del mundo real de AI/ML para vulnerabilidades divulgadas de manera responsable.
seldonio/alibi-detectAlgoritmos para la detección de valores atípicos, adversarios y deriva
kac89/vulnrepoVULNRΞPO - Generador y repositorio gratuito de informes de vulnerabilidades, cifrado de extremo a extremo. Plantillas de problemas, CWE, CVE, MITRE…
berylliumsec/nebulaAsistente de pruebas de penetración impulsado por IA para automatizar el reconocimiento, la toma de notas y el análisis de vulnerabilidades.
