#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit
provos/ironcurtainUn runtime* seguro para agentes de IA autónomos. Política a partir de constituciones en inglés sencillo. (*https://ironcurtain.dev)
samugit83/redamonUn framework de equipo rojo agentivo impulsado por IA que automatiza operaciones de seguridad ofensiva, desde el reconocimiento hasta la explotación…
cosai-oasis/ws4-secure-design-agentic-systemsRepositorio para CoSAI Workstream 4, Secure Design Patterns for Agentic Systems
nolabs-ai/nonorutas de ejecución multiplexadas y seguras para agentes: cero confianza, cero configuración, cero latencia.
cyberstrikeus/cyberstrikeAgente autónomo de IA para equipo rojo en pruebas de penetración con 13+ agentes especializados, 120+ casos de prueba OWASP e integración con MITRE…
cisco-ai-defense/defenseclawGobernanza de Seguridad para IA Agente
nanocoai/nanoclawUna alternativa ligera a OpenClaw que se ejecuta en contenedores por seguridad. Se conecta a WhatsApp, Telegram, Slack, Discord, Gmail y otras…
beelzebub-labs/beelzebubUn framework de runtime de decepción seguro y de bajo código, que aprovecha la IA para la virtualización de sistemas.
frankwxu/digital-forensics-labLaboratorios gratuitos prácticos de forense digital para estudiantes y docentes
kubeshop/testkube☸️ La plataforma de pruebas abierta para equipos de ingeniería impulsados por IA
gosuda/ssh-chatterssh-chat en C moderno
owasp/mosaicEstructura de coordinación para estándares y directrices de seguridad de IA, reduciendo la fragmentación y proporcionando una guía clara para…
kontext-security/kontext-cliAsegura agentes en segundos con permisos aplicados en tiempo de ejecución.
nvidia-nemo/guardrailsSalvaguardas programables para aplicaciones de chat con LLM: aplica reglas de entrada/salida, bloquea jailbreaks e inyecciones de prompt, detecta…
seqra/opentaintMotor formal de análisis de flujo de datos interprocedimental para seguridad de aplicaciones. Rastrea datos no confiables a través de límites de…
owasp/cornucopiaLos archivos fuente y las herramientas necesarias para construir los mazos de OWASP Cornucopia en varios idiomas
manuelschipper/naha guard that blocks catastrophic agent actions
snyk/agent-scanEscáner de seguridad para agentes de IA, servidores MCP y habilidades de agentes.
