#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Proyecto de OWASP centrado en la seguridad de las aplicaciones de modelos de lenguaje grandes, que abarca riesgos específicos de los LLM, guías de…

Investigación de compactación de OpenAI: GhostCompact + Compaction Smuggling

Código base de investigación para la evaluación de privacidad de redes neuronales cuantizadas: entrena modelos objetivo/sombra bajo PTQ/QAT y ejecuta…

Código de benchmark y resultados interactivos para la detección autónoma de ataques de red mediante agentes LLM que usan herramientas e investigan…

Fork optimizado de Bytebot: Agente de IA para control de escritorio. Reducido de 7GB a 1.09GB, parcheada CVE-2026-78250, con documentación viva…

Prueba de concepto y análisis completo de CVE-2026-47644: inyección de prompts en Edge Copilot mediante el escape de etiquetas de adjuntos que…

Una guía y flujo de trabajo completos para integrar sprints Agile con pipelines CI/CD de DevOps.

Microservicio en Express/TypeScript con un bucle de consenso de doble agente impulsado por Gemini que sintetiza y valida contenido de asesoramiento…

Inyecta literales de tokens de control de Fire ChatML/Mistral/Llama en tu stack de agentes autoalojado y demuestra la falsificación de roles antes de…

Un honeypot que interrumpe los ataques impulsados por agentes de IA mediante técnicas de tarpitting y "bombas de contexto". Python/Flask, basado en…

Habilidad de Claude Code: comprobación de solo lectura de si tu ComfyUI se ve afectado por CVE-2026-123790 (path traversal a RCE en Easy-Use):…

Avisos públicos de vulnerabilidades con análisis de causa raíz y PoC reproducibles para hallazgos de divulgación coordinada en Psono Server y…

Marco de seguridad en tiempo de generación para LLMs que asigna las señales internas del modelo a reglas explícitas y políticas por solicitud,…

Detector en tiempo de prueba sin entrenamiento y agnóstico al disparador para Vision Transformers con puertas traseras que señala muestras…

Marco de red teaming adaptativo guiado por taxonomía que recorre técnicas de inyección de prompts y refina los intentos fallidos para encontrar…

Escanea plugins de WordPress en busca de vulnerabilidades de guardas faltantes usando firmas de ripgrep, reglas de Semgrep, mapeo de superficie de…

Pipeline de investigación que implementa un jailbreak visual-contextual contra LLMs multimodales: extracción de prompts T2I, renderizado de imágenes…

Evaluación del sesgo en agentes LLM para escenarios de ciberataque