#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Les preguntamos a 6 IAs sobre su propia programación. Las 6 dijeron que el jailbreaking nunca se arreglará. Ejecútalo tú mismo — $2, 10 minutos.

¡Una colección de recursos de hacking / pruebas de penetración para mejorarte!

Un juego de investigación en ciberseguridad que mide cómo los humanos detectan correos electrónicos de phishing generados por IA. Construido como una…

Implementación de investigación de un agente de jailbreak para LLM que elude las barreras de seguridad de modelos comerciales mediante el tejido de…

Aislamiento de procesos ligero y multiplataforma, impulsado por el runtime de OpenAI Codex. Aísle cualquier comando con controles de archivos, red y…

Este proyecto de código abierto dedicado a implementar AI-SPM a nivel empresarial. Al hacerlo, las organizaciones pueden proteger proactivamente sus…

Tu asistente personal de IA, todo en 888KiB (~35KB en código de aplicación). Ejecutándose en un ESP32. GPIO, cron, herramientas personalizadas,…

Sandbox WASM con control de capacidades para código de agentes de IA. Los agentes solo pueden llamar a herramientas proporcionadas explícitamente con…

Laboratorio de Docker Compose que reproduce la SSRF CVE-2026-33626 en el cargador de imágenes de visión-lenguaje de LMDeploy. Compara el…

Redescubrimiento reproducible de vulnerabilidad asistido por IA de CVE-2026-42945 en nginx, que incluye análisis técnico, disparador de PoC y…

DECeption con Motor de Validación Integrada Evaluativa (DECEIVE): ¡Deja que un LLM haga todo el trabajo difícil del honeypot!

El Sistema Operativo de IA Agéntica Gobernada — Rust + Tauri 2.0 | 65 crates, 658 comandos, 84 páginas, 5,029 pruebas, 10/10 OWASP

Punto de referencia para evaluar la seguridad de los agentes de IA frente a ataques incrustados en el contexto orientado a habilidades, con 155 casos…

Banco de pruebas y biblioteca para evaluar ataques de extracción de modelos y defensas de propiedad (marcas de agua, perturbación de salida,…

El código en "DCVD: Fusión multimodal de doble canal para la detección y localización conjunta de vulnerabilidades"

El código de VulTriage: Aumento de contexto de triple vía para la detección de vulnerabilidades basada en LLM

Análisis técnico de la vulnerabilidad de inyección de serialización de LangChain CVE-2025-68664.