#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Repositorio de investigación que documenta los límites de generalización de los LLM en la detección de vulnerabilidades de seguridad en código, con…

Puerta de enlace de seguridad en tiempo de ejecución para agentes de IA: certifica criptográficamente las llamadas a herramientas, aplica políticas,…

SafeForge es un centro de aplicaciones móviles de código abierto construido en GitLab que permite a los desarrolladores crear, cargar y compartir…

CVE-2026-20685 - Borrador o TODO

Una herramienta de engaño basada en fuentes para red teaming, investigación de seguridad y cualquier otra cosa.

Lista de verificación de seguridad previa al lanzamiento para aplicaciones generadas por IA (Lovable, v0, Bolt, Cursor). 69 comprobaciones que cubren…

Forensia de terminal criptográfica y reproducción de sesiones para agentes de IA. Rastrea, firma y audita cada comando con etiquetas de procedencia,…

Herramienta de investigación de vulnerabilidades del kernel de Linux consciente de la procedencia, utilizada en la investigación de CVE-2026-53075

Herramienta de investigación de vulnerabilidades del kernel de Linux basada en evidencia, utilizada en la investigación de CVE-2026-31720

CVE-2026-67598 — Emlog Pro: validación de certificados TLS deshabilitada en el asistente de IA (MITM → robo de claves de API). CWE-295, CVSS 9.1.…

Writeups de ciberseguridad, guías paso a paso y notas técnicas por Nanashi Bx2.

Habilidades para modelado de amenazas, escaneo, triaje, parches, además de un arnés de escaneo autónomo que puedes /customize

Parches de seguridad para vulnerabilidades sin parchear de llama.cpp (CVE-2026-43626 a CVE-2026-43632) — Cyera Research

Agent Control Protocol (ACP) — Especificación oficial en inglés. Arquitectura de autorización criptográficamente verificable para agentes de IA…

Prueba de concepto para CVE-2026-23001: demuestra RCE mediante deserialización insegura de pickle en Hugging Face Transformers mediante la creación…

OWASP Top 10 para Aplicaciones de Modelos de Lenguaje Grande (Parte del Proyecto de Seguridad GenAI)

Pipeline automatizado de análisis de seguridad que ejecuta consultas CodeQL en repositorios de GitHub y utiliza LLMs para clasificar y filtrar…

Estándar abierto para documentar metadatos relevantes para la seguridad de los modelos de IA, incluida la procedencia de los datos de entrenamiento,…