#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Algoritmos para la detección de valores atípicos, adversarios y deriva

Sistema RAG de la Guía de Pruebas de Seguridad Web de OWASP con ChromaDB, MCP para Claude Code

Un novedoso ataque adversarial contra LLM basado en la técnica Exponentiated Gradient Descent.

un escáner de seguridad para aplicaciones LLM personalizadas

CAWODOG es un proyecto de prueba de concepto que demuestra cómo proteger modelos de IA basados en Python desplegados en máquinas industriales sin…

Exploit de prueba de concepto para CVE-2025-32434, una vulnerabilidad de deserialización pickle en el modo weights_only de PyTorch, que demuestra la…

Extensión de Burp Suite Repeater que muta automáticamente los payloads y analiza las respuestas para descubrir path traversal, inyección SQL, XSS y…

Mi manifiesto, e historias, imágenes y cosas divertidas

[ICCV 2025] Protección anti-manipulación para la generación no autorizada de imágenes individuales

Repositorio de código para el proyecto CS5446 que explora defensas contra ataques de jailbreak en modelos de lenguaje grandes. Incluye conjuntos de…

Artefactos para una entrada de blog sobre el hallazgo de CVE-2025-37899 con o3

Un enfoque de optimización de caja negra para proteger los prompts de sistema de los Modelos de Lenguaje Grande (LLM) contra ataques de extracción…

[NeurIPS '25] Código para el artículo "IF-Guide: Influence Function-Guided Suppression of Harmful Training Data for Reducing LLM Toxicity"

Implementación en código de "Jailbreaking Multiturno Mejorado con Patrones: Explotando Vulnerabilidades Estructurales en Modelos de Lenguaje de Gran…

Marco automatizado para secuestrar el razonamiento de seguridad en modelos de razonamiento grandes mediante trazas de razonamiento simuladas y…

Laboratorios de práctica de Red Teaming de IA para ejecutar entrenamientos de Red Teaming de IA, incluida la infraestructura.

Investigación de código y experimentos para defender agentes LLM integrados con herramientas contra ataques adversarios, ampliando Agent Security…

Punto de referencia para evaluar los riesgos de seguridad de los agentes que usan computadoras, con 104 escenarios realistas de uso indebido en siete…