#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit
db-ol/cuaharmPunto de referencia para evaluar los riesgos de seguridad de los agentes que usan computadoras, con 104 escenarios realistas de uso indebido en siete…
alphawarheads/watermark_spoofingCódigo de investigación y conjunto de datos (WSD) para evaluar el impacto de la marca de agua de audio en la anti-suplantación, utilizando wav2vec2…
trinib/zorg-jailbreak-prompt-textEvita contenido restringido y censurado en los prompts de chat de IA 😈
doubangotelecom/facelivenessdetection-sdkDetección pasiva de viveza facial en 3D (Anti-Spoofing) y detección de Deepfake. Se necesita una sola imagen para calcular la puntuación de viveza.…
trailofbits/privacyravenLibrería de pruebas de privacidad para sistemas de deep learning, que permite evaluar la susceptibilidad a ataques de inferencia de membresía,…
aaryanbhujang/cve-2024-3660-pocUn PoC para CVE-2024-3660. Ejecución arbitraria de código en Keras.
adityabhatt3010/cve-2025-54794-hijacking-claude-ai-with-a-prompt-injection-the-jailbreak-that-talked-backUna falla de inyección de indicaciones de alta gravedad en Claude AI demuestra que incluso los modelos de lenguaje más inteligentes pueden…
jpts/cve-2025-23266-pocExploit de prueba de concepto para CVE-2025-23266 (NVIDIAScape) dirigido al runtime de contenedores de IA de NVIDIA. Demuestra el escape de…
bandit-haxunit/haxunitHerramienta automatizada de reconocimiento de dominios web y evaluación de seguridad que integra enumeración de subdominios, escaneo de puertos,…
rooobeam/pickle-deserialization-exploit-in-transformersEste estudio analiza vulnerabilidades de deserialización de pickle en Python, centrándose en CVE-2024-3568 en TFAutoModel de Hugging Face…
sej2020/manipulating-web-agentsDemostración de investigación de ataques de inyección de prompts indirectos para controlar agentes web autónomos basados en LLM, con herramientas…
daryllundy/cve-2025-32711PowerShell-based detection and remediation toolkit para CVE-2025-32711 (EchoLeak), una vulnerabilidad crítica de inyección de comandos de IA de cero…
0xgh057r3c0n/cve-2025-3248Exploit para Langflow AI Remote Code Execution (No autenticado)
stair-lab/certified-unlearning-neural-networks-icml-2025Código para el artículo Certified Unlearning for Neural Networks, ICML 2025
hondamunigeprasannasilva/attack-attention[CVPR 2025-ADVML] Repositorio oficial de `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks`
taleliyahu/threat_model_examplesUna colección de ejemplos de modelos de amenazas del mundo real en diversas tecnologías, que proporciona información práctica para identificar y…
microsoft/fidesFlow Integrity Deterministic Enforcement System. Mecanismos para proteger agentes de IA con control de flujo de información.
gmh5225/aisa-scannerAISA-Scanner es un escáner de vulnerabilidades autónomo impulsado por IA que mapea CVEs con exploits de Metasploit, MITRE, CEH y SANS, ofreciendo…
