#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Código de investigación y conjunto de datos (WSD) para evaluar el impacto de la marca de agua de audio en la anti-suplantación, utilizando wav2vec2…
Evita contenido restringido y censurado en los prompts de chat de IA 😈

Detección pasiva de viveza facial en 3D (Anti-Spoofing) y detección de Deepfake. Se necesita una sola imagen para calcular la puntuación de viveza.…

Librería de pruebas de privacidad para sistemas de deep learning, que permite evaluar la susceptibilidad a ataques de inferencia de membresía,…

Sistema LLM multiagente que evalúa de forma autónoma la seguridad de aplicaciones web, orquestando una ejecución basada en herramientas y validando…

Un PoC para CVE-2024-3660. Ejecución arbitraria de código en Keras.

Una falla de inyección de indicaciones de alta gravedad en Claude AI demuestra que incluso los modelos de lenguaje más inteligentes pueden…

Marco de investigación para detectar y eliminar puertas traseras en modelos de lenguaje, combinando detección de anomalías basada en características…

Exploit de prueba de concepto para CVE-2025-23266 (NVIDIAScape) dirigido al runtime de contenedores de IA de NVIDIA. Demuestra el escape de…

Herramienta automatizada de reconocimiento de dominios web y evaluación de seguridad que integra enumeración de subdominios, escaneo de puertos,…

Demos de prueba de concepto e investigación sobre ataques de inyección de prompts indirectos contra LLMs integrados en aplicaciones, abarcando…

Jailbreaks,Prompt Leaks,Prompt Injection,LLM Attack.Colección de prompts de ataque a modelos de lenguaje de gran escala

Este estudio analiza vulnerabilidades de deserialización de pickle en Python, centrándose en CVE-2024-3568 en TFAutoModel de Hugging Face…

Demostración de investigación de ataques de inyección de prompts indirectos para controlar agentes web autónomos basados en LLM, con herramientas…

PowerShell-based detection and remediation toolkit para CVE-2025-32711 (EchoLeak), una vulnerabilidad crítica de inyección de comandos de IA de cero…

Extensión de Burp Suite que utiliza reglas de ataque regex generadas por IA para detectar fallos de IDOR y control de acceso, y luego escanea el…

Un servicio para proporcionar protección contra la inyección de prompts, ataques de jailbreak y contenido dañino al interactuar con servicios de IA.

Exploit para Langflow AI Remote Code Execution (No autenticado)