#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Una colección de exploits del mundo real de AI/ML para vulnerabilidades divulgadas de manera responsable.
Prueba de concepto que demuestra inyección de prompt en GraphCypherQAChain de Langchain que lleva a inyección SQL en bases de datos Neo4j. Incluye…

Un pequeño harness en Go que utiliza Ollama para orquestar LLMs en un flujo de proceso restringido.

Detector multicapa de inyección de prompts para aplicaciones de IA que utiliza heurísticas, análisis basado en LLM, firmas de ataque de vectorDB y…

Lista curada de artículos, estudios y cajas de herramientas sobre aprendizaje con puertas traseras, que organiza ataques y defensas basados en…

El código para ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)

Kit de herramientas deepfake en tiempo real para pruebas de penetración de sistemas de verificación de identidad y videoconferencias. Admite…

Prueba de concepto para CVE-2024-24590


Una extensión de Burp Suite que integra el GPT de OpenAI para realizar un escaneo pasivo adicional para descubrir vulnerabilidades altamente…

Una herramienta que comprueba si una instancia de TorchServe es vulnerable a CVE-2023-43654

Encuentra subdominios con GPT, gratis

Una biblioteca de ejemplos adversariales para construir ataques, desarrollar defensas y comparar ambos.

Una lista curada de agentes GPT para ciberseguridad

Demostración que muestra que Claude Opus no encuentra CVE-2023-0266

Una caja de herramientas de Python para crear ejemplos adversariales que engañan a redes neuronales en PyTorch, TensorFlow y JAX.

Una herramienta impulsada por IA para descubrir oportunidades de escalada de privilegios en configuraciones de AWS IAM.

Entrena, evalúa y explora redes neuronales con herramientas integradas de robustez adversarial, incluyendo ataques PGD, entrenamiento adversarial y…