#1Herramientas de seguridad LLM, inyección de prompts, extracción de modelos, IA adversaria y red teaming de IA.
Recomendado por Kitploit

Código para el artículo Certified Unlearning for Neural Networks, ICML 2025

[CVPR 2025-ADVML] Repositorio oficial de `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks`

Una colección de ejemplos de modelos de amenazas del mundo real en diversas tecnologías, que proporciona información práctica para identificar y…

Flow Integrity Deterministic Enforcement System. Mecanismos para proteger agentes de IA con control de flujo de información.

AISA-Scanner es un escáner de vulnerabilidades autónomo impulsado por IA que mapea CVEs con exploits de Metasploit, MITRE, CEH y SANS, ofreciendo…

Herramienta automatizada de detección de esteganografía que escanea sitios web, servidores web y directorios locales mediante reconocimiento de…

Arquitectura de aprendizaje profundo resistente a adversarios para la localización interior 5G segura, que combina CNN y atención de múltiples…

Este repositorio proporciona la implementación oficial de POISONCRAFT: envenenamiento práctico de la generación aumentada por recuperación para…

Una aplicación CLI interactiva para interactuar con instancias autenticadas de Jupyter.

Implementación de marca de agua de texto sin distorsión basada en acoplamiento óptimo para incrustar señales detectables en texto generado por LLM…

Kit de herramientas de evaluación de vulnerabilidades y explotación mejorado con AI para escaneo modular de aplicaciones web, detectando SQLi, XSS,…

Usar LLMs para clasificación de documentos

Aviso de seguridad detallado para CVE-2025-492025, que documenta una vulnerabilidad de tergiversación de la interfaz de usuario en Copilot AI que…

Benchmark estandarizado de robustez adversarial con un leaderboard público y un zoológico de modelos descargable para evaluar modelos de ML contra…

vllm-project vllm versión 0.5.2.2 es vulnerable a ataques de Denegación de Servicio.

Motor de coincidencia de patrones de prompts inspirado en YARA que combina reglas de palabras clave, regex, similitud semántica y evaluación mediante…

Análisis técnico detallado de CVE-2024-5452, una vulnerabilidad de ejecución remota de código en PyTorch Lightning mediante la contaminación de la…

Escanea Shodan en busca de servidores Ollama y llama.cpp expuestos públicamente, enumerando hosts, ubicaciones y modelos disponibles para…