Skip to content
KitploitKITPLOIT
HerramientasExploitsBlog
Log in
Enviar
HerramientasExploitsBlog
Enviar

¡Herramientas de Hacking, PenTest y Ciberseguridad para tu Arsenal de Seguridad!

Kitploit es un directorio de herramientas de hacking, ciberseguridad y pentesting. Descubre las últimas actualizaciones de proyectos para encontrar vulnerabilidades, analizar sistemas, automatizar pruebas y fortalecer tu seguridad.

FeedsContactoPrivacidad© 2026 Kitploit

Directorio de Herramientas

Categorías

Ver todas las categorías
Loading categories
modelscan — Protección contra ataques de serialización de modelos | Kitploit
Herramientas/GitHubGitHub/protectai/modelscan
Herramientas DefensivasAnálisis EstáticoEscáneres de VulnerabilidadesDevSecOpsSeguridad de Cadena de SuministroAprendizaje AutomáticoSeguridad de IAAtaque AdversarioTop en Ataque Adversario #13Top en Seguridad de IA #13
79817683hace 9 mesesRevisado por Kitploit
Compartir
Top en Aprendizaje Automático #8
GitHubprotectai/modelscan

modelscan

Protección contra ataques de serialización de modelos

Ver RepositorioSitio web

Banner de ModelScan bandit build black mypy tests Supported Versions pypi Version License: Apache 2.0 pre-commit

ModelScan: Protección contra los ataques de serialización de modelos

Los modelos de Machine Learning (ML) se comparten públicamente a través de internet, dentro de los equipos y entre equipos. El auge de los modelos fundacionales ha hecho que los modelos de ML públicos se consuman cada vez más para entrenamiento adicional y ajuste fino. Los modelos de ML se utilizan cada vez más para tomar decisiones críticas y respaldar aplicaciones de misión crítica. A pesar de ello, los modelos aún no se escanean con el mismo rigor que un archivo PDF en tu bandeja de entrada.

Esto debe cambiar, y disponer de las herramientas adecuadas es el primer paso.

Vista previa de ModelScan

ModelScan es un proyecto de código abierto de Protect AI que escanea modelos para determinar si contienen código inseguro. Es la primera herramienta de escaneo de modelos compatible con múltiples formatos de modelos. Actualmente, ModelScan admite los formatos H5, Pickle y SavedModel. Esto te protege cuando usas PyTorch, TensorFlow, Keras, Sklearn, XGBoost, y hay más en camino.

TL;DR

Si estás listo para empezar a escanear tus modelos, es sencillo:

pip install modelscan

Con él instalado, escanea un modelo:

modelscan -p /path/to/model_file.pkl

Por qué deberías escanear los modelos

Los modelos suelen crearse a partir de pipelines automatizados; otros pueden provenir del portátil de un científico de datos. En cualquier caso, el modelo debe trasladarse de una máquina a otra antes de usarse. Ese proceso de guardar un modelo en disco se llama serialización.

Un ataque de serialización de modelos es aquel en el que se añade código malicioso al contenido de un modelo durante la serialización (guardado) antes de su distribución: una versión moderna del Caballo de Troya.

El ataque funciona explotando el proceso de guardado y carga de los modelos. Cuando cargas un modelo con model = torch.load(PATH), PyTorch abre el contenido del archivo y comienza a ejecutar el código que contiene. En el instante en que cargas el modelo, el exploit ya se ha ejecutado.

Un ataque de serialización de modelos puede utilizarse para ejecutar:

  • Robo de credenciales (credenciales de la nube para escribir y leer datos en otros sistemas de tu entorno)
  • Robo de datos (la solicitud enviada al modelo)
  • Envenenamiento de datos (los datos enviados después de que el modelo haya realizado su tarea)
  • Envenenamiento del modelo (alterar los resultados del propio modelo)

Estos ataques son increíblemente sencillos de ejecutar y puedes ver ejemplos prácticos en nuestra carpeta 📓notebooks.

Aplicar y automatizar la seguridad de los modelos

ModelScan ofrece un escaneo robusto de código abierto. Si necesitas seguridad integral de IA, considera Guardian. Es nuestro producto de escaneo de modelos de nivel empresarial.

Descripción general de Guardian

Características de Guardian:

  1. Escaneo de vanguardia: Accede a nuestros escáneres más recientes, mayor compatibilidad con modelos y detección automática del formato de modelo.
  2. Seguridad proactiva: Define y aplica requisitos de seguridad para los modelos de Hugging Face antes de que entren en tu entorno, sin necesidad de cambios en el código.
  3. Cobertura a nivel empresarial: Implementa una postura de seguridad cohesionada en toda tu organización, integrándose sin problemas con tus pipelines de CI/CD.
  4. Registro de auditoría integral: Obtén visibilidad total de todos los escaneos y resultados, lo que te permite identificar y mitigar amenazas de manera efectiva.

Primeros pasos

Cómo funciona ModelScan

Si cargar un modelo con tu framework de machine learning ejecuta automáticamente el ataque, ¿cómo comprueba ModelScan el contenido sin cargar el código malicioso?

Sencillo: lee el contenido del archivo byte a byte, como si fuera una cadena, buscando firmas de código inseguras. Esto lo hace increíblemente rápido, escaneando los modelos en el tiempo que tarda tu ordenador en procesar el tamaño total del archivo desde el disco (segundos en la mayoría de los casos). También es seguro.

ModelScan clasifica el código inseguro como:

  • CRITICAL
  • HIGH
  • MEDIUM
  • LOW

Diagrama de flujo de ModelScan

Si se detecta un problema, ponte en contacto inmediatamente con los autores del modelo para determinar la causa.

En algunos casos, el código puede estar incrustado en el modelo para facilitar la reproducción a un científico de datos, pero te expone a ataques. Usa tu criterio para determinar si eso es apropiado para tus cargas de trabajo.

¿Qué modelos y frameworks son compatibles?

Esto se ampliará continuamente, así que presta atención a los cambios en nuestras notas de versión.

Actualmente, ModelScan admite cualquier formato derivado de Pickle y muchos otros:

Descargar herramienta

Más Populares

Ver todos →

Descubre las herramientas más usadas por nuestra comunidad.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 El kit de herramientas OSINT definitivo: grafo de investigación, puntuación de confianza, familias de alias, mapa, línea de tiempo e informes. 49 módulos, más de 400 sitios, sin necesidad de claves API.

    540
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Aplicación de Ejecución con un Solo Toque GhostLock (CVE-2026-43499)

    476
  • 3

    ARTEX

    baarai/artex

    Plataforma de pruebas de penetración autónoma multiagente basada en LLM con agentes planificadores/trabajadores, grafos de activos y de exploración, registro de tráfico MITM y reevaluación de vulnerabilidades.

    373
  • 4

    redforge

    cybersecurity91/redforge

    Kit de herramientas de red team del lado del navegador con 102 herramientas offline para reconocimiento, generación de payloads, ataques de credenciales, criptografía, codificación y elaboración de informes de compromiso.

    322
  • 5

    estorides

    grisuno/estorides

    Agrega más de 99 fuentes OSINT gratuitas en paralelo, resuelve entidades en un grafo de conocimiento y exporta STIX 2.1, MISP o GraphML con análisis asistido por LLM.

    278
  • 6

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    El sistema de acción para la ciberseguridad nativa de IA—donde la intención se convierte en ejecución gobernada, la evidencia se convierte en memoria operativa y cada operación mejora la siguiente.

    251

Explora todas las herramientas

Explora nuestra colección de herramientas

Ver todas las herramientas →