Skip to content
KitploitKITPLOIT
StrumentiExploitsBlog
Log in
Invia
StrumentiExploitsBlog
Invia

Strumenti di Hacking, PenTest e Cybersecurity per il tuo Arsenale di Sicurezza!

Kitploit è una directory di strumenti di hacking, cybersecurity e pentesting. Scopri gli ultimi aggiornamenti dei progetti per trovare vulnerabilità, analizzare sistemi, automatizzare i test e rafforzare la tua sicurezza.

FeedContattoPrivacy© 2026 Kitploit

Directory degli strumenti

Categorie

Vedi tutte le categorie
Loading categories
modelscan — Protezione contro gli attacchi di serializzazione dei modelli | Kitploit
Strumenti/GitHubGitHub/protectai/modelscan
Strumenti DifensiviAnalisi StaticaScanner di VulnerabilitàDevSecOpsSicurezza della Supply ChainMachine LearningSicurezza dell'IAAttacco AvversarioTop in Attacco Avversario n.13Top in Sicurezza dell'IA n.13
798175839 mesi faRevisionato da Kitploit
Condividi
Top in Machine Learning n.8
GitHubprotectai/modelscan

modelscan

Protezione contro gli attacchi di serializzazione dei modelli

Vedi RepositorySito web

ModelScan Banner bandit build black mypy tests Supported Versions pypi Version License: Apache 2.0 pre-commit

ModelScan: Protezione dagli attacchi di serializzazione dei modelli

I modelli di Machine Learning (ML) vengono condivisi pubblicamente su internet, all'interno dei team e tra team diversi. L'ascesa dei Foundation Model ha portato a un consumo sempre maggiore di modelli ML pubblici per ulteriore addestramento/fine-tuning. I modelli ML sono sempre più utilizzati per prendere decisioni critiche e alimentare applicazioni mission-critical. Nonostante ciò, i modelli non vengono ancora scansionati con il rigore riservato a un file PDF nella tua casella di posta.

Questo deve cambiare, e gli strumenti adeguati sono il primo passo.

ModelScan Preview

ModelScan è un progetto open source di Protect AI che scansiona i modelli per determinare se contengono codice non sicuro. È il primo strumento di scansione di modelli a supportare più formati di modelli. ModelScan attualmente supporta: formati H5, Pickle e SavedModel. Questo ti protegge quando usi PyTorch, TensorFlow, Keras, Sklearn, XGBoost, con altri in arrivo.

In breve

Se sei pronto per iniziare a scansionare i tuoi modelli, è semplice:

pip install modelscan

Con lo strumento installato, scansiona un modello:

modelscan -p /path/to/model_file.pkl

Perché dovresti scansionare i modelli

I modelli sono spesso creati da pipeline automatizzate, altri possono provenire dal laptop di un data scientist. In entrambi i casi, il modello deve essere spostato da una macchina all'altra prima di essere utilizzato. Questo processo di salvataggio del modello su disco è chiamato serializzazione.

Un attacco di serializzazione del modello è un attacco in cui codice dannoso viene aggiunto al contenuto di un modello durante la serializzazione (salvataggio) prima della distribuzione — una versione moderna del Cavallo di Troia.

L'attacco funziona sfruttando il processo di salvataggio e caricamento dei modelli. Quando carichi un modello con model = torch.load(PATH), PyTorch apre il contenuto del file e inizia a eseguire il codice al suo interno. Nell'istante in cui carichi il modello, l'exploit è già stato eseguito.

Un attacco di serializzazione del modello può essere utilizzato per eseguire:

  • Furto di credenziali (credenziali cloud per scrivere e leggere dati su altri sistemi del tuo ambiente)
  • Furto di dati (la richiesta inviata al modello)
  • Data Poisoning (i dati inviati dopo che il modello ha svolto il suo compito)
  • Model Poisoning (alterazione dei risultati del modello stesso)

Questi attacchi sono incredibilmente semplici da eseguire e puoi vedere esempi funzionanti nella nostra cartella 📓notebooks.

Applicare e automatizzare la sicurezza dei modelli

ModelScan offre una solida scansione open source. Se hai bisogno di una sicurezza AI completa, considera Guardian. È il nostro prodotto di scansione di modelli di livello enterprise.

Guardian Overview

Funzionalità di Guardian:

  1. Scansione all'avanguardia: Accedi ai nostri scanner più recenti, a un supporto più ampio per i modelli e al rilevamento automatico del formato dei modelli.
  2. Sicurezza proattiva: Definisci e applica requisiti di sicurezza per i modelli Hugging Face prima che entrino nel tuo ambiente, senza bisogno di modifiche al codice.
  3. Copertura a livello aziendale: Implementa una postura di sicurezza coerente in tutta l'organizzazione, integrandoti perfettamente con le pipeline CI/CD.
  4. Audit trail completo: Ottieni piena visibilità su tutte le scansioni e i risultati, consentendoti di identificare e mitigare efficacemente le minacce.

Per iniziare

Come funziona ModelScan

Se caricare un modello con il tuo framework di machine learning esegue automaticamente l'attacco, come fa ModelScan a controllare il contenuto senza caricare il codice dannoso?

Semplice: legge il contenuto del file un byte alla volta, proprio come una stringa, cercando firme di codice non sicure. Questo lo rende estremamente veloce: scansiona i modelli nel tempo impiegato dal tuo computer per elaborare la dimensione totale del file dal disco (secondi nella maggior parte dei casi). È anche sicuro.

ModelScan classifica il codice non sicuro come:

  • CRITICAL
  • HIGH
  • MEDIUM
  • LOW

ModelScan Flow Chart

Se viene rilevato un problema, contatta immediatamente gli autori del modello per determinare la causa.

In alcuni casi, il codice può essere incorporato nel modello per rendere più facile la riproduzione per un data scientist, ma ti espone ad attacchi. Usa la tua discrezione per determinare se è appropriato per i tuoi carichi di lavoro.

Quali modelli e framework sono supportati?

Questo sarà in continua espansione, quindi tieni d'occhio le modifiche nelle nostre note di rilascio.

Al momento, ModelScan supporta qualsiasi formato derivato da Pickle e molti altri:

Scarica lo strumento

Più Popolari

Vedi tutti →

Scopri gli strumenti più utilizzati dalla nostra community.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 Il toolkit OSINT definitivo: grafo di indagine, punteggio di affidabilità, famiglie di alias, mappa, timeline e report. 49 moduli, oltre 400 siti, nessuna chiave API richiesta.

    755
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # App di esecuzione con un tocco GhostLock (CVE-2026-43499)

    510
  • 3

    ARTEX

    baarai/artex

    Piattaforma di penetration testing autonoma multi-agente basata su LLM con agenti planner/worker, grafi di asset e di esplorazione, registrazione del traffico MITM e retesting delle vulnerabilità.

    415
  • 4

    redforge

    cybersecurity91/redforge

    Toolkit red team lato browser con 102 strumenti offline per ricognizione, generazione di payload, attacchi alle credenziali, crittografia, codifica e reportistica dell'engagement.

    343
  • 5

    antifox

    antifox-ai/antifox

    Piattaforma multi-agente di penetration testing autonoma basata sull'IA che esegue ricognizione, scoperta della superficie d'attacco, validazione dello sfruttamento e consegna di report supportati da evidenze.

    259
  • 6

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Il sistema d'azione per la cybersecurity nativa AI—dove l'intento diventa esecuzione governata, le evidenze diventano memoria operativa, e ogni operazione migliora la successiva.

    258

Esplora tutti gli strumenti

Sfoglia la nostra collezione di strumenti

Vedi tutti gli strumenti →