Modelli a grafi per la minaccia interna (R5.2 & R6.2)

Questa repository contiene la preparazione dei dati, l'estrazione delle feature e modelli basati su grafi (GCN-NN, GCN-BiLSTM e GCN-BiLSTM+Attention per segnali impliciti+espliciti) per il rilevamento delle minacce interne utilizzando il CMU CERT Insider Threat Test Dataset (R5.2, R6.2).

Struttura della repository

.
│   environment.yml
│   requirements.txt
│   tree.txt
│
├── data/
│   ├── original/
│   │   ├── r5_data/
│   │   └── r6_data/
│   ├── preprocessed/
│   │   ├── r5_data/
│   │   └── r6_data/
│   ├── r5.2-used-model/
│   └── r6.2_used_model/
│
├── notebook/
│   │   01_feature_extraction.ipynb
│   │   02_GCN-LSTM.ipynb
│   │   03_GCN.ipynb
│   │   04_GCN_Implicit_Explicit.ipynb
│   │   r5_data_preparation.ipynb
│   │   r6_data_preparation.ipynb
│   │   email_http_divider.ipynb
│
└── script/
    │   get_feature.py
    │   process_feature.py
    └── __pycache__/

L'albero completo e profondo (inclusi tutti i .pkl e i checkpoint dei modelli) può essere mantenuto in tree.txt per tenere questo README conciso.

Installazione

1. Clona la repository

   root@kitploit:~

   git clone https://github.com/your-username/your-repo.git
   cd your-repo
   

2. Crea l'ambiente Conda

   root@kitploit:~

   conda env create -f environment.yml
   

3. Attivalo

   root@kitploit:~

   conda activate <env_name>
   

   Sostituisci <env_name> con il valore sotto name: in environment.yml.

4. (Opzionale) Installazione solo con pip

   root@kitploit:~

   pip install -r requirements.txt
   

Dati

1. Scarica il CMU CERT Insider Threat Test Dataset (R5.2 e R6.2) da:
   https://kilthub.cmu.edu/articles/dataset/Insider_Threat_Test_Dataset/12841247

2. Posiziona i dati grezzi in:

   root@kitploit:~

   data/original/r5_data/
   data/original/r6_data/
   

Preelaborazione

Esegui i notebook di preparazione per creare i file di sessione più piccoli e i CSV/PKL canonici.

• R5.2

  root@kitploit:~

  notebook/r5_data_preparation.ipynb
  

• R6.2

  root@kitploit:~

  notebook/r6_data_preparation.ipynb
  

Output previsti per R5.2 (esempi):

r5_small_device_session.pkl
r5_small_file_session.pkl
r5_small_email_session.pkl
r5_small_http_session.pkl
r5_small_sessoion_data.pkl
r5_small_session_log_df.pkl

Gli output previsti per R6.2 includono:

r6_2_small_device_session.pkl
r6_2_small_file_session.pkl
r6_2_small_email_session.pkl
r6_2_small_http_session.pkl
r6_2_small_session_log_df.pkl
r6_2_user_df_pc.csv

Gli output vengono salvati in:

data/preprocessed/r5_data/
data/preprocessed/r6_data/

Estrazione delle feature

Esegui:

notebook/01_feature_extraction.ipynb

Output:

log_activity_code.pkl
device_activity_code.pkl
file_activity_code.pkl
email_activity_code.pkl
http_activity_code.pkl

Questo notebook genera anche liste/maschere dei grafi, ad esempio:

data/preprocessed/r6_data/r6_graph_list_feature_corrected_range_corrected.pkl

Modelli

• GCN-BiLSTM (Esplicito)

  root@kitploit:~

  notebook/02_GCN-LSTM.ipynb
  

• GCN-NN (Esplicito)

  root@kitploit:~

  notebook/03_GCN.ipynb
  

• GCN-BiLSTM + Attention (Implicito + Esplicito)

  root@kitploit:~

  notebook/04_GCN_Implicit_Explicit.ipynb
  

I checkpoint preaddestrati e gli artefatti ROC si trovano in:

data/r5.2-used-model/
data/r6.2_used_model/

Ogni sottocartella contiene:

*.pth                 # model weights
roc_curve_data_*.npz  # saved ROC curve data
roc_curves*.png       # ROC plots