Modelos de Gráficos de Ameaças Internas (R5.2 & R6.2)

Este repositório contém preparação de dados, extração de características e modelos baseados em grafos (GCN-NN, GCN-BiLSTM e GCN-BiLSTM+Attention para sinais implícitos+explícitos) para deteção de ameaças internas usando o CMU CERT Insider Threat Test Dataset (R5.2, R6.2).

Estrutura do Repositório

.
│   environment.yml
│   requirements.txt
│   tree.txt
│
├── data/
│   ├── original/
│   │   ├── r5_data/
│   │   └── r6_data/
│   ├── preprocessed/
│   │   ├── r5_data/
│   │   └── r6_data/
│   ├── r5.2-used-model/
│   └── r6.2_used_model/
│
├── notebook/
│   │   01_feature_extraction.ipynb
│   │   02_GCN-LSTM.ipynb
│   │   03_GCN.ipynb
│   │   04_GCN_Implicit_Explicit.ipynb
│   │   r5_data_preparation.ipynb
│   │   r6_data_preparation.ipynb
│   │   email_http_divider.ipynb
│
└── script/
    │   get_feature.py
    │   process_feature.py
    └── __pycache__/

A árvore completa e profunda (incluindo todos os .pkl e checkpoints do modelo) pode ser mantida em tree.txt para manter este README curto.

Configuração

1. Clone o repositório

   root@kitploit:~

   git clone https://github.com/your-username/your-repo.git
   cd your-repo
   

2. Crie o ambiente Conda

   root@kitploit:~

   conda env create -f environment.yml
   

3. Ative-o

   root@kitploit:~

   conda activate <env_name>
   

   Substitua <env_name> pelo valor sob name: em environment.yml.

4. (Opcional) Instalação apenas com Pip

   root@kitploit:~

   pip install -r requirements.txt
   

Dados

1. Faça o download do CMU CERT Insider Threat Test Dataset (R5.2 e R6.2) de:
   https://kilthub.cmu.edu/articles/dataset/Insider_Threat_Test_Dataset/12841247

2. Coloque os dados brutos em:

   root@kitploit:~

   data/original/r5_data/
   data/original/r6_data/
   

Pré-processamento

Execute os notebooks de preparação para criar os ficheiros de sessão menores e os CSVs/PKLs canónicos.

• R5.2

  root@kitploit:~

  notebook/r5_data_preparation.ipynb
  

• R6.2

  root@kitploit:~

  notebook/r6_data_preparation.ipynb
  

Resultados esperados do R5.2 (exemplos):

r5_small_device_session.pkl
r5_small_file_session.pkl
r5_small_email_session.pkl
r5_small_http_session.pkl
r5_small_sessoion_data.pkl
r5_small_session_log_df.pkl

Resultados esperados do R6.2 incluem:

r6_2_small_device_session.pkl
r6_2_small_file_session.pkl
r6_2_small_email_session.pkl
r6_2_small_http_session.pkl
r6_2_small_session_log_df.pkl
r6_2_user_df_pc.csv

Os resultados são salvos em:

data/preprocessed/r5_data/
data/preprocessed/r6_data/

Extração de Características

Execute:

notebook/01_feature_extraction.ipynb

Resultados:

log_activity_code.pkl
device_activity_code.pkl
file_activity_code.pkl
email_activity_code.pkl
http_activity_code.pkl

Este notebook também gera listas/máscaras de grafos, por exemplo:

data/preprocessed/r6_data/r6_graph_list_feature_corrected_range_corrected.pkl

Modelos

• GCN-BiLSTM (Explicit)

  root@kitploit:~

  notebook/02_GCN-LSTM.ipynb
  

• GCN-NN (Explicit)

  root@kitploit:~

  notebook/03_GCN.ipynb
  

• GCN-BiLSTM + Attention (Implicit + Explicit)

  root@kitploit:~

  notebook/04_GCN_Implicit_Explicit.ipynb
  

Checkpoints pré-treinados e artefatos ROC estão em:

data/r5.2-used-model/
data/r6.2_used_model/

Cada subpasta contém:

*.pth                 # pesos do modelo
roc_curve_data_*.npz  # dados da curva ROC salvos
roc_curves*.png       # gráficos ROC