Modelos de Grafos de Amenazas Internas (R5.2 y R6.2)

Este repositorio contiene preparación de datos, extracción de características y modelos basados en grafos (GCN-NN, GCN-BiLSTM y GCN-BiLSTM+Attention para señales implícitas+explícitas) para la detección de amenazas internas utilizando el Conjunto de Datos de Prueba de Amenazas Internas CMU CERT (R5.2, R6.2).

Estructura del Repositorio

.
│   environment.yml
│   requirements.txt
│   tree.txt
│
├── data/
│   ├── original/
│   │   ├── r5_data/
│   │   └── r6_data/
│   ├── preprocessed/
│   │   ├── r5_data/
│   │   └── r6_data/
│   ├── r5.2-used-model/
│   └── r6.2_used_model/
│
├── notebook/
│   │   01_feature_extraction.ipynb
│   │   02_GCN-LSTM.ipynb
│   │   03_GCN.ipynb
│   │   04_GCN_Implicit_Explicit.ipynb
│   │   r5_data_preparation.ipynb
│   │   r6_data_preparation.ipynb
│   │   email_http_divider.ipynb
│
└── script/
    │   get_feature.py
    │   process_feature.py
    └── __pycache__/

El árbol completo y profundo (incluyendo todos los .pkl y puntos de control del modelo) se puede mantener en tree.txt para mantener este README breve.

Configuración

1. Clonar el repositorio

   root@kitploit:~

   git clone https://github.com/your-username/your-repo.git
   cd your-repo
   

2. Crear el entorno Conda

   root@kitploit:~

   conda env create -f environment.yml
   

3. Activarlo

   root@kitploit:~

   conda activate <env_name>
   

   Reemplace <env_name> con el valor bajo name: en environment.yml.

4. (Opcional) Instalación solo con pip

   root@kitploit:~

   pip install -r requirements.txt
   

Datos

1. Descargar el Conjunto de Datos de Prueba de Amenazas Internas CMU CERT (R5.2 y R6.2) desde:
   https://kilthub.cmu.edu/articles/dataset/Insider_Threat_Test_Dataset/12841247

2. Colocar los datos sin procesar en:

   root@kitploit:~

   data/original/r5_data/
   data/original/r6_data/
   

Preprocesamiento

Ejecutar los cuadernos de preparación para crear los archivos de sesión más pequeños y los CSVs/PKLs canónicos.

• R5.2

  root@kitploit:~

  notebook/r5_data_preparation.ipynb
  

• R6.2

  root@kitploit:~

  notebook/r6_data_preparation.ipynb
  

Salidas esperadas de R5.2 (ejemplos):

r5_small_device_session.pkl
r5_small_file_session.pkl
r5_small_email_session.pkl
r5_small_http_session.pkl
r5_small_sessoion_data.pkl
r5_small_session_log_df.pkl

Las salidas esperadas de R6.2 incluyen:

r6_2_small_device_session.pkl
r6_2_small_file_session.pkl
r6_2_small_email_session.pkl
r6_2_small_http_session.pkl
r6_2_small_session_log_df.pkl
r6_2_user_df_pc.csv

Las salidas se guardan en:

data/preprocessed/r5_data/
data/preprocessed/r6_data/

Extracción de Características

Ejecutar:

notebook/01_feature_extraction.ipynb

Salidas:

log_activity_code.pkl
device_activity_code.pkl
file_activity_code.pkl
email_activity_code.pkl
http_activity_code.pkl

Este cuaderno también genera listas/máscaras de grafos, p.ej.:

data/preprocessed/r6_data/r6_graph_list_feature_corrected_range_corrected.pkl

Modelos

• GCN-BiLSTM (Explícito)

  root@kitploit:~

  notebook/02_GCN-LSTM.ipynb
  

• GCN-NN (Explícito)

  root@kitploit:~

  notebook/03_GCN.ipynb
  

• GCN-BiLSTM + Attention (Implícito + Explícito)

  root@kitploit:~

  notebook/04_GCN_Implicit_Explicit.ipynb
  

Los puntos de control preentrenados y los artefactos ROC están en:

data/r5.2-used-model/
data/r6.2_used_model/

Cada subcarpeta contiene:

*.pth                 # model weights
roc_curve_data_*.npz  # saved ROC curve data
roc_curves*.png       # ROC plots