Модели графов для угроз изнутри (R5.2 и R6.2)

Этот репозиторий содержит подготовку данных, извлечение признаков и графовые модели (GCN-NN, GCN-BiLSTM и GCN-BiLSTM+Attention для неявных+явных сигналов) для обнаружения угроз изнутри с использованием набора данных CMU CERT Insider Threat Test Dataset (R5.2, R6.2).

Структура репозитория

.
│   environment.yml
│   requirements.txt
│   tree.txt
│
├── data/
│   ├── original/
│   │   ├── r5_data/
│   │   └── r6_data/
│   ├── preprocessed/
│   │   ├── r5_data/
│   │   └── r6_data/
│   ├── r5.2-used-model/
│   └── r6.2_used_model/
│
├── notebook/
│   │   01_feature_extraction.ipynb
│   │   02_GCN-LSTM.ipynb
│   │   03_GCN.ipynb
│   │   04_GCN_Implicit_Explicit.ipynb
│   │   r5_data_preparation.ipynb
│   │   r6_data_preparation.ipynb
│   │   email_http_divider.ipynb
│
└── script/
    │   get_feature.py
    │   process_feature.py
    └── __pycache__/

Полное дерево (включая все файлы .pkl и контрольные точки моделей) можно сохранить в tree.txt, чтобы сделать этот README кратким.

Установка

1. Клонируйте репозиторий

   root@kitploit:~

   git clone https://github.com/your-username/your-repo.git
   cd your-repo
   

2. Создайте окружение Conda

   root@kitploit:~

   conda env create -f environment.yml
   

3. Активируйте его

   root@kitploit:~

   conda activate <env_name>
   

   Замените <env_name> на значение под name: в environment.yml.

4. (Опционально) Установка только через pip

   root@kitploit:~

   pip install -r requirements.txt
   

Данные

1. Загрузите набор данных CMU CERT Insider Threat Test Dataset (R5.2 и R6.2) с:
   https://kilthub.cmu.edu/articles/dataset/Insider_Threat_Test_Dataset/12841247

2. Поместите исходные данные в:

   root@kitploit:~

   data/original/r5_data/
   data/original/r6_data/
   

Предварительная обработка

Запустите блокноты подготовки для создания файлов сессий и канонических CSV/PKL.

• R5.2

  root@kitploit:~

  notebook/r5_data_preparation.ipynb
  

• R6.2

  root@kitploit:~

  notebook/r6_data_preparation.ipynb
  

Ожидаемые результаты R5.2 (примеры):

r5_small_device_session.pkl
r5_small_file_session.pkl
r5_small_email_session.pkl
r5_small_http_session.pkl
r5_small_sessoion_data.pkl
r5_small_session_log_df.pkl

Ожидаемые результаты R6.2 включают:

r6_2_small_device_session.pkl
r6_2_small_file_session.pkl
r6_2_small_email_session.pkl
r6_2_small_http_session.pkl
r6_2_small_session_log_df.pkl
r6_2_user_df_pc.csv

Результаты сохраняются в:

data/preprocessed/r5_data/
data/preprocessed/r6_data/

Извлечение признаков

Запустите:

notebook/01_feature_extraction.ipynb

Результаты:

log_activity_code.pkl
device_activity_code.pkl
file_activity_code.pkl
email_activity_code.pkl
http_activity_code.pkl

Этот блокнот также генерирует списки/маски графов, например:

data/preprocessed/r6_data/r6_graph_list_feature_corrected_range_corrected.pkl

Модели

• GCN-BiLSTM (Явные сигналы)

  root@kitploit:~

  notebook/02_GCN-LSTM.ipynb
  

• GCN-NN (Явные сигналы)

  root@kitploit:~

  notebook/03_GCN.ipynb
  

• GCN-BiLSTM + Attention (Неявные + Явные сигналы)

  root@kitploit:~

  notebook/04_GCN_Implicit_Explicit.ipynb
  

Предварительно обученные контрольные точки и артефакты ROC находятся в:

data/r5.2-used-model/
data/r6.2_used_model/

Каждая подпапка содержит:

*.pth                 # веса модели
roc_curve_data_*.npz  # сохраненные данные ROC-кривых
roc_curves*.png       # ROC-графики