FreeMOCA: दुर्भावनापूर्ण कोड विश्लेषण के लिए मेमोरी-मुक्त सतत अधिगम

[ArXiv पेपर लिंक]

Zahra Asadi*, Haeseung Jeon*, Sohyun Han, Md Mahmuduzzaman Kamol, Se Eun Oh, Mohammad Saidur Rahman†

*समान रूप से श्रेय प्राप्त लेखक। †संबंधित लेखक।

[!NOTE] यह पेपर FreeMOCA: दुर्भावनापूर्ण कोड विश्लेषण के लिए मेमोरी-मुक्त सतत अधिगम का आधिकारिक कार्यान्वयन है।

FreeMOCA पाइपलाइन

FreeMOCA निम्नलिखित प्रक्रिया के अनुसार कार्य करता है:

1. कार्य क्रमिक रूप से आते हैं, जिनमें से प्रत्येक नए मैलवेयर परिवारों को प्रस्तुत करता है।
2. प्रत्येक कार्य के लिए मॉडल को पिछले कार्य से (warm-start) प्रारंभ किया जाता है, ताकि पैरामीटर स्पेस में कार्यों के न्यूनतम बिंदु संरेखित हो सकें।
3. प्रशिक्षण के बाद, वर्तमान और पिछले कार्य के इष्टतम बिंदुओं के बीच एक mode connectivity–based interpolation की गणना की जाती है। यह प्रक्रिया पैरामीटर अपडेट परिमाण के आधार पर adaptive layer-wise interpolation का उपयोग कर सकती है।
4. इंटरपोलेटेड मॉडल वर्तमान मॉडल को प्रतिस्थापित करता है और अगले कार्य के लिए उपयोग किया जाता है।
5. कोई पिछला डेटा, फीचर्स या जनरेटेड सैंपल संग्रहीत नहीं किए जाते, जिसके परिणामस्वरूप मेमोरी-मुक्त सतत अधिगम होता है।

पूरी प्रक्रिया जुड़े हुए समाधानों की एक श्रृंखला निर्मित करती है जो निम्न-हानि मैनिफोल्ड पर स्थित होते हैं, जिससे विनाशकारी विस्मृति काफी कम हो जाती है।

डेटासेट

FreeMOCA का मूल्यांकन दो बड़े पैमाने के मैलवेयर डेटासेट, EMBER और Androzoo, के साथ किया गया। डेटासेट स्रोत:

• EMBER: https://github.com/elastic/ember
• Androzoo (AZ): https://zenodo.org/records/14537891

डेटासेट को निम्न निर्देशिका में डाउनलोड करें और सेट अप करें:

FreeMOCA/data/
├── AZ_Class
│   ├── AZ_Class_Test.npz
│   └── AZ_Class_Train.npz
│
├── AZ_Domain
│   ├── 2008_Domain_AZ_Test_Transfo...
│   ├── 2008_Domain_AZ_Train_Transfo...
│   ├── 2009_Domain_AZ_Test_Transfo...
│   └── ...
│
├── EMBER_Class
│   ├── XY_test.npz
│   └── XY_train.npz
│
└── EMBER_Domain
    ├── 2018-01
    ├── 2018-02
    ├── 2018-03
    └── ...

FreeMOCA चलाना

यह रिपॉजिटरी दो सतत अधिगम परिदृश्यों का समर्थन करती है:

• Class-Incremental Learning (Class-IL): कार्यों के दौरान नई कक्षाएं (मैलवेयर परिवार) शामिल की जाती हैं।
• Domain-Incremental Learning (Domain-IL): लेबल स्पेस निश्चित रहता है, लेकिन डेटा वितरण समय के साथ बदलता है (जैसे, महीनों/वर्षों में)।

चरण 1. इंस्टॉलेशन

इसके लिए निम्न कमांड चलाएं

conda create -n freemoca python=3.9
conda activate freemoca
pip install -r requirements.txt

चरण 2. FreeMOCA चलाएं (Class-IL और Domain-IL)

# EMBER Class-IL
cd ./FreeMOCA_Class/EMBER_Class
CUDA_VISIBLE_DEVICES=0 python main.py --train_data /path/to/data --test_data /path/to/data

# AZ Class-IL
cd ./FreeMOCA_Class/AZ_Class
CUDA_VISIBLE_DEVICES=0 python main.py --train_data /path/to/data --test_data /path/to/data

# EMBER Domain-IL
cd ./FreeMOCA_Domain/EMBER_Domain
CUDA_VISIBLE_DEVICES=0 python main.py --data_root /path/to/data/directory

# AZ Domain-IL
cd ./FreeMOCA_Domain/AZ_Domain
CUDA_VISIBLE_DEVICES=0 python main.py --data_root /path/to/data/directory

हाइपरपैरामीटर के अधिक विस्तृत सेटअप के लिए, परिशिष्ट A. FreeMOCA के सामान्य आर्ग्युमेंट देखें।

परिशिष्ट A. FreeMOCA के सामान्य आर्ग्युमेंट

हाइपरपैरामीटर या प्रयोगात्मक सेटिंग्स को समायोजित करने के लिए, निम्न आर्ग्युमेंट का उपयोग करें:

आर्ग्युमेंट	विवरण
--init_classes	कार्य 0 पर कक्षाओं की संख्या
--epochs	प्रति कार्य एपॉक्स
--batchsize	बैच आकार
--lr	अधिगम दर
--momentum	SGD मोमेंटम
--weight_decay	वेट डेके
--lambda_min	न्यूनतम इंटरपोलेशन भार
--lambda_max	अधिकतम इंटरपोलेशन भार

आर्ग्युमेंट की डिफ़ॉल्ट सेटिंग बदलने के लिए, arguments.py फ़ाइल देखें।

बेसलाइन्स

हमारी रिपॉजिटरी निम्नलिखित मानक बेसलाइन्स पर प्रयोगों का समर्थन करती है:

• None: केवल वर्तमान कार्य पर प्रशिक्षण (निचली सीमा)
• Joint: अब तक देखे गए सभी डेटा पर प्रशिक्षण (ऊपरी सीमा, अव्यावहारिक)

आप इसे निम्न कमांड के साथ चला सकते हैं:

cd /path/to/experiment/directory
CUDA_VISIBLE_DEVICES=0 python none.py --arugment_you_want
CUDA_VISIBLE_DEVICES=0 python joint.py --arugment_you_want

और निम्नलिखित पिछले कार्य:

• CLeWI: इस GitHub रिपॉजिटरी से संशोधित, "Continual Learning with Weight Interpolation" कार्य पर आधारित।
• WSC: इस GitHub रिपॉजिटरी से संशोधित, "Forget Forgetting: Continual Learning in a World of Abundant Memory" कार्य पर आधारित।
• Generative Replay (GR): इस GitHub रिपॉजिटरी से संशोधित, "Continual learning with deep generative replay" कार्य पर आधारित।
• EWC: इस GitHub रिपॉजिटरी से संशोधित, "Overcoming catastrophic forgetting in neural networks" कार्य पर आधारित।
• LwF: इस GitHub रिपॉजिटरी से संशोधित, "Learning without Forgetting" कार्य पर आधारित।
• iCaRL: इस GitHub रिपॉजिटरी से संशोधित, "iCaRL: Incremental Classifier and Representation Learning" कार्य पर आधारित।
• TAMiL: इस GitHub रिपॉजिटरी से संशोधित, "Task-Aware Information Routing from Common Representation Space in Lifelong Learning" कार्य पर आधारित।
• MalCL: इस GitHub रिपॉजिटरी से संशोधित, "MalCL: Leveraging GAN-Based Generative Replay to Combat Catastrophic Forgetting in Malware Classification" कार्य पर आधारित।

आप बेसलाइन्स को निम्न कमांड के साथ चला सकते हैं:

# CLeWI for EMBER-Class
cd ./baselines/CLeWI
CUDA_VISIBLE_DEVICES=6 python main.py --model="clewi" \
  --dataset="seq_ember" --n_tasks=11 \
  --lr=0.001 --buffer_size=500 --n_epochs=50 \
  --seed=42 --optim_wd=0.0 --optim_mom=0.0 \
  --batch_size=512 --sub_dataset="ember"

# CLeWI for AZ-Class
cd ./baselines/CLeWI
CUDA_VISIBLE_DEVICES=6 python main.py --model="clewi" \
  --dataset="seq_ember" --n_tasks=11 \
  --lr=0.001 --buffer_size=500 --n_epochs=50 \
  --seed=42 --optim_wd=0.0 --optim_mom=0.0 \
  --batch_size=512 --sub_dataset="az"

# WSC for EMBER-Class
cd ./baselines/WSC
MODEL_NAME=wsc_20_ember
python main.py --config=./exps/wsc_memory/$MODEL_NAME.json

# WSC for AZ-Class
cd ./baselines/WSC
MODEL_NAME=wsc_20_az
python main.py --config=./exps/wsc_memory/$MODEL_NAME.json

# GR for EMBER-Class
cd ./baselines/GR_EWC_LwF_iCaRL_EMBER
CUDA_VISIBLE_DEVICES=0 python main.py --data_set=EMBER --tasks=11 --replay=generative --metrics --logger_file gr --scenario=class

# GR for AZ-Class
cd ./baselines/GR_EWC_LwF_iCaRL_AZ
CUDA_VISIBLE_DEVICES=0 python main.py --data_set=ANDROZOO --tasks=11 --replay=generative --metrics --logger_file gr --scenario=class