
مجموعة بيانات مطالبات (Prompts) قائمة على الذكاء الاصطناعي التوليدي وتركّز على الأمن السيبراني، لقياس أداء نماذج اللغة الكبيرة
تقدّم ورقة CySecBench ما يلي:
لماذا CySecBench؟
مجموعات البيانات الحالية واسعة جدًا وغالبًا ما تفتقر إلى التركيز على الأمن السيبراني. تسدّ CySecBench هذه الفجوة من خلال توفير موجهات خاصة بالمجال منظمة في 10 فئات، مما يتيح تقييمًا دقيقًا لآليات الأمان في نماذج اللغة الكبيرة.
يمكنك تنزيل الورقة البحثية الكاملة من هنا: CySecBench (PDF)
/
├── Code/
│ ├── dataset_generation.py
│ ├── keywords.txt
├── Dataset/
│ ├── Category sets/
│ │ ├── cysecbench-cloud-attacks.csv
│ │ ├── cysecbench-control-system-attacks.csv
│ │ ├── cysecbench-cryptographic-attacks.csv
│ │ ├── cysecbench-evasion-techniques.csv
│ │ ├── cysecbench-hardware-attacks.csv
│ │ ├── cysecbench-intrusion-techniques.csv
│ │ ├── cysecbench-iot-attacks.csv
│ │ ├── cysecbench-malware-attacks.csv
│ │ ├── cysecbench-network-attacks.csv
│ │ ├── cysecbench-web-application-attacks.csv
│ ├── Full dataset/
│ │ ├── cysecbench.csv
│ ├── Sample sets/
│ ├── cysecbench-500.csv
│ ├── cysecbench-2000.csv
│ ├── cysecbench-6000.csv
openai (فقط لتوليد مجموعة البيانات)| نموذج اللغة (LLM) | معدل النجاح (SR) | متوسط التقييم (AR) |
|---|---|---|
| 🤖 Claude | 17.4% | 2.00 |
إذا كنت تستخدم CySecBench، يرجى الاستشهاد بما يلي:
@article{CySecBench2024,
title = {{CySecBench: Generative AI-based CyberSecurity-focused Prompt Dataset for Benchmarking Large Language Models}},
author = {Johan Wahréus and Ahmed Mohamed Hussain and Panos Papadimitratos},
year = {2025},
journal = {arXiv preprint arXiv:2501.01335},
url = {https://arxiv.org/abs/2501.01335}
}
إذا وجدت CySecBench مفيدًا أو مثيرًا للاهتمام، فيرجى منح هذا المستودع نجمة ⭐ لإظهار دعمك!
هذا المشروع مرخّص بموجب رخصة MIT. راجع ملف LICENSE للحصول على التفاصيل.
| 🤖 ChatGPT | 65.4% | 4.06 |
| 🤖 Gemini | 88.4% | 4.77 |