centisgood/duo-agentflow-auditorأمان كود الذكاء الاصطناعي — أربعة وكلاء يكتشفون ما يفوته SAST في الكود المولّد بالذكاء الاصطناعي. مبني على GitLab Duo Agent Platform.
40-62% من الكود المولّد بالذكاء الاصطناعي يحتوي على ثغرات أمنية. أدوات SAST التقليدية تكتشف CVEs. نحن نكتشف ما تفوته SAST — حقن التعليمات، تنفيذ مخرجات LLM، إلغاء تسلسل ML غير آمن.
يُسرّع الذكاء الاصطناعي توليد الكود ولكنه يُحدث اختناقات أمنية جديدة:
| المشكلة | الأثر |
|---|---|
| مراجعات الأمان تعيق طلبات الدمج لساعات أو أيام | 7 ساعات/أسبوع ضائعة لكل فرد في الفريق |
| الذكاء الاصطناعي يزيد صعوبة إدارة الامتثال | 70% من الفرق تبلغ عن ذلك |
| اكتشاف مشاكل الامتثال بعد النشر | 76% من المؤسسات |
| أدوات SAST التقليدية تفوت المخاطر الخاصة بالذكاء الاصطناعي | حقن التعليمات، تنفيذ مخرجات LLM، إلغاء تسلسل ML غير آمن |
| 40-62% من الكود المولّد بالذكاء الاصطناعي به ثغرات | لا توجد أداة حالية تكتشف أنماط التهديد الخاصة بالذكاء الاصطناعي |
المصدر: تقرير GitLab 2025 العالمي لـ DevSecOps
مدقق سير عمل AgentFlow — أربعة وكلاء ذكاء اصطناعي يكتشفون المخاطر الأمنية التي تفوتها SAST التقليدية في الكود المولّد بالذكاء الاصطناعي. 41 قاعدة كشف تشمل حقن تعليمات LLM، تنفيذ المخرجات، إلغاء تسلسل غير آمن، حقن SQL، SSRF، واجتياز المسار. ينشر تقارير قابلة للفحص، ويُولّد تصحيحات الإصلاح، ويتتبع انحراف المخاطر. إشارة واحدة @ تُشغّل كل شيء.
Developer opens MR │ ▼ @duo-agentflow-auditor review this MR │ ▼ ┌───────────────────────────────────────────────────────┐ │ │ │ ┌─────────────┐ ┌──────────────────┐ │ │ │ Scanner │──────▶│ Reporter │ │ │ │ Agent │ │ Agent │ │ │ │ │ │ │ │ │ │ Read diffs │ │ Grade risk │ │ │ │ Match 34 │ │ Risk heatmap │ │ │ │ rules │ │ Post MR comment │ │ │ │ Score risk │ │ Create issue │ │ │ └─────────────┘ └────────┬─────────┘ │ │ │ │ │ ┌───────┴────────┐ │ │ │ SAFE? │ │ │ │ ├─ Yes ──────────────┐ │ │ │ └─ No ───┐ │ │ │ │ └───────────┘ │ │ │ │ │ │ │ │ │ ┌─────────────┐ ┌────────▼───────┘┐ │ │ │ │ Metrics │◀──────│ Fixer │ │ │ │ │ Agent │ │ Agent │ │ │ │ │ │◀──────────────────────────────┘ │ │ │ Baseline │ │ Confidence-scored│ │ │ │ Cross-MR │ │ patches │ │ │ │ Green │ │ Fix branch + MR │ │ │ │ Posture │ │ │ │ │ └─────────────┘ └─────────────────┘ │ │ │ │ GitLab Duo Agent Platform (ambient) │ │ │ │ ┌───────────────────────────────────────────┐ │ │ │ External SAST Agent (CI/CD container) │ │ │ │ bandit + semgrep + custom rules merge │ │ │ └───────────────────────────────────────────┘ │ └───────────────────────────────────────────────────────┘
### قائمة الوكلاء
| الوكيل | الدور | الأدوات | القدرة الرئيسية |
|:------|:-----|:------|:---------------|
| **Scanner** | تحليل فرق MR | 10 أدوات | 41 قاعدة (26 regex + 15 Semgrep), كشف التهديدات الخاصة بالذكاء الاصطناعي, تكامل الثغرات |
| **Reporter** | نشر تقارير التدقيق | 7 أدوات | قابل للمسح في 10 ثوانٍ (درجة + خريطة حرارية + أعلى 5), ربط الثغرات, إنشاء مشكلة تلقائيًا عند DANGER |
| **Fixer** | توليد إصلاحات الكود | 8 أدوات | تصحيحات مدعومة بنسبة ثقة (HIGH/MEDIUM/LOW), إنشاء MR للإصلاح التلقائي |
| **Metrics** | تتبع خط الأساس للمخاطر | 6 أدوات | تعلم عبر MR, وضع الفريق, انحراف خط الأساس, تتبع الطاقة/الكربون |
| **SAST Scanner** | SAST خارجي | CI/CD | تشغيل bandit + semgrep, الدمج مع القواعد المخصصة عبر سكريبت Python |
---
## المميزات
<table>
<tr>
<td width="50%">
### فحص الأمان
- **41 قاعدة كشف** — 26 تعبيرًا منتظمًا + 15 قاعدة Semgrep مخصصة
- **8 فئات مخاطر** — من الأوامر التدميرية إلى حقن الاستفسارات
- **كشف خاص بالذكاء الاصطناعي** — حقن الاستفسارات في LLM, الإخراج للتنفيذ, إلغاء التسلسل غير الآمن
- **تسجيل المخاطر** — 0-100 لكل اكتشاف (الخطورة × السياق × الفئة)
- **نظام الدرجات** — آمن / تحذير / خطر
</td>
<td width="50%">
### الأتمتة
- **تفعيل بمشغل واحد** — `@mention` أو تعيين المراجع
- **توجيه شرطي** — عمليات الفحص الآمنة تتخطى المُصلح, مما يوفر الرموز
- **تعليقات MR منظمة** — جداول المخاطر, اقتراحات الإصلاح, تفاصيل قابلة للطي
- **توليد الإصلاح التلقائي** — تصحيحات الكود على فرع جديد
- **إنشاء المشكلات** — تلقائي عند درجة الخطر
</td>
</tr>
<tr>
<td width="50%">
### تتبع خط الأساس
- **كشف انحراف المخاطر** — مقارنة عمليات الفحص بمرور الوقت
- **تحليل الاتجاه** — تحسن / تدهور / مستقر
- **معدل تبني الإصلاح** — تتبع عدد الاقتراحات المطبقة
- **سجل التاريخ** — إلحاق JSONL لكل فحص
</td>
<td width="50%">
### المقاييس الخضراء
- **تتبع الرموز** — الاستخدام لكل فحص
- **تقدير الطاقة** — كيلوواط ساعي لكل فحص
- **البصمة الكربونية** — كجم CO2 مع تشبيهات واقعية
- **اقتراحات التحسين** — تقليل نطاق الفحص, تخزين خطوط الأساس مؤقتًا
</td>
</tr>
</table>
---
## فئات الكشف
### قواعد Semgrep المخصصة
15 قاعدة Semgrep على مستوى الإنتاج عبر 6 فئات:
| القاعدة | الفئة | الخطورة | الكشف |
|:-----|:---------|:---------|:----------|
| `llm-prompt-injection` | أمان الذكاء الاصطناعي | WARNING | تدفق إدخال المستخدم إلى استدعاءات LLM API |
| `llm-output-code-exec` | أمان الذكاء الاصطناعي | ERROR | إخراج LLM يتم تمريره إلى exec/eval |
| `unsafe-deserialization-ml` | أمان الذكاء الاصطناعي | WARNING | pickle.load, torch.load على نماذج غير موثوقة |
| `sql-injection` | أمان الويب | ERROR | استعلامات SQL منسقة كسلسلة (f-string, .format, concat) |
| `path-traversal` | أمان الويب | ERROR | إدخال المستخدم في عمليات مسار الملف (عبور ../) |
| `ssrf-request-forgery` | أمان الويب | ERROR | عناوين URL يتحكم بها المستخدم في طلبات HTTP |
| `open-redirect` | أمان الويب | WARNING | إدخال المستخدم في دوال إعادة التوجيه |
| `missing-input-validation` | أمان الويب | WARNING | استخدام بيانات الطلب دون التحقق من الصحة بواسطة مخطط |
| `dangerous-eval-exec` | بايثون | WARNING | eval/exec مع محتوى ديناميكي |
| `subprocess-shell-true` | بايثون | WARNING | subprocess مع shell=True |
| `dangerous-os-system` | بايثون | WARNING | os.system/popen (مهمل) |
| `insecure-random-python` | التشفير | WARNING | وحدة random لرموز الأمان |
| `insecure-random-javascript` | التشفير | WARNING | Math.random() لرموز الأمان |
| `hardcoded-credentials` | الأسرار | WARNING | كلمات مرور, مفاتيح API, رموز مميزة ثابتة في الكود |
| `insecure-http` | الشبكة | INFO | عناوين URL HTTP (مع إصلاح تلقائي إلى HTTPS) |
### فئات الكشف بالتعبيرات المنتظمة
| الفئة | الخطورة | أمثلة الأنماط |
|:---------|:---------|:-----------------|
| أوامر تدميرية | 🚨 خطر | `rm -rf /`, `mkfs`, `dd to disk` |
| سرقة البيانات الاعتمادية | 🚨 خطر | `curl` ينشر الأسرار إلى عناوين URL خارجية |
| حقن الاستفسارات (شديد) | 🚨 خطر | "تجاهل التعليمات السابقة", تجاوزات الدور |
| تنفيذ مشوش | 🚨 خطر | `base64 -d \| bash`, أنبوب بعيد إلى شل |
| تنفيذ شل | ⚠️ تحذير | `shell=True`, `eval()`, `exec()`, `os.system()` |
| استدعاءات الشبكة | ⚠️ تحذير | `curl`/`wget`/`fetch` إلى عناوين URL خارجية |
| نقل غير آمن | ⚠️ تحذير | `http://` حيث يجب استخدام `https://` |
| بيانات اعتماد ثابتة في الكود | ⚠️ تحذير | كلمات مرور, مفاتيح API, رموز مميزة في المصدر |
### معادلة درجة المخاطر```
score = severity_weight + category_weight + executable_context + actionable + risk_modifier
= clamp(0, 100)
severity_weight: danger=50, warning=25
category_weight: destructive-command=15, credential-exfil=15, prompt-injection=10, ...
executable_context: +20 if file is .sh/.py/.js/.ts
actionable: +15 if executable AND not in trusted domain allowlist
risk_modifier: per-rule adjustment (0-15)
| الدرجة | الشرط | الإجراء |
|---|---|---|
| 🚨 خطر | max_risk >= 90 OR high_risk_findings >= 3 | حظر الدمج + إنشاء مشكلة |
| ⚠️ تحذير | max_risk >= 70 OR high_risk_findings >= 1 | مراجعة قبل الدمج |
| ✅ آمن | لا توجد إشارة خطر ذات معنى | آمن للدمج |
git clone https://gitlab.com/centisgood/duo-agentflow-auditor.git cd duo-agentflow-auditor
> 📖 دليل النسخ المتطابق الكامل (3 طرق، إعداد CI، استراتيجيات المزامنة): [`docs/GITLAB_MIRROR_GUIDE.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/docs/GITLAB_MIRROR_GUIDE.md)
### 2. النشر التلقائي للوكلاء والتدفق
تفرض مجموعة الهاكاثون [خط أنابيب CI مركزي](https://gitlab.com/gitlab-ai-hackathon/ci) عبر [سياسة أمان](https://gitlab.com/gitlab-ai-hackathon/security-policies). عند الدفع إلى GitLab، تقوم مهمة `catalog-sync` **تلقائيًا** بنشر جميع ملفات `agents/*.yml` و `flows/*.yml` إلى كتالوج AI — بدون إعداد يدوي أو حاجة لعلامات git.
> يتم تجاوز ملف `.gitlab-ci.yml` الخاص بمشروعك بواسطة خط الأنابيب المركزي للهاكاثون. ملف `.gitlab-ci.yml` المضمن يُستخدم كمرجع فقط.
| # | الوكيل | ملف الكتالوج | مستندات الموجه | الأدوات |
|---|-------|-------------|-------------|-------|
| 1 | Scanner | [`agents/scanner.yml`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/agents/scanner.yml) | [`agents/scanner.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/agents/scanner.md) | 8 أدوات |
| 2 | Reporter | [`agents/reporter.yml`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/agents/reporter.yml) | [`agents/reporter.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/agents/reporter.md) | 6 أدوات |
| 3 | Fixer | [`agents/fixer.yml`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/agents/fixer.yml) | [`agents/fixer.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/agents/fixer.md) | 8 أدوات |
| 4 | Metrics | [`agents/metrics.yml`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/agents/metrics.yml) | [`agents/metrics.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/agents/metrics.md) | 5 أدوات |
التدفق: [`flows/security-audit.yml`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/flows/security-audit.yml) — خط أنابيب مكون من 4 وكلاء مع توجيه Scanner → Reporter → Fixer → Metrics.
<details>
<summary>بديل: الإعداد اليدوي عبر واجهة GitLab</summary>
**الوكلاء**: Automate → Agents → New agent → لصق موجه النظام من ملفات `.md`
**التدفق**: Automate → Flows → New flow → لصق التعريف من [`flows/security-audit.yml`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/flows/security-audit.yml)
</details>
### 3. تفعيل المشغلات
| المشغل | الطريقة |
|---------|-----|
| الذكر | علق بـ `@duo-agentflow-auditor` في أي MR |
| تعيين المراجع | عين حساب الخدمة كمراجع MR |
### 4. جربها```bash
# Create test branch with vulnerable code
git checkout -b test/security-audit
cp examples/vulnerable-mr/* .
git add . && git commit -m "test: add vulnerable code for audit"
git push origin test/security-audit
# Open MR → Comment: @duo-agentflow-auditor please review this MR
شرح تفصيلي: انظر
docs/SETUP_GUIDE.md
Grade: 🚨 DANGER Recommendation: FAIL — do not merge without fixes
| Risk | File | Findings | Max Score |
|---|---|---|---|
| 🟥🟥🟥🟥🟥 | unsafe_script.py | 5 | 95 |
| 🟥🟥🟥🟧⬜ | risky_config.yaml | 3 | 78 |
| 🟧🟧⬜⬜⬜ | insecure_fetch.js | 2 | 62 |
🚨 unsafe_script.py:55 — rm -rf (95/100) 🚨 unsafe_script.py:13 — shell=True (88/100) 🚨 unsafe_script.py:27 — eval() (85/100) ⚠️ insecure_fetch.js:41 — HTTP (62/100)
### المقاييس الخضراء```markdown
### 🌱 Sustainability Report
| Metric | Value |
|---------------------|---------------------|
| Tokens Used | 12,450 |
| Energy | 0.0037 kWh |
| CO₂ Footprint | 0.0014 kg |
| Efficiency | 2.4 findings/1K tok |
💡 LED bulb for 13 seconds | 🚗 Car driving 5.6 meters
duo-agentflow-auditor/ │ ├── agents/ │ ├── scanner.yml # Catalog agent — security scanner │ ├── reporter.yml # Catalog agent — report generator │ ├── fixer.yml # Catalog agent — auto-fix patches │ ├── metrics.yml # Catalog agent — green metrics │ ├── scanner.md # Detailed prompt documentation │ ├── reporter.md # Detailed prompt documentation │ ├── fixer.md # Detailed prompt documentation │ └── metrics.md # Detailed prompt documentation │ ├── flows/ │ └── security-audit.yml # Catalog flow — conditional routing pipeline │ ├── scripts/ │ ├── merge_sast_results.py # SAST result merger (bandit + semgrep + custom rules) │ └── demo.sh # E2E demo automation (glab CLI) │ ├── tests/ │ └── test_merge_sast_results.py # 76 pytest tests — scoring, grading, parsing │ ├── .gitlab/ │ └── duo/ │ └── flows/ │ └── sast-scanner.yaml # External SAST agent (CI/CD container) │ ├── rules/ │ ├── danger_rules.json # 11 high-severity detection patterns │ ├── warning_rules.json # 15 medium-severity detection patterns │ └── semgrep/ # 15 Semgrep custom rules │ ├── ai-security/ # LLM prompt injection, output exec, unsafe deser │ ├── web-security/ # SQL injection, path traversal, SSRF, open redirect, input validation │ ├── python-security/ # eval/exec, subprocess, os.system │ ├── crypto/ # Insecure random (Python + JavaScript) │ ├── secrets/ # Hardcoded credentials │ └── network/ # Insecure HTTP (with autofix) │ ├── Dockerfile # Production SAST container (python:3.11-slim) ├── requirements.txt # bandit + semgrep dependencies │ ├── examples/ │ ├── vulnerable-mr/ # Intentionally risky code (demo) │ │ ├── unsafe_script.py # shell=True, eval(), rm -rf, cred leak │ │ ├── risky_config.yaml # Prompt injection, hardcoded secrets │ │ └── insecure_fetch.js # HTTP, exec(), token exposure │ └── safe-mr/ # Secure code for contrast (demo) │ ├── safe_script.py │ ├── safe_config.yaml │ └── safe_script.js # HTTPS, execFile, env vars │ ├── docs/ │ ├── SETUP_GUIDE.md # Step-by-step setup │ ├── EXECUTION_PLAN.md # Implementation plan │ ├── WOW_MOMENTS.md # Visual impact & demo choreography │ ├── DEVPOST_SUBMISSION.md # Devpost submission draft │ └── GITLAB_MIRROR_GUIDE.md # GitHub → GitLab mirroring │ ├── .gitlab-ci.yml # CI — catalog-sync + validation ├── AGENTS.md # Project-level agent customization ├── IMPLEMENTATION.md # Architecture & design document ├── CONTRIBUTING.md # Contribution guidelines ├── LICENSE # MIT License └── README.md # This file
---
## التقنية
| المكون | التقنية |
|:----------|:-----------|
| **المنصة** | GitLab Duo Agent Platform (GA in GitLab 18.8) |
| **نموذج الذكاء الاصطناعي** | Anthropic Claude Sonnet |
| **مخطط التدفق** | Flow Registry v1 (`ambient` environment) |
| **المحفزات** | إشارة، تعيين، تعيين المراجع |
| **أدوات الوكلاء** | 30+ أداة GitLab مدمجة عبر 4 وكلاء (بما في ذلك ربط الثغرات الأمنية) |
| **الكشف** | 41 قاعدة: 26 regex + 15 Semgrep (أمان الذكاء الاصطناعي، أمان الويب، التشفير، الأسرار، الشبكة) |
| **SAST الخارجي** | Dockerized bandit + semgrep مع دمج النتائج |
| **الاختبارات** | 76 اختبار pytest تغطي التقييم والتصنيف والتحليل |
| **المخرجات** | تعليقات MR بصيغة Markdown، مشكلات GitLab، طلبات الإصلاح MR |
---
## الوثائق
| المستند | الوصف |
|:---------|:-----------|
| [`IMPLEMENTATION.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/IMPLEMENTATION.md) | الهندسة المعمارية، معادلة التقييم، نص العرض التوضيحي، محاذاة التحكيم |
| [`docs/SETUP_GUIDE.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/docs/SETUP_GUIDE.md) | دليل مكون من 7 خطوات مع استكشاف الأخطاء وإصلاحها |
| [`docs/EXECUTION_PLAN.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/docs/EXECUTION_PLAN.md) | خطة من 6 مراحل مع حوالي 35 مهمة تفصيلية |
| [`docs/WOW_MOMENTS.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/docs/WOW_MOMENTS.md) | تصميم التأثير البصري وترتيب العرض التوضيحي |
| [`docs/DEVPOST_SUBMISSION.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/docs/DEVPOST_SUBMISSION.md) | نص نموذج التقديم للنسخ واللصق |
| [`AGENTS.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/AGENTS.md) | تخصيص الفحص على مستوى المشروع |
| [`docs/GITLAB_MIRROR_GUIDE.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/docs/GITLAB_MIRROR_GUIDE.md) | المرآة من GitHub إلى GitLab (3 طرق) |
| [`CONTRIBUTING.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/CONTRIBUTING.md) | كيفية المساهمة |
---
## الاختبارات```bash
# Run the full test suite (76 tests)
python -m pytest tests/ -v
# Run with coverage
python -m pytest tests/ --cov=scripts --cov-report=term-missing
تغطي الاختبارات: تحميل JSON، تحليل القواعد، توحيد الخطورة/الفئة، معادلة تسجيل المخاطر، تصنيف الدرجات، تحليل مخرجات bandit/semgrep، إزالة التكرار في النتائج، ونقطة الدخول لواجهة CLI.
scripts/demo.sh
scripts/demo.sh --gitlab-remote origin
scripts/demo.sh --cleanup
البرنامج النصي التجريبي ينشئ طلب دمج اختبارياً بكود ضعيف، ويشغل المدقق عبر `@mention`، ويجمع النتائج.
---
## المساهمة
انظر [`CONTRIBUTING.md`](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/CONTRIBUTING.md) للإرشادات.
**ملخص سريع:**
1. انسخ المستودع (Fork)
2. أنشئ فرعاً للميزة (`git checkout -b feature/amazing`)
3. نفذ التغييرات (`git commit -m 'feat: add amazing feature'`)
4. ادفع إلى الفرع (`git push origin feature/amazing`)
5. افتح طلب دمج (Merge Request)
---
## مفارقة الذكاء الاصطناعي — لماذا هذا مهم
<div align="center">
| بدون AgentFlow Auditor | مع AgentFlow Auditor |
|:--------------------------|:----------------------|
| طلب الدمج ينتظر أكثر من يومين للمراجعة | **45 ثانية** للتدقيق الكامل |
| SAST يفوت المخاطر الخاصة بالذكاء الاصطناعي | **41 قاعدة** تتضمن 3 قواعد خاصة بالذكاء الاصطناعي + 7 تهديدات أمنية للويب |
| لا توجد اقتراحات إصلاحية | **تصحيحات بمستوى ثقة** (عالي/متوسط/منخفض) |
| فحوصات SAFE تهدر رموز الإصلاح | **التوجيه الشرطي** يتجاوز الإصلاح |
| لا توجد تتبع مع الوقت | **تعلم عبر طلبات الدمج** + وضعية الفريق |
| لا وعي بالطاقة | **مقاييس خضراء** لكل فحص |
</div>
---
## الرخصة
هذا المشروع مرخص بموجب [رخصة MIT](https://gitlab.com/centisgood/duo-agentflow-auditor/-/blob/main/LICENSE).
---
<div align="center">
**مشغل واحد. أربعة وكلاء. صفر نقاط عمياء للذكاء الاصطناعي.**
مبني على [منصة GitLab Duo Agent](https://docs.gitlab.com/user/duo_agent_platform/) و [Anthropic Claude](https://www.anthropic.com/)
</div>