Trustworthy RAG

وكيل تقييم لكشف المعلومات المضللة وتسميم المعرفة في أنظمة التوليد المعزز بالاسترجاع.

نظرة عامة

ينفّذ هذا المشروع إطار Trustworthy RAG مع وكيل تقييم مدمج يقيّم موثوقية استجابات RAG باستخدام ثلاثة مكونات تحليلية متكاملة:

• مدقّق NLI - فحص الاتساق الواقعي عبر الاستدلال اللغوي الطبيعي (BART-MNLI)
• كاشف التسميم - كشف متعدد الإشارات للمحتوى العدائي (لغوي، بنيوي، دلالي، NLI داخل/عبر المستندات)
• حاسبة مؤشر الثقة - درجة مركّبة موزونة تجمع بين الواقعية والاتساق وسلامة التسميم

ينتج النظام درجة ثقة (0-1) لكل استجابة RAG، مما يتيح الكشف الآلي عن هجمات تسميم المعرفة والمحتوى الهلوسي.

هذا المستودع هو النتاج البحثي لورقة مؤتمر ICSEA 2026 التي تحمل العنوان نفسه. راجع [Conference_ICSEA2026/](https://github.com/gpt-laboratory/trustworthyrag/blob/main/Conference_ICSEA2026) للحصول على مصادر LaTeX، وقسم الورقة أدناه.

البنية

User Query
    |
    v
+-------------------+
|     RETRIEVER     |   Embedding (MiniLM-L6-v2 or Snowflake Arctic Embed2) + FAISS
+--------+----------+
         |
         v
+-------------------+
|     GENERATOR     |   Llama 3.3 70B / Qwen 3.5 35B / Mistral 7B Instruct via FARMI API
+--------+----------+
         |
         v
+--------------------------------------------+
|           EVALUATION AGENT                 |
|                                            |
|  NLI Verifier    Poison Detector           |
|  (factuality)    (5 detection methods)     |
|       |                |                   |
|       v                v                   |
|     Trust Index Calculator                 |
|     T = 0.4*F + 0.35*C + 0.25*(1-P)       |
+--------------------------------------------+
         |
         v
   Answer + Trust Score + Evaluation Report

هيكل المشروع

src/
  retriever/              # Document retrieval (embeddings, FAISS, chunking)
  generator/              # LLM response generation (FARMI client, prompts)
  evaluation_agent/       # Core evaluation (NLI, poison detection, trust index)
  experiments/            # Experiment framework (poisoned datasets, runner)
  pipeline/               # End-to-end RAG pipeline orchestrator

tests/                    # Unit tests (78 tests, pytest)
configs/config.yaml       # All configuration parameters
figures/                  # Auto-generated charts (7 figures, 300 DPI)
run_experiment.py         # Experiment CLI (main entry point)
generate_charts.py        # Visualization generator
requirements.txt          # Python dependencies

الإعداد

# Create and activate virtual environment
python -m venv venv
.\venv\Scripts\Activate.ps1    # Windows PowerShell
# source venv/bin/activate     # Linux/Mac

# Install dependencies
pip install -r requirements.txt

# Configure FARMI API access (required for LLM generation)
# Copy the template and fill in your own credentials:
#   cp .env.example .env       # then edit .env and set FARMI_API_KEY
# The .env file is .gitignored - never commit it or hardcode keys in source.

الاستخدام

تشغيل مجموعة التجارب الكاملة

python run_experiment.py --all

يشغّل هذا جميع التجارب ويولّد الرسوم البيانية تلقائيًا:

• تجربة TruthfulQA الرئيسية (100 عينة، تسميم مختلط)
• تجارب حسب الاستراتيجية (100 عينة لكل منها: الحقن، التناقض، استبدال الكيان، الخفي)
• تجربة مجموعة بيانات FEVER (100 عينة)
• دراسة الاجتثاث (5 إعدادات أوزان، 60 عينة لكل منها)

خيارات التجارب الأخرى

python run_experiment.py --quick          # Quick test (10 samples)
python run_experiment.py --samples 30     # Custom sample count
python run_experiment.py --per-strategy   # Per-strategy breakdown only
python run_experiment.py --fever          # Include FEVER dataset
python run_experiment.py --ablation       # Ablation study only
python run_experiment.py --grid           # 2x2 factorial grid (all LLM x embedding combos)
python run_experiment.py --grid --samples 50  # Full grid run (100 samples per config)

يتيح لك الموجه التفاعلي اختيار:

• LLM: Llama 3.3 70B (أساسي)، Qwen 3.5 35B أو Mistral 7B Instruct (للمقارنة)
• التضمين: all-MiniLM-L6-v2 (محلي) أو snowflake-arctic-embed2 (API)
• K: عمق الاسترجاع — K=3 (أسرع) أو K=5 (قياسي، افتراضي)

يمكنك أيضًا تثبيت المولّد دون تفاعل عبر متغير البيئة LLM_MODEL (بما يطابق configs/config.yaml وMODEL_DESCRIPTIONS في run_experiment.py):

$env:LLM_MODEL = "mistral-7b-instruct"   # or "qwen3.5:35b", "llama3.3:70b"
python run_experiment.py --all

حالة استخدام SDLC للبرمجة الآمنة

أعد إنتاج تجربة مساعد البرمجة الآمنة (40 قاعدة OWASP/CWE) من جذر المشروع. يعيد استخدام ExperimentRunner وPoisonedDatasetGenerator الحاليين ويكتب النتائج إلى data/experiments/seccode_*.json:

$env:LLM_MODEL = "llama3.3:70b"; $env:HF_HUB_OFFLINE = "1"; $env:TRANSFORMERS_OFFLINE = "1"
python Conference_ICSEA2026/run_seccode_usecase.py
# Set $env:SECCODE_N = "4" first for a quick smoke run over a few rules.

إعادة توليد الرسوم البيانية فقط

python generate_charts.py

تشغيل الاختبارات

pytest                    # All tests (includes slow model-loading tests)
pytest -m "not slow"      # Fast tests only (~0.4s)
pytest --cov=src          # With coverage report

النتائج الرئيسية

النتائج الأساسية (Llama 3.3 70B + all-MiniLM-L6-v2، TruthfulQA، K=5، 100 عينة)

مجموعة البيانات	الدقة	الضبط	الاستدعاء	درجة F1	مقابل خط الأساس
TruthfulQA (مختلط)	91%	100%	40%	57.1%	+7%
FEVER (تشغيل كامل)	73%	20%	26.7%	22.9%	−12%

خط الأساس الساذج الذي يثق دائمًا: 85% (TruthfulQA)، 85% (FEVER).

أداء FEVER أدنى من خط الأساس — يتطلب مؤشر الثقة معايرة خاصة بالمجال للادعاءات الواقعية القصيرة.

مع فواصل ثقة 95% (Wilson للنسب، bootstrap المئوي B=20,000 لـ F1)، تكون النتيجة المختلطة الأساسية لـ TruthfulQA: دقة 91% (CI 83.8–95.2)، استدعاء 40% (CI 19.8–64.3)، F1 بنسبة 57.1% (CI 25.0–80.0)، Δ=0.225. الفواصل واسعة لأن كل تشغيلة تحتوي على 15 عينة مسمومة فقط، لذلك نذكرها لتجنب المبالغة في تقدير الدقة.

الكشف حسب الاستراتيجية (TruthfulQA، 100 عينة لكل منها)

الاستراتيجية	الدقة	الضبط	الاستدعاء	F1	الفصل
الحقن	99%	93.8%	100%	96.8%	0.498
التناقض	92%	88.9%	53.3%	66.7%	0.311
الخفي	88%	100%	20.0%	33.3%	0.149
استبدال الكيان	85%	—	0%	0%	0.053

الشبكة العاملية 2×2 (K=3، TruthfulQA، 100 عينة)

LLM	التضمين	الدقة	الضبط	الاستدعاء	F1	ثقة العينات النظيفة	الفصل
Llama 3.3 70B	all-MiniLM-L6-v2	91%	100%	40%	57.1%	0.830	0.240
Llama 3.3 70B	snowflake-arctic-embed2	91%	100%	40%	57.1%	0.799	0.188
Qwen 3.5 35B	all-MiniLM-L6-v2	71%	25.0%	46.7%	32.6%	0.633	0.161
Qwen 3.5 35B	snowflake-arctic-embed2	71%	28.1%	60.0%	38.3%	0.653	0.199

النتائج الرئيسية:

• ثبات التضمين بالنسبة إلى Llama: ينتج نموذجا التضمين نتائج كشف متطابقة — مؤشر الثقة مدفوع بـ LLM وليس بالاسترجاع
• مشكلة أسلوب توليد Qwen: المخرجات المطوّلة/المراوغة تقلل من استلزام NLI للعينات النظيفة → دقة 71%، أقل بـ 14 نقطة مئوية من خط الأساس الساذج البالغ 85%
• نتيجة صفرية لحساسية K: ينتج K=5 أداء كشف مطابقًا لـ K=3 بالنسبة إلى Llama 3.3 70B — لا يتغير فصل درجة الثقة إلا بمقدار 0.015؛ الكشف مقيد بصعوبة استراتيجية الهجوم، وليس بعمق الاسترجاع

حالة استخدام SDLC للبرمجة الآمنة (OWASP/CWE)