Agentic Evidence

أدلة أمنية وقابلية للمراقبة للذكاء الاصطناعي الوكيلي

Agentic Evidence هو مشروع مرجعي مفتوح المصدر تابع لـ OWASP يستكشف كيفية جمع الأدلة الأمنية الخاصة بتنفيذ الذكاء الاصطناعي الوكيلي وربطها وتقييمها.

يمكن لمراقبة الوكلاء أن تُظهر أنه تم تسجيل حدث ما. لكن التحقيق الأمني يحتاج إلى إثبات ما حدث، وأي الهويات والأذونات كانت متورطة، وما المدخلات التي أثّرت على الإجراء، وأي قرارات سياسات اتُّخذت، وما الاستنتاجات التي تدعمها الأدلة المتاحة فعليًا.

يركّز Agentic Evidence على كفاية الأدلة، وإعادة بناء التنفيذ، والتحقيق الأمني. وهو يكمّل تصنيفات أمن الوكلاء ومشاريع الاختبار بدلًا من تكرارها.

حالة المشروع: المشروع في مرحلة الاحتضان، ويجري التخطيط للتنفيذ الأولي. تمثّل البنية والأوامر الموصوفة في هذا المستند الحد الأدنى القابل للتطبيق (MVP) المقصود وقد تتغير مع وضع قرارات التنفيذ في صيغتها النهائية.

الأهداف

• إعادة بناء تنفيذات الوكلاء من أحداث التنفيذ والأحداث الأمنية المترابطة.
• ربط الإجراءات بالهويات والمدخلات والمحتوى المسترجَع واستدعاءات الأدوات وقرارات التفويض والنتائج.
• إظهار مصدر الأدلة وثغرات الأدلة للمحققين.
• إثبات ما يمكن وما لا يمكن استنتاجه من الأدلة المجمّعة.
• توفير سيناريوهات حتمية وقابلة للتكرار يمكن للمساهمين تشغيلها محليًا.
• نشر تصنيف قابل للتوسيع للأدلة وإرشادات عملية لممارسي الأمن.

السيناريوهات الأولية

1. تنفيذ حميد: إنشاء خط أساس لسير عمل وكيل طبيعي.
2. تسميم الاسترجاع: إثبات كيف يمكن للمحتوى المسترجَع أن يؤثر على إجراء وكيل وما إذا كانت الأدلة تلتقط تلك العلاقة.
3. تعديل واصف الأداة: تقييم ما إذا كانت الأدلة تستطيع إثبات أي واصف أداة تمت ملاحظته أو استخدامه وما إذا كانت التعديلات قابلة للكشف.

ينبغي أن تكون السيناريوهات حتمية وأن تستخدم بيانات اصطناعية. ويجب ألا يدّعي المشروع أن هجومًا ما قابل للكشف ما لم يدعم التنفيذ والاختبارات ذلك الادعاء.

الحد الأدنى المقصود القابل للتطبيق (MVP)

من المخطط أن يكون الإصدار الأول تطبيقًا مرجعيًا محليًا يتضمن:

• مشغّل سيناريوهات حتمي.
• مخطط أدلة JSON ذا إصدارات.
• قياس تنفيذ OpenTelemetry وربط الأحداث.
• مسجّل أدلة ومخزن أدلة محلي.
• واجهة تحقيق أمني مع خطوط زمنية للتنفيذ وتفاصيل الأحداث وثغرات الأدلة.
• حزم أدلة قابلة للتصدير.
• اختبارات آلية، وإعداد Docker Compose، ووثائق للمساهمين.

حزمة التقنيات المقترحة

المكوّن	التقنية المقترحة
التطبيق/واجهة البرمجة	Python مع FastAPI، أو Go حيث يكون مناسبًا
صيغة الأدلة	JSON ذو إصدارات مع JSON Schema
القياس	OpenTelemetry SDK و OTLP
التخزين المحلي	SQLite و/أو ملفات JSON ثابتة
واجهة التحقيق	Streamlit أو واجهة خفيفة مكافئة
النشر المحلي	Docker Compose
الاختبار	pytest والتحقق من المخطط
التكامل المستمر	GitHub Actions

هذه خيارات تنفيذ مقترحة، وليست ضمانًا لتوفر كل مكوّن. ينبغي توثيق قرارات البنية في المستودع وتغييرها فقط عند وجود مبرر تقني واضح.

ما ليس هذا المشروع

لا يُقصد بالإصدار الأولي أن يكون:

• نظام SIEM إنتاجيًا أو منصة قابلية مراقبة عامة الأغراض.
• بيئة تشغيل للوكلاء أو مزوّد نماذج أو محرك استجابة ذاتي.
• ضمانًا بأن الوكيل آمن أو أن الأدلة المسجّلة صادقة.
• بديلًا عن فرض التفويض أو ضوابط الأمن أثناء التشغيل أو الاستجابة للحوادث.
• معتمدًا على نموذج لغوي كبير (LLM) حي أو Kubernetes أو بنية سحابية.

القياس ليس دليلًا بحد ذاته. قد تكون الأحداث مفقودة أو مترابطة بشكل خاطئ أو مولّدة بواسطة مكوّن مخترَق. يجب أن يميّز التطبيق بين السجلات المرصودة، وإقرارات المكوّنات، والأدلة المتحقَّق منها بشكل مستقل، والمجهولات.

سير العمل المفاهيمي

1. تشغيل سيناريو حتمي.
2. توليد أحداث التنفيذ والأمان.
3. ربط الأحداث بتشغيل الوكيل وسياق التتبع.
4. التحقق من بنى الأحداث وتسجيل المصدر.
5. فحص الجداول الزمنية للتنفيذ وقرارات التفويض والنتائج وفجوات الأدلة.
6. تصدير حزمة الأدلة ومقارنتها بنتائج السيناريو المتوقعة.

توثيق المستودع

• البدء: الإعداد المحلي وسير عمل التشغيل الأول.
• الموارد: المعايير والمواصفات ومشاريع الأمان ذات الصلة.
• الأسئلة الشائعة: نطاق المشروع وموثوقية الأدلة وقيود القياس عن بُعد وأسئلة المساهمة.

مبادئ المشروع

• الأدلة قبل الادعاءات: يجب أن تُدعم النتائج بأدلة صريحة.
• إظهار عدم اليقين: الأدلة المفقودة نتيجة بحد ذاتها، وليست سببًا لاختلاق استنتاج.
• قابلية التكرار: يجب أن تحتوي السيناريوهات على مدخلات حتمية ونتائج متوقعة قابلة للاختبار.
• أقل قدر من البيانات: استخدم مدخلات اصطناعية افتراضيًا وتجنّب جمع الأسرار أو البيانات الشخصية غير الضرورية.
• التوافقية: يُفضّل استخدام المخططات الموثّقة وأعراف القياس عن بُعد الراسخة حيثما كان ذلك مناسبًا.
• الأمان بالتصميم: تعامل مع إدخال الأدلة وتخزينها وتصديرها وواجهة التحقيق كمكوّنات حساسة أمنيًا.

المساهمة

نرحّب بالمساهمات في المجالات التالية:

• تصميم مخطط الأدلة والتحقق منها.
• سيناريوهات أمان الوكيل وحالات الاختبار القابلة لإعادة الإنتاج.
• جمع القياس عن بُعد وربط الأحداث.
• مصدر الأدلة وسلامتها وتحليلها.
• تحسينات واجهة التحقيق.
• الاختبار الآلي والتوثيق.

قبل البدء في عمل جوهري:

1. راجع المشكلات الحالية وخارطة طريق المشروع.
2. افتح مشكلة أو علّق على مشكلة تصف التغيير المقترح.
3. أبقِ طلبات السحب مركّزة وأدرج الاختبارات أو الأدلة القابلة لإعادة الإنتاج حيثما ينطبق ذلك.
4. لا تُرسل أبدًا أسرارًا أو بيانات عملاء حقيقية أو آثار إنتاج حساسة.

اتبع إرشادات المساهمة في المستودع للحصول على المتطلبات الحالية.

الترخيص

يُقصد أن يستخدم المشروع Apache License 2.0، رهناً بملف الترخيص المنشور في المستودع. راجع ملف LICENSE في المستودع للاطلاع على الشروط المرجعية.

شكر وتقدير

Agentic Evidence هو مشروع تابع لـ OWASP. راجع قائمة مشاريع OWASP الرسمية وبيانات وصفية للمستودع للاطلاع على القيادة الحالية وتفاصيل الاتصال وحالة المشروع. لا تعني الإشارات إلى أدوات وخدمات طرف ثالث تأييد OWASP لها.