Agent Governance Toolkit

انشر الوكلاء إلى الإنتاج دون فقدان النوم

🚀 بدء سريع · 📋 المواصفات · 📦 PyPI · 📝 سجل التغييرات

[!IMPORTANT] معاينة عامة -- إصدارات معاينة عامة بجودة الإنتاج. قد تتضمن تغييرات كاسرة قبل الإصدار العام.

فرض السياسات، والهوية، والعزل، وهندسة موثوقية المواقع (SRE) لوكلاء الذكاء الاصطناعي المستقلين. أمر pip install واحد، وأي إطار عمل.

المشكلة

وكلاؤك من الذكاء الاصطناعي يستدعون الأدوات، ويتصفحون الويب، ويستعلمون من قواعد البيانات، ويفوضون المهام إلى وكلاء آخرين. وبمجرد نشرهم، يتخذون القرارات بشكل مستقل. تحتاج إلى إجابات لثلاثة أسئلة:

1. هل هذا الإجراء مسموح؟ الوكيل الذي يملك صلاحية الوصول إلى send_email وquery_database لا ينبغي أن يكون قادرًا على drop_table. تتحكم نطاقات OAuth وأدوار IAM في الخدمات التي يمكن للوكيل الوصول إليها، وليس فيما يفعله بعد الاتصال.

2. أي وكيل فعل هذا؟ في نظام متعدد الوكلاء، قد تشترك خمسة وكلاء في مفتاح API واحد. وعندما يحدث خطأ ما، فإن عبارة "أحد الوكلاء فعل ذلك" ليست استجابة للحوادث.

3. هل يمكنك إثبات ما حدث؟ يحتاج المدققون والجهات التنظيمية إلى سجلات مقاومة للتلاعب لكل قرار: ما السياسة التي كانت سارية، وما الذي طلبه الوكيل، ولماذا تم السماح به أو رفضه.

السلامة على مستوى الأوامر النصية ("يرجى اتباع القواعد") ليست سطح تحكم. إنها طلب مهذب لنظام عشوائي. توضح OWASP LLM01:2025 ذلك صراحةً: "من غير الواضح ما إذا كانت هناك طرق مضمونة لمنع حقن الأوامر النصية." والأرقام المنشورة تؤكد ذلك. يذكر Andriushchenko et al. (ICLR 2025) معدل نجاح هجوم بنسبة 100% على GPT-4o وGPT-3.5 وClaude 3 وLlama-3 باستخدام هجمات تكيفية مع الوصول إلى logprob وتحسين اللاحقة، مقيَّمة مقابل معيار JailbreakBench (Chao et al., NeurIPS 2024). كما يضفي AI Red Teaming Agent من مايكروسوفت طابعًا رسميًا على معدل نجاح الهجوم (ASR)، وهو معدل انتهاكات السياسات تحت المدخلات العدائية، باعتباره المقياس المعياري لهذه الفئة من الإخفاقات. ويؤكد Lessons from Red Teaming 100 Generative AI Products هذه النقطة: "التخفيفات لا تقضي على المخاطر تمامًا" ويجب أن يكون الفريق الأحمر عملية مستمرة لأن دفاعات طبقة النموذج احتمالية بطبيعتها.

لا يحاول AGT كسب تلك المعركة داخل الأمر النصي. يتم اعتراض كل استدعاء أداة، وإرسال رسالة، وتفويض في كود تطبيقي حتمي قبل أن تصل نية النموذج إلى الشبكة. الإجراءات التي ترفضها نواة AGT ليست "غير محتملة". بل هي مستحيلة بنيويًا. هذا هو الفرق بين مطالبة الوكيل بالتصرف بشكل جيد وجعله غير قادر على التصرف بشكل سيئ.

بدء سريع

المتطلبات الأساسية: Python 3.11+```bash pip install "agent-governance-toolkit[full]"

استخدم الإضافة `[full]` لعمليات الاستيراد السريع أدناه. حزمة `agent-governance-toolkit` الأساسية تثبّت واجهة سطر أوامر الامتثال فقط؛ أما وحدات الحوكمة فتوجد في توزيعة النواة الموحّدة. ويظل استيراد `agentmesh` السريع هو واجهة API الحالية. يؤدي استيراد `agent_os` إلى إصدار `DeprecationWarning` لأن توزيعة `agent-os-kernel` القديمة مهجورة. استخدم `agent-governance-toolkit-core` (أو الإضافة `[full]` التي تتضمنها) كتوزيعة بديلة. يستخدم كود مضيف محرك السياسات ACS SDK؛ ويوفّر `agt-policies` أمر الترحيل أحادي الاتجاه من v4 إلى v5. لم يعد نموذج القواعد `agent_os.policies` السابق لـ ACS موجودًا، ويسرد `BREAKING_CHANGES.md` بدائله.

بالنسبة إلى Claude Code، أضف AGT كسوق إضافات وثبّت إضافة الحوكمة:```text
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit

تحكم في أي دالة أداة في سطرين:```python from agentmesh.governance import govern

safe_tool = govern(my_tool, policy="policy.yaml") # every call checked, logged, enforced

في كل استدعاء، يقيّم `safe_tool` سياسة YAML، ويسجّل القرار في سجل تدقيق، ويرفع `GovernanceDenied` عندما تحظر السياسة الإجراء.```yaml
# policy.yaml
apiVersion: governance.toolkit/v1
name: production-policy
default_action: allow
rules:
  - name: block-destructive
    condition: "action.type in ['drop', 'delete', 'truncate']"
    action: deny
    description: "Destructive operations require human approval"

  - name: require-approval-for-send
    condition: "action.type == 'send_email'"
    action: require_approval
    approvers: ["security-team"]

الاستخدام

1. فحص ملف واحد

python3 cve_2025_55182.py -f payload.xml

2. فحص دليل كامل

python3 cve_2025_55182.py -d ./payloads/

3. الفحص باستخدام قائمة أهداف

python3 cve_2025_55182.py -l targets.txt

4. الفحص باستخدام هدف واحد

python3 cve_2025_55182.py -u https://target.example.com

5. الفحص باستخدام ملف أهداف مع تعطيل التحقق من TLS

python3 cve_2025_55182.py -l targets.txt -k

6. الفحص باستخدام ملف أهداف مع مهلة مخصصة

python3 cve_2025_55182.py -l targets.txt -t 15

7. الفحص باستخدام ملف أهداف مع تعطيل التحقق من TLS ومهلة مخصصة

python3 cve_2025_55182.py -l targets.txt -k -t 15

8. الفحص باستخدام ملف أهداف مع تعطيل التحقق من TLS ومهلة مخصصة وعدد خيوط مخصص

python3 cve_2025_55182.py -l targets.txt -k -t 15 -c 20

agent-governance-toolkit

الأكثر شعبية