🌍 الإنجليزية | 日本語 | 简体中文 | 한국어

Agent Governance Toolkit

شحن الوكلاء إلى الإنتاج دون فقدان النوم

🚀 بدء سريع · 📋 مواصفات · 📦 PyPI · 📝 سجل التغييرات

[!IMPORTANT] معاينة عامة -- إصدارات معاينة عامة بجودة إنتاجية. قد تحتوي على تغييرات جذرية قبل الإصدار النهائي.

تنفيذ السياسات، والهوية، وعزل التنفيذ، وموثوقية الموقع (SRE) للوكلاء الذكيين المستقلين. تثبيت واحد عبر pip install، وأي إطار عمل.

المشكلة

وكلاء الذكاء الاصطناعي الخاص بك يقومون باستدعاء الأدوات، وتصفح الويب، والاستعلام عن قواعد البيانات، وتفويض المهام إلى وكلاء آخرين. بمجرد نشرها، تتخذ القرارات بشكل مستقل. تحتاج إلى إجابات لثلاثة أسئلة:

1. هل هذا الإجراء مسموح؟ لا ينبغي لوكلاء لديه إمكانية الوصول إلى send_email و query_database أن يتمكنوا من drop_table. نطاقات OAuth وأدوار IAM تتحكم في الخدمات التي يمكن للوكيل الوصول إليها، وليس ما يفعله بمجرد الاتصال.

2. أي وكيل قام بهذا؟ في نظام متعدد الوكلاء، قد يشارك خمسة وكلاء مفتاح API واحد. عندما يحدث خطأ، فإن "وكيل قام بذلك" ليس استجابة للحوادث.

3. هل يمكنك إثبات ما حدث؟ يحتاج المدققون والجهات الرقابية إلى سجلات مقاومة للتلاعب لكل قرار: ما السياسة النشطة، وما الذي طلبه الوكيل، ولماذا تم السماح به أو رفضه.

السلامة على مستوى المطالبات (prompt-level safety) ("يرجى اتباع القواعد") ليست سطح تحكم. إنه طلب مهذب لنظام احتمالي. ينص OWASP LLM01:2025 على هذا صراحة: "من غير الواضح وجود طرق مضمونة لمنع حقن المطالبات." الأرقام المنشورة تدعم ذلك. يذكر Andriushchenko et al. (ICLR 2025) معدل نجاح هجوم بنسبة 100% على GPT-4o و GPT-3.5 و Claude 3 و Llama-3 باستخدام هجمات تكيفية مع الوصول إلى السجلات الاحتمالية وتحسين اللاحقة، تم تقييمها وفقًا لمعيار JailbreakBench (Chao et al., NeurIPS 2024). تقوم أداة اختبار الاختراق الآلي للذكاء الاصطناعي من مايكروسوفت بإضفاء الطابع الرسمي على معدل نجاح الهجوم (ASR)، وهو معدل انتهاكات السياسة تحت المدخلات العدائية، كمقياس معياري لهذه الفئة من الفشل. يعزز الدروس المستفادة من اختبار الاختراق لـ 100 منتج ذكاء اصطناعي توليدي النقطة: "التخفيفات لا تقضي على المخاطر بالكامل" ويجب أن يكون اختبار الاختراق عملية مستمرة لأن دفاعات طبقة النموذج احتمالية بطبيعتها.

لا يحاول AGT كسب تلك المعركة داخل المطالبة. كل استدعاء أداة، إرسال رسالة، وتفويض يتم اعتراضه في كود التطبيق الحتمي قبل أن تصل نية النموذج إلى السلك. الإجراءات التي يرفضها نواة AGT ليست "غير محتملة." إنها مستحيلة هيكليًا. هذا هو الفرق بين مطالبة وكيل بالتصرف وجعله غير قادر على سوء التصرف.

بدء سريع

المتطلبات الأساسية: Python 3.10+```bash pip install agent-governance-toolkit[full]

بالنسبة لـ Claude Code، أضف AGT كسوق للإضافات وقم بتثبيت إضافة الحوكمة:```text
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit

تحكم في أي وظيفة أداة في سطرين:```python from agentmesh.governance import govern

safe_tool = govern(my_tool, policy="policy.yaml") # every call checked, logged, enforced

هذا كل شيء. `safe_tool` يقيم سياسة YAML الخاصة بك في كل استدعاء، ويسجل القرار، ويرفع `GovernanceDenied` إذا كان الإجراء محظورًا.```yaml
# policy.yaml
apiVersion: governance.toolkit/v1
name: production-policy
default_action: allow
rules:
  - name: block-destructive
    condition: "action.type in ['drop', 'delete', 'truncate']"
    action: deny
    description: "Destructive operations require human approval"

  - name: require-approval-for-send
    condition: "action.type == 'send_email'"
    action: require_approval
    approvers: ["security-team"]

Limitations

• Hissp is still in alpha, the interface could change, and it's still a bit slow and lacking examples of error messages and other user feedback
• It only supports Python, though it could be ported to more host languages```python

safe_tool(action="read", table="users") {'table': 'users', 'rows': 42}

safe_tool(action="drop", table="users") GovernanceDenied: Action denied by policy rule 'block-destructive': Destructive operations require human approval

أو استخدم واجهة `PolicyEvaluator` الكاملة للتحكم البرمجي:

<details>
<summary><b>مثال على PolicyEvaluator</b></summary>```python
from agent_os.policies import (
    PolicyEvaluator, PolicyDocument, PolicyRule,
    PolicyCondition, PolicyAction, PolicyOperator, PolicyDefaults
)

evaluator = PolicyEvaluator(policies=[PolicyDocument(
    name="my-policy", version="1.0",
    defaults=PolicyDefaults(action=PolicyAction.ALLOW),
    rules=[PolicyRule(
        name="block-dangerous-tools",
        condition=PolicyCondition(
            field="tool_name",
            operator=PolicyOperator.IN,
            value=["execute_code", "delete_file"]
        ),
        action=PolicyAction.DENY, priority=100,
    )],
)])

result = evaluator.evaluate({"tool_name": "web_search"})    # Allowed
result = evaluator.evaluate({"tool_name": "delete_file"})   # Blocked

.NET```csharp
using AgentGovernance;
using AgentGovernance.Extensions.ModelContextProtocol;
using AgentGovernance.Policy;

var kernel = new GovernanceKernel(new GovernanceOptions
{
    PolicyPaths = new() { "policies/default.yaml" },
});
var result = kernel.EvaluateToolCall("did:mesh:agent-1", "web_search",
    new() { ["query"] = "latest AI news" });

// MCP server integration
builder.Services.AddMcpServer()
    .WithGovernance(options => options.PolicyPaths.Add("policies/mcp.yaml"));

**Go**```go
import agentmesh "github.com/microsoft/agent-governance-toolkit/agent-governance-golang"

client, _ := agentmesh.NewClient("my-agent",
    agentmesh.WithPolicyRules([]agentmesh.PolicyRule{
        {Action: "data.read", Effect: agentmesh.Allow},
        {Action: "*", Effect: agentmesh.Deny},
    }),
)
result := client.ExecuteWithGovernance("data.read", nil)

أدوات CLI:```bash agt doctor # check installation agt verify # OWASP compliance check agt verify --evidence ./agt-evidence.json --strict # fail CI on weak evidence agt red-team scan ./prompts/ --min-grade B # prompt injection audit agt lint-policy policies/ # validate policy files

شرح كامل: [quickstart.md](https://github.com/microsoft/agent-governance-toolkit/blob/main/docs/quickstart.md) -- من الصفر إلى وكلاء مُدارين في 5 دقائق.
🌍 أيضًا بـ: [日本語](https://github.com/microsoft/agent-governance-toolkit/blob/main/docs/i18n/quickstart.ja.md) | [简体中文](https://github.com/microsoft/agent-governance-toolkit/blob/main/docs/i18n/quickstart.zh-CN.md) | [한국어](https://github.com/microsoft/agent-governance-toolkit/blob/main/docs/i18n/quickstart.ko.md)

---

## كيف يعمل```
Agent ──► Policy Engine ──► Identity ──► Audit Log
            (YAML/OPA/Cedar)  (SPIFFE/DID/mTLS)  (Tamper-evident)
                 │                                      │
                 ├── Allowed ──► Tool executes           │
                 └── Denied  ──► GovernanceDenied        │
                                                        ▼
                                                 Decision Record

كل طبقة اختيارية. ابدأ بـ govern() وأضف الطبقات كلما نما ملف المخاطر الخاص بك. معظم الفرق تشغّل فرض السياسات + تسجيل التدقيق ولا تحتاج أبدًا إلى المجموعة الكاملة.

الحزم

إمكانيات إضافية

التثبيت

جميع حزم SDK الخمس للغات تنفذ الحوكمة الأساسية (السياسة، الهوية، الثقة، التدقيق). Python لديها المجموعة الكاملة. Copilot CLI وClaude Code هما سطحا مطور من الدرجة الأولى مبنيان على SDK TypeScript. انظر مصفوفة ميزات الحزم اللغوية لتغطية مفصلة لكل لغة.

المتطلبات الأساسية

• Python: 3.10+
• Node.js: 18+ / npm 9+ (SDK TypeScript)
• .NET: 8+
• Go: 1.25+
• Rust: 1.70+
• اختياري: AZURE_CLIENT_ID، AZURE_TENANT_ID، AZURE_CLIENT_SECRET للميزات المتكاملة مع Azure

دعم الأطر

القائمة الكاملة: تكاملات الأطر · أمثلة البداية السريعة

الأمثلة

المواصفات

كل مكون رئيسي لديه مواصفات رسمية وفقًا لـ RFC 2119 مع اختبارات توافق. تحدد هذه المواصفات العقد السلوكي: ما يجب أن تفعله التطبيقات (MUST)، وما ينبغي أن تفعله (SHOULD)، وما قد تفعله (MAY).

992 اختبار توافق تضمن بقاء الكود متوافقًا مع المواصفات. 29 سجل قرارات معمارية يوثق السبب.

الامتثال للمعايير

الأمان

AGT يفرض الحوكمة في طبقة الوسيط للتطبيق، وليس على مستوى نواة نظام التشغيل. يشترك محرك السياسات والوكلاء في نفس حدود العملية.

توصية الإنتاج: قم بتشغيل كل وكيل في حاوية منفصلة لعزل على مستوى نظام التشغيل. راجع الهندسة المعمارية: حدود الأمان.

راجع القيود المعروفة لحدود التصميم الصادقة والدفاع المتعدد الطبقات الموصى به.

التوثيق

المساهمة

دليل المساهمة · المجتمع · Discord · سياسة الأمان · سجل التغييرات

هل تستخدم AGT؟ أضف مؤسستك إلى ADOPTERS.md.

الحوكمة

ملاحظات مهمة

إذا كنت تستخدم مجموعة أدوات حوكمة الوكيل لبناء تطبيقات تعمل مع أطر أو خدمات وكيل تابعة لجهات خارجية، فأنت تفعل ذلك على مسؤوليتك الخاصة. نوصي بمراجعة جميع البيانات المشتركة مع خدمات الجهات الخارجية والوعي بممارسات الجهات الخارجية فيما يتعلق بالاحتفاظ بالبيانات وموقعها.

المصادر الرسمية

المصادر الرسمية الوحيدة لمجموعة أدوات حوكمة الوكيل هي:

فريق المشروع لا يدير أو يؤيد أي مواقع ويب أو حزم أو مواقع توثيق تابعة لجهات خارجية تدعي أنها رسمية. إذا صادفت موقعًا أو حزمة مشبوهة تستخدم اسم مجموعة أدوات حوكمة الوكيل، فيرجى الإبلاغ عنها عبر القنوات الموضحة في SECURITY.md.

الترخيص

هذا المشروع مرخص بموجب ترخيص MIT.

العلامات التجارية

قد يحتوي هذا المشروع على علامات تجارية أو شعارات لمشاريع أو منتجات أو خدمات. الاستخدام المصرح به للعلامات التجارية أو الشعارات لشركة Microsoft يخضع ويجب أن يتبع إرشادات العلامات التجارية والعلامات التجارية لشركة Microsoft. يجب ألا يسبب استخدام العلامات التجارية أو الشعارات لشركة Microsoft في الإصدارات المعدلة من هذا المشروع ارتباكًا أو يوحي برعاية Microsoft. أي استخدام للعلامات التجارية أو الشعارات التابعة لجهات خارجية يخضع لسياسات تلك الجهات الخارجية.