🌍 अंग्रेज़ी | 日本語 | 简体中文 | 한국어

एजेंट गवर्नेंस टूलकिट

एजेंटों को बिना नींद खोए प्रोडक्शन में भेजें

🚀 त्वरित प्रारंभ · 📋 विनिर्देश · 📦 PyPI · 📝 परिवर्तन लॉग

[!IMPORTANT] सार्वजनिक पूर्वावलोकन -- प्रोडक्शन-गुणवत्ता वाले सार्वजनिक पूर्वावलोकन रिलीज़। GA से पहले ब्रेकिंग चेंजेस हो सकते हैं।

स्वायत्त AI एजेंटों के लिए नीति प्रवर्तन, पहचान, सैंडबॉक्सिंग, और SRE। एक pip install, कोई भी फ्रेमवर्क।

समस्या

आपके AI एजेंट टूल कॉल करते हैं, वेब ब्राउज़ करते हैं, डेटाबेस क्वेरी करते हैं, और अन्य एजेंटों को कार्य सौंपते हैं। एक बार परिनियोजित होने के बाद, वे स्वायत्त रूप से निर्णय लेते हैं। आपको तीन प्रश्नों के उत्तर चाहिए:

1. क्या यह कार्रवाई अनुमत है? send_email और query_database तक पहुँच रखने वाला एजेंट drop_table करने में सक्षम नहीं होना चाहिए। OAuth स्कोप और IAM भूमिकाएँ नियंत्रित करती हैं कि एजेंट किन सेवाओं तक पहुँच सकता है, न कि वह कनेक्ट होने के बाद क्या करता है।

2. यह किस एजेंट ने किया? एक मल्टी-एजेंट सिस्टम में, पाँच एजेंट एक ही API कुंजी साझा कर सकते हैं। जब कुछ गलत होता है, तो "किसी एजेंट ने ऐसा किया" कोई घटना प्रतिक्रिया नहीं है।

3. क्या आप साबित कर सकते हैं कि क्या हुआ? ऑडिटर और नियामकों को प्रत्येक निर्णय के छेड़छाड़-स्पष्ट रिकॉर्ड की आवश्यकता होती है: कौन सी नीति सक्रिय थी, एजेंट ने क्या अनुरोध किया, और इसे अनुमति या अस्वीकार क्यों किया गया।

प्रॉम्प्ट-स्तरीय सुरक्षा ("कृपया नियमों का पालन करें") कोई नियंत्रण सतह नहीं है। यह एक स्टोकास्टिक सिस्टम से एक विनम्र अनुरोध है। OWASP LLM01:2025 यह स्पष्ट रूप से बताता है: "यह स्पष्ट नहीं है कि प्रॉम्प्ट इंजेक्शन की रोकथाम के लिए मूर्ख-प्रूफ तरीके हैं या नहीं।" प्रकाशित आंकड़े इसका समर्थन करते हैं। Andriushchenko et al. (ICLR 2025) JailbreakBench बेंचमार्क (Chao et al., NeurIPS 2024) के विरुद्ध मूल्यांकन किए गए लॉगप्रोब एक्सेस और सफिक्स ऑप्टिमाइजेशन के साथ अनुकूली हमलों का उपयोग करके GPT-4o, GPT-3.5, Claude 3, और Llama-3 पर 100% आक्रमण सफलता दर की रिपोर्ट करते हैं। माइक्रोसॉफ्ट का अपना AI Red Teaming Agent इस विफलता वर्ग के लिए विहित मीट्रिक के रूप में आक्रमण सफलता दर (ASR) को औपचारिक बनाता है, जो विरोधी इनपुट के तहत नीति उल्लंघनों की दर है। Lessons from Red Teaming 100 Generative AI Products बिंदु को पुष्ट करता है: "शमन जोखिम को पूरी तरह समाप्त नहीं करते" और रेड टीमिंग एक सतत प्रक्रिया होनी चाहिए क्योंकि मॉडल-परत रक्षा संभाव्य निर्माण द्वारा होती है।

AGT उस लड़ाई को प्रॉम्प्ट के अंदर जीतने का प्रयास नहीं करता है। प्रत्येक टूल कॉल, संदेश भेजना, और प्रत्यायोजन मॉडल के इरादे तार तक पहुँचने से पहले नियतात्मक एप्लिकेशन कोड में इंटरसेप्ट किया जाता है। AGT कर्नेल जिन कार्रवाइयों को अस्वीकार करता है वे "असंभावित" नहीं हैं। वे संरचनात्मक रूप से असंभव हैं। यह एक एजेंट से व्यवहार करने के लिए कहने और उसे दुर्व्यवहार करने में असमर्थ बनाने के बीच का अंतर है।

त्वरित प्रारंभ

पूर्वापेक्षाएँ: Python 3.10+```bash pip install agent-governance-toolkit[full]

Claude Code के लिए, AGT को एक प्लगइन मार्केटप्लेस के रूप में जोड़ें और गवर्नेंस प्लगइन इंस्टॉल करें:```text
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit

किसी भी टूल फ़ंक्शन को दो पंक्तियों में नियंत्रित करें:```python from agentmesh.governance import govern

safe_tool = govern(my_tool, policy="policy.yaml") # every call checked, logged, enforced

बस इतना ही। `safe_tool` हर कॉल पर आपकी YAML नीति का मूल्यांकन करता है, निर्णय को लॉग करता है, और यदि कार्य अवरुद्ध है तो `GovernanceDenied` उठाता है।```yaml
# policy.yaml
apiVersion: governance.toolkit/v1
name: production-policy
default_action: allow
rules:
  - name: block-destructive
    condition: "action.type in ['drop', 'delete', 'truncate']"
    action: deny
    description: "Destructive operations require human approval"

  - name: require-approval-for-send
    condition: "action.type == 'send_email'"
    action: require_approval
    approvers: ["security-team"]

खंड 9/25```python

safe_tool(action="read", table="users") {'table': 'users', 'rows': 42}

safe_tool(action="drop", table="users") GovernanceDenied: Action denied by policy rule 'block-destructive': Destructive operations require human approval

या प्रोग्रामेटिक नियंत्रण के लिए पूर्ण `PolicyEvaluator` API का उपयोग करें:

<details>
<summary><b>PolicyEvaluator उदाहरण</b></summary>```python
from agent_os.policies import (
    PolicyEvaluator, PolicyDocument, PolicyRule,
    PolicyCondition, PolicyAction, PolicyOperator, PolicyDefaults
)

evaluator = PolicyEvaluator(policies=[PolicyDocument(
    name="my-policy", version="1.0",
    defaults=PolicyDefaults(action=PolicyAction.ALLOW),
    rules=[PolicyRule(
        name="block-dangerous-tools",
        condition=PolicyCondition(
            field="tool_name",
            operator=PolicyOperator.IN,
            value=["execute_code", "delete_file"]
        ),
        action=PolicyAction.DENY, priority=100,
    )],
)])

result = evaluator.evaluate({"tool_name": "web_search"})    # Allowed
result = evaluator.evaluate({"tool_name": "delete_file"})   # Blocked

**.NET**```csharp
using AgentGovernance;
using AgentGovernance.Extensions.ModelContextProtocol;
using AgentGovernance.Policy;

var kernel = new GovernanceKernel(new GovernanceOptions
{
    PolicyPaths = new() { "policies/default.yaml" },
});
var result = kernel.EvaluateToolCall("did:mesh:agent-1", "web_search",
    new() { ["query"] = "latest AI news" });

// MCP server integration
builder.Services.AddMcpServer()
    .WithGovernance(options => options.PolicyPaths.Add("policies/mcp.yaml"));

**गो**```go
import agentmesh "github.com/microsoft/agent-governance-toolkit/agent-governance-golang"

client, _ := agentmesh.NewClient("my-agent",
    agentmesh.WithPolicyRules([]agentmesh.PolicyRule{
        {Action: "data.read", Effect: agentmesh.Allow},
        {Action: "*", Effect: agentmesh.Deny},
    }),
)
result := client.ExecuteWithGovernance("data.read", nil)

CLI उपकरण:```bash agt doctor # check installation agt verify # OWASP compliance check agt verify --evidence ./agt-evidence.json --strict # fail CI on weak evidence agt red-team scan ./prompts/ --min-grade B # prompt injection audit agt lint-policy policies/ # validate policy files

पूर्ण वॉकथ्रू: [quickstart.md](https://github.com/microsoft/agent-governance-toolkit/blob/HEAD/docs/quickstart.md) -- शून्य से नियंत्रित एजेंट तक 5 मिनट में।
🌍 इसमें भी: [日本語](https://github.com/microsoft/agent-governance-toolkit/blob/HEAD/docs/i18n/quickstart.ja.md) | [简体中文](https://github.com/microsoft/agent-governance-toolkit/blob/HEAD/docs/i18n/quickstart.zh-CN.md) | [한국어](https://github.com/microsoft/agent-governance-toolkit/blob/HEAD/docs/i18n/quickstart.ko.md)

---

## यह कैसे काम करता है```
Agent ──► Policy Engine ──► Identity ──► Audit Log
            (YAML/OPA/Cedar)  (SPIFFE/DID/mTLS)  (Tamper-evident)
                 │                                      │
                 ├── Allowed ──► Tool executes           │
                 └── Denied  ──► GovernanceDenied        │
                                                        ▼
                                                 Decision Record

प्रत्येक परत वैकल्पिक है। govern() से शुरू करें और अपने जोखिम प्रोफ़ाइल बढ़ने पर परतें जोड़ें। अधिकांश टीमें नीति प्रवर्तन + ऑडिट लॉगिंग चलाती हैं और उन्हें कभी भी पूरे स्टैक की आवश्यकता नहीं होती।

पैकेज

अतिरिक्त क्षमताएँ

स्थापना

सभी पाँच भाषा SDK मुख्य शासन (नीति, पहचान, विश्वास, ऑडिट) को लागू करते हैं। Python में पूरा स्टैक है। Copilot CLI और Claude Code TypeScript SDK पर निर्मित प्रथम-पक्ष डेवलपर सतहें हैं। विस्तृत भाषा-वार कवरेज के लिए Language Package Matrix देखें।

पूर्वापेक्षाएँ

• Python: 3.10+
• Node.js: 18+ / npm 9+ (TypeScript SDK)
• .NET: 8+
• Go: 1.25+
• Rust: 1.70+
• वैकल्पिक: Azure-एकीकृत सुविधाओं के लिए AZURE_CLIENT_ID, AZURE_TENANT_ID, AZURE_CLIENT_SECRET

फ्रेमवर्क समर्थन

पूरी सूची: Framework Integrations · Quickstart Examples

उदाहरण

विनिर्देश

प्रत्येक प्रमुख घटक के पास अनुरूपता परीक्षणों के साथ एक औपचारिक RFC 2119 विनिर्देश है। ये विनिर्देश व्यवहार अनुबंध को परिभाषित करते हैं: कार्यान्वयन को क्या MUST, SHOULD और MAY करना चाहिए।

992 अनुरूपता परीक्षण सुनिश्चित करते हैं कि कोड विनिर्देशों के अनुरूप रहे। 29 आर्किटेक्चर निर्णय रिकॉर्ड क्यों दस्तावेज़ित करते हैं।

मानक अनुपालन

सुरक्षा

AGT एप्लिकेशन मिडलवेयर स्तर पर शासन लागू करता है, OS कर्नेल स्तर पर नहीं। नीति इंजन और एजेंट एक ही प्रक्रिया सीमा साझा करते हैं।

उत्पादन अनुशंसा: OS-स्तरीय अलगाव के लिए प्रत्येक एजेंट को एक अलग कंटेनर में चलाएँ। Architecture: Security Boundaries देखें।

ईमानदार डिज़ाइन सीमाओं और अनुशंसित स्तरित रक्षा के लिए ज्ञात सीमाएँ देखें।

दस्तावेज़ीकरण

योगदान

योगदान गाइड · समुदाय · Discord · सुरक्षा नीति · परिवर्तन लॉग

AGT का उपयोग कर रहे हैं? अपने संगठन को ADOPTERS.md में जोड़ें।

शासन

महत्वपूर्ण नोट

यदि आप Agent Governance Toolkit का उपयोग तीसरे पक्ष के एजेंट फ्रेमवर्क या सेवाओं के साथ काम करने वाले एप्लिकेशन बनाने के लिए करते हैं, तो आप अपने जोखिम पर ऐसा करते हैं। हम तीसरे पक्ष की सेवाओं के साथ साझा किए जा रहे सभी डेटा की समीक्षा करने और डेटा के प्रतिधारण और स्थान के लिए तीसरे पक्ष की प्रथाओं के प्रति सचेत रहने की सलाह देते हैं।

आधिकारिक स्रोत

Agent Governance Toolkit के लिए एकमात्र आधिकारिक स्रोत हैं:

परियोजना टीम किसी भी तीसरे पक्ष की वेबसाइटों, पैकेजों, या आधिकारिक होने का दावा करने वाली दस्तावेज़ीकरण साइटों को बनाए नहीं रखती है या उनका समर्थन नहीं करती है। यदि आप Agent Governance Toolkit नाम का उपयोग करने वाली कोई संदिग्ध साइट या पैकेज पाते हैं, तो कृपया इसे SECURITY.md में वर्णित चैनलों के माध्यम से रिपोर्ट करें।

लाइसेंस

यह प्रोजेक्ट MIT लाइसेंस के अंतर्गत लाइसेंस प्राप्त है।

ट्रेडमार्क

इस प्रोजेक्ट में प्रोजेक्ट, उत्पादों या सेवाओं के लिए ट्रेडमार्क या लोगो शामिल हो सकते हैं। Microsoft ट्रेडमार्क या लोगो का अधिकृत उपयोग Microsoft के ट्रेडमार्क और ब्रांड दिशानिर्देशों के अधीन है और उनका पालन करना चाहिए। इस प्रोजेक्ट के संशोधित संस्करणों में Microsoft ट्रेडमार्क या लोगो के उपयोग से भ्रम पैदा नहीं होना चाहिए या Microsoft प्रायोजन का संकेत नहीं देना चाहिए। किसी भी तीसरे पक्ष के ट्रेडमार्क या लोगो का उपयोग उन तीसरे पक्षों की नीतियों के अधीन है।