🌍 English | Español | 日本語 | 简体中文 | 한국어

Agent Governance Toolkit

एजेंट्स को बिना चिंता के प्रोडक्शन में भेजें

🚀 क्विक स्टार्ट · 📋 विनिर्देश · 📦 PyPI · 📝 चेंजलॉग

[!IMPORTANT] पब्लिक प्रीव्यू -- प्रोडक्शन-गुणवत्ता वाले पब्लिक प्रीव्यू रिलीज़। GA से पहले ब्रेकिंग बदलाव हो सकते हैं।

स्वायत्त AI एजेंट्स के लिए पॉलिसी प्रवर्तन, पहचान, सैंडबॉक्सिंग, और SRE। एक pip install, कोई भी फ्रेमवर्क।

---

समस्या

आपके AI एजेंट्स टूल्स को कॉल करते हैं, वेब ब्राउज़ करते हैं, डेटाबेस क्वेरी करते हैं, और अन्य एजेंट्स को डेलीगेट करते हैं। डिप्लॉय होने के बाद, वे स्वायत्त रूप से निर्णय लेते हैं। आपको तीन सवालों के जवाब चाहिए:

1. क्या यह क्रिया अनुमत है? send_email और query_database तक पहुंच वाले एजेंट को drop_table करने में सक्षम नहीं होना चाहिए। OAuth स्कोप और IAM रोल नियंत्रित करते हैं कि एजेंट किन सेवाओं तक पहुंच सकता है, न कि कनेक्ट होने के बाद वह क्या करता है।

2. यह किस एजेंट ने किया? मल्टी-एजेंट सिस्टम में, पांच एजेंट्स एक ही API key साझा कर सकते हैं। जब कुछ गलत होता है, तो "किसी एजेंट ने किया" इंसिडेंट रिस्पॉन्स नहीं है।

3. क्या आप साबित कर सकते हैं कि क्या हुआ? ऑडिटर और नियामकों को हर निर्णय के छेड़छाड़-स्पष्ट रिकॉर्ड चाहिए: कौन सी पॉलिसी सक्रिय थी, एजेंट ने क्या अनुरोध किया, और इसे क्यों अनुमति दी गई या अस्वीकार किया गया।

प्रॉम्प्ट-स्तर की सुरक्षा ("कृपया नियमों का पालन करें") एक नियंत्रण सतह नहीं है। यह एक स्टोकेस्टिक सिस्टम के लिए एक विनम्र अनुरोध है। OWASP LLM01:2025 इसे स्पष्ट रूप से बताता है: "यह स्पष्ट नहीं है कि प्रॉम्प्ट इंजेक्शन की रोकथाम के लिए कोई अचूक तरीके हैं।" प्रकाशित आंकड़े इसकी पुष्टि करते हैं। Andriushchenko et al. (ICLR 2025) ने GPT-4o, GPT-3.5, Claude 3, और Llama-3 पर logprob एक्सेस और suffix ऑप्टिमाइज़ेशन के साथ अनुकूली हमलों का उपयोग करते हुए 100% हमला सफलता दर रिपोर्ट की, जिसे JailbreakBench बेंचमार्क (Chao et al., NeurIPS 2024) के विरुद्ध मूल्यांकित किया गया। Microsoft का स्वयं का AI Red Teaming Agent इस श्रेणी की विफलता के लिए विहित मीट्रिक के रूप में Attack Success Rate (ASR) को औपचारिक रूप देता है, जो adversarial इनपुट के तहत पॉलिसी उल्लंघनों की दर है। Lessons from Red Teaming 100 Generative AI Products इस बिंदु को और मजबूत करता है: "शमन उपाय जोखिम को पूरी तरह से समाप्त नहीं करते" और रेड टीमिंग एक सतत प्रक्रिया होनी चाहिए क्योंकि मॉडल-स्तर की सुरक्षा निर्माण से ही संभाव्यात्मक होती है।

AGT प्रॉम्प्ट के अंदर उस लड़ाई को जीतने की कोशिश नहीं करता। हर टूल कॉल, संदेश भेजना, और डेलीगेशन को मॉडल के इरादे के वायर तक पहुंचने से पहले नियतात्मक एप्लिकेशन कोड में इंटरसेप्ट किया जाता है। AGT कर्नेल जिन क्रियाओं को अस्वीकार करता है, वे "असंभावित" नहीं हैं। वे संरचनात्मक रूप से असंभव हैं। यही अंतर है एजेंट से व्यवहार करने के लिए कहने और उसे दुर्व्यवहार करने में अक्षम बनाने के बीच।

---

क्विक स्टार्ट

पूर्वापेक्षाएँ: Python 3.11+```bash pip install "agent-governance-toolkit[full]"

नीचे दिए गए quick-start imports के लिए `[full]` extra का उपयोग करें। बेस
`agent-governance-toolkit` wheel केवल compliance CLI इंस्टॉल करता है; governance
modules consolidated core distribution में रहते हैं। `agentmesh` quick-start
import वर्तमान wrapper API बना हुआ है। `agent_os` import करने पर एक
`DeprecationWarning` उत्सर्जित होता है क्योंकि पुराना `agent-os-kernel` distribution deprecated है।
प्रतिस्थापन distribution के रूप में `agent-governance-toolkit-core` (या उसे शामिल करने वाला `[full]` extra) का उपयोग करें। Policy-engine host code ACS SDK का उपयोग करता है;
`agt-policies` one-way v4-to-v5 migration command प्रदान करता है। pre-ACS
`agent_os.policies` rule model हटा दिया गया है, और `BREAKING_CHANGES.md` उसके
replacements की सूची देता है।

Claude Code के लिए, AGT को एक plugin marketplace के रूप में जोड़ें और governance plugin इंस्टॉल करें:```text
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit

किसी भी टूल फ़ंक्शन को दो पंक्तियों में नियंत्रित करें:```python from agentmesh.governance import govern

safe_tool = govern(my_tool, policy="policy.yaml") # every call checked, logged, enforced

प्रत्येक कॉल पर, `safe_tool` YAML नीति का मूल्यांकन करता है, निर्णय को एक
ऑडिट ट्रेल में लॉग करता है, और जब नीति कार्रवाई को अवरुद्ध करती है तो `GovernanceDenied` उठाता है।```yaml
# policy.yaml
apiVersion: governance.toolkit/v1
name: production-policy
default_action: allow
rules:
  - name: block-destructive
    condition: "action.type in ['drop', 'delete', 'truncate']"
    action: deny
    description: "Destructive operations require human approval"

  - name: require-approval-for-send
    condition: "action.type == 'send_email'"
    action: require_approval
    approvers: ["security-team"]

| -s | --server | Server URL (default: http://localhost:8080) | | -t | --token | API token for authentication | | -o | --output | Output file path | | -f | --format | Output format: json, csv, table | | -v | --verbose | Enable verbose logging | | -q | --quiet | Suppress non-essential output | | -h | --help | Show help message |

उदाहरण