microsoft/agent-governance-toolkitनीति प्रवर्तन, शून्य-विश्वास पहचान, निष्पादन सैंडबॉक्सिंग, और स्वायत्त AI एजेंटों के लिए ऑडिट लॉगिंग। निर्धारक, विफल-बंद शासन के साथ 10/10 OWASP Agentic Top 10 को कवर करता है।
🌍 English | Español | 日本語 | 简体中文 | 한국어 | 繁體中文
🚀 क्विक स्टार्ट · 📋 विनिर्देश · 📦 PyPI · 📝 चेंजलॉग
-brightgreen){kind=icon}
[!IMPORTANT] पब्लिक प्रीव्यू -- प्रोडक्शन-गुणवत्ता वाले पब्लिक प्रीव्यू रिलीज़। GA से पहले ब्रेकिंग बदलाव हो सकते हैं।
स्वायत्त AI एजेंट्स के लिए पॉलिसी प्रवर्तन, पहचान, सैंडबॉक्सिंग, और SRE। एक pip install, कोई भी फ्रेमवर्क।
आपके AI एजेंट्स टूल्स को कॉल करते हैं, वेब ब्राउज़ करते हैं, डेटाबेस क्वेरी करते हैं, और अन्य एजेंट्स को डेलीगेट करते हैं। डिप्लॉय होने के बाद, वे स्वायत्त रूप से निर्णय लेते हैं। आपको तीन सवालों के जवाब चाहिए:
1. क्या यह क्रिया अनुमत है? send_email और query_database तक पहुंच रखने वाला एजेंट drop_table नहीं कर पाना चाहिए। OAuth स्कोप्स और IAM रोल्स यह नियंत्रित करते हैं कि एजेंट किन सेवाओं तक पहुंच सकता है, न कि कनेक्ट होने के बाद वह क्या करता है।
2. यह किस एजेंट ने किया? मल्टी-एजेंट सिस्टम में, पांच एजेंट्स एक ही API key साझा कर सकते हैं। जब कुछ गलत होता है, तो "किसी एजेंट ने किया" कोई इंसिडेंट रिस्पॉन्स नहीं है।
3. क्या आप साबित कर सकते हैं कि क्या हुआ? ऑडिटर और नियामकों को हर निर्णय के छेड़छाड़-स्पष्ट रिकॉर्ड चाहिए: कौन सी पॉलिसी सक्रिय थी, एजेंट ने क्या अनुरोध किया, और इसे क्यों अनुमति दी गई या अस्वीकार किया गया।
प्रॉम्प्ट-स्तरीय सुरक्षा ("कृपया नियमों का पालन करें") कोई नियंत्रण सतह नहीं है। यह एक स्टोकेस्टिक सिस्टम से विनम्र अनुरोध है। OWASP LLM01:2025 इसे स्पष्ट रूप से बताता है: "यह स्पष्ट नहीं है कि प्रॉम्प्ट इंजेक्शन की रोकथाम के लिए कोई fool-proof तरीके हैं या नहीं।" प्रकाशित आंकड़े इसकी पुष्टि करते हैं। Andriushchenko et al. (ICLR 2025) ने GPT-4o, GPT-3.5, Claude 3, और Llama-3 पर logprob एक्सेस और suffix ऑप्टिमाइज़ेशन के साथ अडैप्टिव अटैक्स का उपयोग करते हुए 100% अटैक सक्सेस रेट रिपोर्ट किया, जिसे JailbreakBench बेंचमार्क (Chao et al., NeurIPS 2024) के विरुद्ध मूल्यांकित किया गया। Microsoft का स्वयं का AI Red Teaming Agent इस प्रकार की विफलता के लिए मानक मीट्रिक के रूप में Attack Success Rate (ASR) को औपचारिक रूप देता है, जो adversarial इनपुट के तहत पॉलिसी उल्लंघनों की दर है। Lessons from Red Teaming 100 Generative AI Products इस बात को और मजबूत करता है: "mitigations जोखिम को पूरी तरह समाप्त नहीं करते" और red teaming एक सतत प्रक्रिया होनी चाहिए क्योंकि मॉडल-स्तरीय सुरक्षा उपाय संरचनात्मक रूप से प्रोबेबिलिस्टिक हैं।
AGT उस लड़ाई को प्रॉम्प्ट के अंदर जीतने की कोशिश नहीं करता। हर टूल कॉल, मैसेज सेंड, और डेलीगेशन को मॉडल का इरादा वायर तक पहुंचने से पहले डिटरमिनिस्टिक एप्लिकेशन कोड में इंटरसेप्ट किया जाता है। जिन क्रियाओं को AGT kernel अस्वीकार करता है, वे "असंभावित" नहीं हैं। वे संरचनात्मक रूप से असंभव हैं। यही अंतर है एजेंट से व्यवहार करने के लिए कहने और उसे दुर्व्यवहार करने में अक्षम बनाने के बीच।
पूर्वापेक्षाएँ: Python 3.11+
pip install "agent-governance-toolkit[full]"
नीचे दिए गए quick-start imports के लिए [full] extra का उपयोग करें। बेस
agent-governance-toolkit wheel केवल compliance CLI इंस्टॉल करता है; governance
modules consolidated core distribution में रहते हैं। agentmesh quick-start
import वर्तमान wrapper API बना हुआ है। agent_os import करने पर
DeprecationWarning आता है क्योंकि पुराना agent-os-kernel distribution deprecated है।
प्रतिस्थापन distribution के रूप में agent-governance-toolkit-core (या उसे शामिल करने वाला [full] extra) का उपयोग करें। Policy-engine host code ACS SDK का उपयोग करता है;
agt-policies one-way v4-to-v5 migration command प्रदान करता है। ACS से पहले का
agent_os.policies rule model हटा दिया गया है, और BREAKING_CHANGES.md उसके
replacements की सूची देता है।
Policy engine को upstream में
agent-control-spec के रूप में प्रकाशित किया गया है।
agent-hooks इसका
interception contract परिभाषित करता है। AGT policy-engine/ में AgentControl host APIs और framework
adapters बनाए रखता है, दूसरा decision engine नहीं।
यह policy evaluation को एक ही स्थान पर रखता है। AGT host APIs और framework integrations बनाए रखते हुए
dependency update के माध्यम से upstream fixes अपना सकता है।
upstream packages और AGT के compatibility SDKs के बीच अंतर के लिए
ACS package guide देखें।
Claude Code के लिए, AGT को plugin marketplace के रूप में जोड़ें और governance plugin इंस्टॉल करें:
/plugin marketplace add microsoft/agent-governance-toolkit
/plugin install agt-governance@agent-governance-toolkit
किसी भी टूल फ़ंक्शन को दो पंक्तियों में नियंत्रित करें:
from agentmesh.governance import govern
safe_tool = govern(my_tool, policy="policy.yaml") # every call checked, logged, enforced