सूचना-प्रवाह नियंत्रण के साथ AI एजेंटों को सुरक्षित करना

यह रिपॉज़िटरी शैक्षणिक पेपर "Securing AI Agents with Information-Flow Control" के साथ एक Jupyter नोटबुक प्रदान करती है। नोटबुक एक ट्यूटोरियल के रूप में संरचित है जो पाठकों को पेपर में प्रस्तुत अवधारणाओं से परिचित कराती है। यह एजेंटिक कार्यों में सुरक्षा नीतियों को नियतात्मक रूप से लागू करने के तंत्रों के व्यावहारिक कार्यान्वयन को दर्शाता है और अवधारणाओं को निष्पादन योग्य कोड में स्थापित करता है जिसके साथ पाठक प्रयोग कर सकते हैं।

सेटअप निर्देश

नोटबुक का परीक्षण Azure OpenAI Chat Completions API का उपयोग करके GPT-4o और GPT-4.1 के विरुद्ध किया गया है, लेकिन इसे आसानी से OpenAI एंडपॉइंट का उपयोग करने के लिए अनुकूलित किया जा सकता है। कोड क्लाइंट में मॉडल एंडपॉइंट को .env कॉन्फ़िगरेशन फ़ाइल का उपयोग करके सेट करता है जिसमें AZURE_ENDPOINT, API_VERSION और AZURE_DEPLOYMENT की परिभाषाएँ होती हैं। कृपया प्रदान की गई .env.example फ़ाइल को .env में कॉपी करें और उचित रूप से संपादित करें। नोटबुक Microsoft Entra ID का उपयोग करके Azure OpenAI Service में प्रमाणित होती है, लेकिन वांछित होने पर इसे आसानी से कुंजी-आधारित प्रमाणीकरण का उपयोग करने के लिए अनुकूलित किया जा सकता है।

सुविधा के लिए, हम अभीष्ट आउटपुट दिखाने हेतु एक पूर्ण-मूल्यांकित नोटबुक प्रदान करते हैं, लेकिन हम पाठकों को प्रोत्साहित करते हैं कि वे स्वयं का एंडपॉइंट स्थापित करें तथा व्यावहारिक रूप से प्रयोग करके हमारे आउटपुट को पुनः प्रस्तुत करें।

उद्धरण

यदि आप इस कार्य का उद्धरण देना चाहते हैं, तो कृपया इसे निम्नानुसार उद्धृत करें

@misc{securing_ai_agents_with_ifc,
  title         = {Securing {AI} Agents with Information-Flow Control},
  author        = {Costa, Manuel and 
                   K{\"o}pf, Boris and 
                   Kolluri, Aashish and 
                   Paverd, Andrew and 
                   Russinovich, Mark and 
                   Salem, Ahmed and 
                   Tople, Shruti and 
                   Wutschitz, Lukas and 
                   Zanella-B{\'e}guelin, Santiago},
  year          = {2025},
  eprint        = {2505.23643},
  archivePrefix = {arXiv},
  primaryClass  = {cs.CR},
  doi           = {10.48550/arXiv.2505.23643}
}

योगदान

इस परियोजना में योगदान और सुझावों का स्वागत है। अधिकांश योगदानों के लिए आपको एक योगदानकर्ता लाइसेंस समझौते (CLA) से सहमत होना आवश्यक है, जिसमें यह घोषित किया जाता है कि आपके पास अपने योगदान का उपयोग करने के अधिकार हमें प्रदान करने का अधिकार है, और आप वास्तव में ऐसा करते हैं। विवरण के लिए, Contributor License Agreements देखें।

जब आप एक पुल रिक्वेस्ट सबमिट करते हैं, तो एक CLA बॉट स्वचालित रूप से यह निर्धारित करेगा कि आपको CLA प्रदान करने की आवश्यकता है या नहीं और PR को उचित रूप से सजाएगा (जैसे, स्थिति जाँच, टिप्पणी)। बस बॉट द्वारा दिए गए निर्देशों का पालन करें। हमारे CLA का उपयोग करने वाली सभी रिपॉज़िटरीज़ में आपको यह केवल एक बार करना होगा।

इस परियोजना ने Microsoft Open Source Code of Conduct अपनाया है। अधिक जानकारी के लिए Code of Conduct FAQ देखें या किसी भी अतिरिक्त प्रश्न या टिप्पणी के लिए [email protected] से संपर्क करें।

ट्रेडमार्क

इस परियोजना में परियोजनाओं, उत्पादों या सेवाओं के ट्रेडमार्क या लोगो हो सकते हैं। Microsoft ट्रेडमार्क या लोगो का अधिकृत उपयोग Microsoft's Trademark & Brand Guidelines के अधीन है और उनका पालन करना अनिवार्य है। इस परियोजना के संशोधित संस्करणों में Microsoft ट्रेडमार्क या लोगो का उपयोग भ्रम उत्पन्न नहीं करना चाहिए या Microsoft प्रायोजन का संकेत नहीं देना चाहिए। तृतीय-पक्ष ट्रेडमार्क या लोगो का कोई भी उपयोग उन तृतीय-पक्षों की नीतियों के अधीन है।