Agentic Evidence

Agentic AI के लिए सुरक्षा साक्ष्य और अवलोकनशीलता

Agentic Evidence एक OWASP ओपन-सोर्स संदर्भ परियोजना है जो यह खोजती है कि एजेंटिक AI निष्पादन के लिए सुरक्षा साक्ष्यों को कैसे एकत्र, सहसंबद्ध और मूल्यांकित किया जाए।

एजेंट अवलोकनशीलता यह दिखा सकती है कि किसी घटना को लॉग किया गया था। एक सुरक्षा जाँच के लिए यह स्थापित करना आवश्यक है कि क्या हुआ, कौन-सी पहचानें और अनुमतियाँ शामिल थीं, किन इनपुट्स ने कार्रवाई को प्रभावित किया, कौन-से नीति निर्णय लिए गए, और उपलब्ध साक्ष्य वास्तव में किन निष्कर्षों का समर्थन करते हैं।

Agentic Evidence साक्ष्य पर्याप्तता, निष्पादन पुनर्निर्माण, और सुरक्षा जाँच पर केंद्रित है। यह एजेंट सुरक्षा वर्गीकरणों और परीक्षण परियोजनाओं का पूरक है, न कि उनकी नकल।

परियोजना की स्थिति: परियोजना ऊष्मायन (incubation) में है, और प्रारंभिक कार्यान्वयन की योजना बनाई जा रही है। इस दस्तावेज़ में वर्णित आर्किटेक्चर और कमांड इच्छित MVP का प्रतिनिधित्व करते हैं और कार्यान्वयन निर्णयों के अंतिम रूप दिए जाने पर बदल सकते हैं।

लक्ष्य

• सहसंबद्ध निष्पादन और सुरक्षा घटनाओं से एजेंट निष्पादनों का पुनर्निर्माण करना।
• कार्रवाइयों को पहचानों, इनपुट्स, पुनर्प्राप्त सामग्री, टूल कॉल, प्राधिकरण निर्णयों, और परिणामों से जोड़ना।
• साक्ष्य की उत्पत्ति (provenance) और साक्ष्य अंतरालों को जाँचकर्ताओं के लिए दृश्यमान बनाना।
• यह प्रदर्शित करना कि एकत्रित साक्ष्यों से क्या निष्कर्ष निकाले जा सकते हैं और क्या नहीं।
• नियतात्मक, पुनरावर्तनीय परिदृश्य प्रदान करना जिन्हें योगदानकर्ता स्थानीय रूप से चला सकें।
• सुरक्षा पेशेवरों के लिए एक विस्तारणीय साक्ष्य वर्गीकरण और व्यावहारिक मार्गदर्शन प्रकाशित करना।

प्रारंभिक परिदृश्य

1. सौम्य निष्पादन: एक सामान्य एजेंट वर्कफ़्लो के लिए आधारभूत स्थिति स्थापित करना।
2. पुनर्प्राप्ति विषाक्तता (Retrieval poisoning): यह प्रदर्शित करना कि पुनर्प्राप्त सामग्री किसी एजेंट कार्रवाई को कैसे प्रभावित कर सकती है और क्या साक्ष्य उस संबंध को कैप्चर करते हैं।
3. टूल विवरणक संशोधन: यह मूल्यांकन करना कि क्या साक्ष्य यह स्थापित कर सकते हैं कि कौन-सा टूल विवरणक देखा गया या उपयोग किया गया, और क्या संशोधन पता लगाने योग्य हैं।

परिदृश्य नियतात्मक होने चाहिए और संश्लेषित डेटा का उपयोग करने चाहिए। परियोजना को यह दावा नहीं करना चाहिए कि किसी हमले का पता लगाया जा सकता है, जब तक कि कार्यान्वयन और परीक्षण उस दावे का समर्थन न करें।

इच्छित MVP

पहला रिलीज़ एक स्थानीय संदर्भ अनुप्रयोग के रूप में नियोजित है जिसमें निम्नलिखित विशेषताएँ होंगी:

• एक नियतात्मक परिदृश्य रनर।
• एक संस्करणित JSON साक्ष्य स्कीमा।
• OpenTelemetry निष्पादन टेलीमेट्री और सहसंबंध।
• एक साक्ष्य रिकॉर्डर और स्थानीय साक्ष्य भंडार।
• निष्पादन समयरेखाओं, घटना विवरणों, और साक्ष्य अंतरालों के साथ एक सुरक्षा जाँच इंटरफ़ेस।
• निर्यात योग्य साक्ष्य बंडल।
• स्वचालित परीक्षण, Docker Compose कॉन्फ़िगरेशन, और योगदानकर्ता दस्तावेज़ीकरण।

प्रस्तावित प्रौद्योगिकी स्टैक

घटक	प्रस्तावित प्रौद्योगिकी
अनुप्रयोग/API	Python के साथ FastAPI, या जहाँ उपयुक्त हो वहाँ Go
साक्ष्य प्रारूप	JSON Schema के साथ संस्करणित JSON
टेलीमेट्री	OpenTelemetry SDK और OTLP
स्थानीय भंडारण	SQLite और/या JSON फ़िक्स्चर
जाँच UI	Streamlit या एक समतुल्य हल्का UI
स्थानीय परिनियोजन	Docker Compose
परीक्षण	pytest और स्कीमा सत्यापन
सतत एकीकरण	GitHub Actions

ये प्रस्तावित कार्यान्वयन विकल्प हैं, न कि इस बात की गारंटी कि प्रत्येक घटक उपलब्ध होगा। आर्किटेक्चर निर्णयों को रिपॉज़िटरी में प्रलेखित किया जाना चाहिए और केवल तभी बदला जाना चाहिए जब कोई स्पष्ट तकनीकी औचित्य हो।

यह परियोजना क्या नहीं है

प्रारंभिक रिलीज़ का उद्देश्य निम्नलिखित नहीं है:

• एक उत्पादन SIEM या सामान्य-प्रयोजन अवलोकनशीलता प्लेटफ़ॉर्म।
• एक एजेंट रनटाइम, मॉडल प्रदाता, या स्वायत्त प्रतिक्रिया इंजन।
• इस बात की गारंटी कि कोई एजेंट सुरक्षित है या रिकॉर्ड किए गए साक्ष्य सत्य हैं।
• प्राधिकरण प्रवर्तन, रनटाइम सुरक्षा नियंत्रणों, या घटना प्रतिक्रिया का प्रतिस्थापन।
• किसी लाइव LLM, Kubernetes, या क्लाउड अवसंरचना पर निर्भर।

टेलीमेट्री अपने आप में प्रमाण नहीं है। घटनाएँ अनुपस्थित हो सकती हैं, गलत तरीके से सहसंबद्ध हो सकती हैं, या किसी समझौता किए गए घटक द्वारा उत्पन्न की जा सकती हैं। अनुप्रयोग को देखे गए रिकॉर्ड, घटक दावों, स्वतंत्र रूप से सत्यापित साक्ष्य, और अज्ञातों के बीच अंतर करना चाहिए।

वैचारिक कार्यप्रवाह

1. एक निर्धारक परिदृश्य चलाएँ।
2. निष्पादन और सुरक्षा ईवेंट उत्पन्न करें।
3. ईवेंट को एजेंट रन और ट्रेस संदर्भ के साथ सहसंबंधित करें।
4. ईवेंट संरचनाओं को मान्य करें और प्रोवेनेंस रिकॉर्ड करें।
5. निष्पादन टाइमलाइन, प्राधिकरण निर्णय, परिणाम और साक्ष्य अंतरालों का निरीक्षण करें।
6. साक्ष्य बंडल निर्यात करें और इसकी तुलना अपेक्षित परिदृश्य निष्कर्षों से करें।

रिपॉज़िटरी दस्तावेज़ीकरण

• शुरुआत करना: स्थानीय सेटअप और प्रथम-रन वर्कफ़्लो।
• संसाधन: मानक, विनिर्देश और संबंधित सुरक्षा परियोजनाएँ।
• सामान्य प्रश्न: परियोजना का दायरा, साक्ष्य पर विश्वास, टेलीमेट्री की सीमाएँ और योगदान संबंधी प्रश्न।

परियोजना के सिद्धांत

• दावों से पहले साक्ष्य: निष्कर्षों को स्पष्ट साक्ष्य द्वारा समर्थित होना चाहिए।
• अनिश्चितता को दृश्यमान बनाएँ: अनुपस्थित साक्ष्य एक परिणाम है, किसी निष्कर्ष का आविष्कार करने का कारण नहीं।
• पुनरावृत्ति: परिदृश्यों में निर्धारक इनपुट और परीक्षण-योग्य अपेक्षित परिणाम होने चाहिए।
• न्यूनतम डेटा: डिफ़ॉल्ट रूप से सिंथेटिक इनपुट का उपयोग करें और रहस्यों या अनावश्यक व्यक्तिगत डेटा को एकत्र करने से बचें।
• अंतर-संचालनीयता: जहाँ उपयुक्त हो, प्रलेखित स्कीमाओं और स्थापित टेलीमेट्री परंपराओं को प्राथमिकता दें।
• डिज़ाइन द्वारा सुरक्षा: साक्ष्य अंतर्ग्रहण, भंडारण, निर्यात और जाँच इंटरफ़ेस को सुरक्षा-संवेदनशील घटकों के रूप में मानें।

योगदान

निम्नलिखित क्षेत्रों में योगदान का स्वागत है:

• साक्ष्य स्कीमा डिज़ाइन और सत्यापन।
• एजेंट सुरक्षा परिदृश्य और पुनरुत्पादनीय परीक्षण मामले।
• टेलीमेट्री संग्रह और ईवेंट सहसंबंध।
• साक्ष्य प्रोवेनेंस, अखंडता और विश्लेषण।
• जाँच इंटरफ़ेस में सुधार।
• स्वचालित परीक्षण और दस्तावेज़ीकरण।

पर्याप्त कार्य शुरू करने से पहले:

1. मौजूदा इश्यू और परियोजना रोडमैप की समीक्षा करें।
2. प्रस्तावित परिवर्तन का वर्णन करते हुए एक इश्यू खोलें या उस पर टिप्पणी करें।
3. पुल अनुरोधों को केंद्रित रखें और जहाँ लागू हो, परीक्षण या पुनरुत्पादनीय साक्ष्य शामिल करें।
4. कभी भी रहस्य, वास्तविक ग्राहक डेटा या संवेदनशील उत्पादन ट्रेस सबमिट न करें।

वर्तमान आवश्यकताओं के लिए रिपॉज़िटरी के योगदान दिशानिर्देशों का पालन करें।

लाइसेंस

परियोजना Apache License 2.0 का उपयोग करने के लिए अभिप्रेत है, जो रिपॉज़िटरी में प्रकाशित लाइसेंस फ़ाइल के अधीन है। आधिकारिक शर्तों के लिए रिपॉज़िटरी की LICENSE फ़ाइल देखें।

आभार

Agentic Evidence एक OWASP परियोजना है। वर्तमान नेतृत्व, संपर्क विवरण और परियोजना की स्थिति के लिए आधिकारिक OWASP परियोजना सूची और रिपॉज़िटरी मेटाडेटा देखें। तृतीय-पक्ष टूल और सेवाओं के संदर्भ OWASP के समर्थन का संकेत नहीं देते हैं।