AI एजेंट हमेशा अधिकृत दिखते हैं। AIOStack आपको बताता है कि वे कब नहीं हैं।

AI एजेंट उपयोगकर्ताओं की ओर से कार्य करते हैं। वे वास्तविक क्रेडेंशियल का उपयोग करते हैं, वास्तविक API कॉल करते हैं, टूल को आमंत्रित करते हैं, API तक पहुँचते हैं, और प्रोडक्शन सिस्टम को छूते हैं। अधिकांश सुरक्षा उपकरण इस गतिविधि को वैध मानते हैं क्योंकि तकनीकी रूप से यह वैध है।

असली समस्या केवल अनधिकृत पहुँच नहीं है।
बड़ी समस्या तब है जब अधिकृत पहुँच रनटाइम पर अनुचित हो जाती है।

AIOStack, AI वर्कलोड के लिए Aurva का मुफ्त सामुदायिक रनटाइम दृश्यता स्तर है। यह सुरक्षा और प्लेटफ़ॉर्म टीमों को शैडो AI खोजने, एजेंट पहचानों का मानचित्रण करने, LLM और टूल गतिविधि का पता लगाने और यह समझने में मदद करता है कि AI सिस्टम Kubernetes वातावरण के अंदर कैसे व्यवहार करते हैं।

कोई एप्लिकेशन कोड परिवर्तन नहीं। कोई SDK निर्भरता नहीं। कोई साइडकार नहीं। वहाँ रनटाइम दृश्यता जहाँ AI वर्कलोड वास्तव में चलते हैं।

कैसे स्थापित करें (Kubernetes)

curl -fsSL https://aurva.ai/install.sh | bash

इंस्टालर आपको सेटअप में मार्गदर्शन करेगा, साइनअप के लिए app.aurva.ai खोलेगा, और आपके क्लस्टर में AIOStack® को तैनात करेगा। आपकी AI सूची 60 सेकंड के भीतर दिखाई देती है।

मैन्युअल Helm स्थापना के लिए इंस्टॉलेशन गाइड देखें।

अनइंस्टॉल करें

curl -fsSL https://aurva.ai/uninstall.sh | bash

AIOStack क्या उत्तर देता है

मुख्य विशेषताएं

• शून्य-इंस्ट्रुमेंटेशन खोज: सभी पॉड्स में LLM API कॉल, मॉडल डाउनलोड, वेक्टर डेटाबेस, MCP सर्वर और AI एजेंटों को स्वचालित रूप से पता लगाएं — बिना एप्लिकेशन कोड को छुए।
• AI बिल ऑफ मैटेरियल्स (AIBOM): आपके बुनियादी ढांचे में मॉडल, API और AI निर्भरताओं की पूर्ण रनटाइम सूची। किसी घटना के बताने से पहले जानें कि क्या चल रहा है।
• एजेंट पहचान मानचित्रण: AI ट्रैफ़िक को Kubernetes सेवा खातों, नेमस्पेस और वर्कलोड पहचानों से सहसंबंधित करें। जब कोई एजेंट अप्रत्याशित कुछ करता है, तो आप जानते हैं कि वास्तव में कौन सा है।
• प्रॉम्प्ट और कॉल मॉनिटरिंग: प्रति सेवा LLM अनुरोध मेटाडेटा, मॉडल रूटिंग और टोकन उपयोग कैप्चर करें। कोई अनुरोध बॉडी संग्रहीत नहीं की जाती — केवल वे संकेत जो सुरक्षा के लिए मायने रखते हैं।
• AI कॉल वंशावली: सेवाओं में बहु-चरणीय एजेंट वर्कफ़्लो का पता लगाएं। किसी एजेंट द्वारा किए गए कॉल की पूरी श्रृंखला देखें, न कि केवल व्यक्तिगत घटनाएँ।
• लागत और उपयोग आरोपण: API उपयोग और टोकन खपत को टीमों, नेमस्पेस और सेवा खातों से मैप करें। साझा AI बुनियादी ढांचे का प्रबंधन करने वाली प्लेटफ़ॉर्म टीमों के लिए उपयोगी।
• अनुपालन ऑडिट ट्रेल्स: GDPR, SOC2 और आंतरिक ऑडिट के लिए पॉड-स्तरीय साक्ष्य उत्पन्न करें — टाइमस्टैम्प्ड, आरोपित और क्वेरी करने योग्य।
• न्यूनतम ओवरहेड: कर्नेल-स्तरीय फ़िल्टरिंग का उपयोग करते हुए प्रति नोड <2% CPU प्रभाव। प्रोडक्शन के लिए बनाया गया।

पूर्वापेक्षाएँ

• Kubernetes 1.29+ with eBPF support (EKS, GKE, AKS)
• Linux kernel 5.15+
• Helm 3.x

यह कैसे काम करता है

AIOStack आपके क्लस्टर में दो घटकों को तैनात करता है:

Observer (DaemonSet): प्रत्येक नोड पर चलता है और eBPF प्रोग्राम लोड करता है जो कर्नेल ट्रेसपॉइंट (tcp_sendmsg, tcp_recvmsg, execve, openat) में हुक करते हैं। ये प्रोग्राम नेटवर्क मेटाडेटा, DNS क्वेरी और प्रक्रिया निष्पादन घटनाओं को कैप्चर करते हैं, AI-विशिष्ट पैटर्न (API एंडपॉइंट, मॉडल डाउनलोड, वेक्टर DB प्रोटोकॉल) के लिए फ़िल्टर करते हैं और फिर उपयोगकर्तास्पेस पर अग्रेषित करते हैं।

Outpost (Deployment): Observers से घटनाएँ प्राप्त करता है, एप्लिकेशन प्रोटोकॉल (HTTP/1.1, HTTP/2, gRPC) को पार्स करता है, हस्ताक्षर मिलान का उपयोग करके AI सेवाओं को वर्गीकृत करता है, और /proc/net/tcp और cgroup जानकारी के माध्यम से सॉकेट inodes को पॉड पहचानों से सहसंबंधित करके घटनाओं को Kubernetes मेटाडेटा से समृद्ध करता है।

ट्रैफ़िक का विश्लेषण syscall स्तर पर किया जाता है — TLS एन्क्रिप्शन से पहले आउटगोइंग पर, डिक्रिप्शन के बाद इनगोइंग पर — SSL_write/SSL_read फ़ंक्शन पर uprobes का उपयोग करके। केवल मेटाडेटा (HTTP हेडर, पेलोड आकार, विलंबता) निकाला जाता है; अनुरोध/प्रतिक्रिया बॉडी कभी कैप्चर नहीं की जाती।

पढ़ें: हमने SSL/TLS जाल से कैसे बच निकले

सामुदायिक बनाम एंटरप्राइज़

AIOStack उपयोग करने के लिए मुफ्त है। सभी मुख्य eBPF-आधारित सुविधाएँ बिना किसी फ़ीचर गेटिंग के सामुदायिक संस्करण में उपलब्ध हैं।

एंटरप्राइज़ मानक Kubernetes वातावरण के बाहर AI वर्कलोड चलाने वाली टीमों के लिए एकीकरण और समर्थन जोड़ता है:

नोट: eBPF Bedrock, Vertex, Databricks या अन्य प्रबंधित PaaS रनटाइम पर उपलब्ध नहीं है। उन वातावरणों के लिए, एंटरप्राइज़ एजेंटलेस-आधारित एकीकरण के लिए हमसे संपर्क करें।

एंटरप्राइज़ के बारे में हमसे बात करें →

दस्तावेज़ीकरण

पूर्ण दस्तावेज़ीकरण: aurva.ai/docs

• आर्किटेक्चर गहराई से
• इंस्टॉलेशन गाइड
• सुरक्षा मॉडल

प्रतिक्रिया और समर्थन

हम सक्रिय रूप से AIOStack विकसित कर रहे हैं और आपसे सुनना पसंद करेंगे:

• फ़ीचर अनुरोध: GitHub Issues
• बग रिपोर्ट: GitHub Issues
• प्रश्न: [email protected]

लाइसेंस

Apache License 2.0 - विवरण के लिए LICENSE देखें।

app.aurva.ai पर होस्ट किया गया संस्करण प्रबंधित ClickHouse® स्टोरेज और UI होस्टिंग प्रदान करता है। सभी मुख्य ऑब्ज़र्वेबिलिटी तर्क हमारे मुख्य आर्किटेक्ट द्वारा अनुमोदित होने के बाद इस रिपॉजिटरी में ओपन सोर्स किया जाएगा।

⭐ स्टार इतिहास

द्वारा निर्मित Aurva