deso-pk/make-trust-irrelevantLinux सिस्टम, स्वायत्त सॉफ़्टवेयर और AI एजेंट्स के लिए कर्नेल-प्रवर्तित प्राधिकार और रनटाइम सुरक्षा।
Linux सिस्टम, अनुप्रयोगों, स्वायत्त सॉफ़्टवेयर और AI एजेंटों के लिए कर्नेल-प्रवर्तित प्राधिकार और रनटाइम सुरक्षा।
KERNHELM एक सामान्य ऑपरेटिंग-सिस्टम सुरक्षा सब्सट्रेट है जो सॉफ़्टवेयर स्टैक के निम्नतम व्यावहारिक रूप से प्रवर्तनीय स्तर पर एक कठोर प्राधिकार सीमा स्थापित करता है — AI, अनुप्रयोगों, सेवाओं और साधारण यूज़रलैंड के नीचे।
इसका उद्देश्य कहने में सरल है:
सॉफ़्टवेयर शक्ति का अनुरोध कर सकता है। उसे उस शक्ति को प्रदान करने वाले प्राधिकार का निर्माण करने में सक्षम नहीं होना चाहिए।
KERNHELM शासित विशेषाधिकार प्राप्त प्रभावों के बारे में अंतिम निर्णय को कर्नेल सीमा में स्थानांतरित कर देता है।
उस सीमा के ऊपर का सॉफ़्टवेयर असाधारण रूप से सक्षम हो सकता है।
वह योजना बना सकता है।
वह तर्क कर सकता है।
वह स्वचालित कर सकता है।
वह अनुप्रयोगों का प्रशासन कर सकता है।
वह मशीन की रक्षा कर सकता है।
वह एक स्वायत्त AI एजेंट के रूप में निरंतर संचालित हो सकता है।
वह एक उन्नत कृत्रिम बुद्धिमत्ता भी हो सकता है।
लेकिन केवल क्षमता अनुमति नहीं बनाती।
वास्तुशिल्पीय पृथक्करण डिज़ाइन द्वारा निरपेक्ष है:
जो वस्तु किसी प्रभाव का अनुरोध कर रही है, उसे वह वस्तु बनने की अनुमति नहीं है जो यह निर्णय लेती है कि उस प्रभाव को उत्पन्न करने का उसके पास प्राधिकार है या नहीं।
सामान्य सुरक्षा भाषा में, KERNHELM यह पूछने से आगे बढ़ने का एक प्रयास है:
"क्या हम इस प्रोग्राम पर भरोसा करते हैं?"
और इस ओर:
"क्या इस सटीक प्रयासित प्रभाव के पास वैध प्राधिकार है?"
यही अंतर इस परियोजना का मूल है।
AI एजेंट सुरक्षा के लिए, यही सिद्धांत दूसरे तरीके से कहा जा सकता है:
एक AI एजेंट यह निर्णय ले सकता है कि वह क्या करना चाहता है। उस निर्णय को उसे पूरा करने के लिए आवश्यक प्राधिकार का निर्माण नहीं करना चाहिए।
KERNHELM एक AI सैंडबॉक्स नहीं है।
यह एक एप्लिकेशन कंटेनर नहीं है।
यह किसी विशेष प्रोग्राम के चारों ओर एक अनुमति रैपर नहीं है।
यह एक प्रॉम्प्ट-इंजेक्शन डिटेक्टर नहीं है।
यह एक मॉडल-व्यवहार वर्गीकरणकर्ता नहीं है।
यह एक AI किल स्विच नहीं है।
यह एक पारंपरिक यूज़रलैंड नीति इंजन नहीं है।
यह केवल उस सॉफ़्टवेयर के बगल में चलने वाली एक और AI एजेंट एक्सेस-कंट्रोल परत नहीं है जिसे यह नियंत्रित करता है।
यह स्वयं ऑपरेटिंग सिस्टम के लिए एक सामान्य प्राधिकार वास्तुकला है।
एक सैंडबॉक्स मुख्य रूप से उत्तर देता है:
इस प्रोग्राम को कहाँ संचालित होने की अनुमति है?
KERNHELM एक गहरा प्रश्न पूछता है:
इस विशेषाधिकार प्राप्त प्रभाव को उत्पन्न करने का प्राधिकार आख़िर कहाँ से आता है?
एक उपयोगी संक्षेपण है:
एक सैंडबॉक्स सीमित करता है कि सॉफ़्टवेयर कहाँ संचालित हो सकता है। KERNHELM सीमित करता है कि प्राधिकार कहाँ से आ सकता है।
मशीन से AI को पूरी तरह हटा दें और KERNHELM तब भी अर्थपूर्ण बना रहता है।
एक ब्राउज़र, डेमन, पैकेज मैनेजर, हेल्पर प्रोसेस, गेम, ड्राइवर यूटिलिटी, दुर्भावनापूर्ण पेलोड, समझौता किए गए सॉफ़्टवेयर के माध्यम से कार्य करने वाला दूरस्थ हमलावर, या कृत्रिम बुद्धिमत्ता अंततः उसी अंतर्निहित प्राधिकार समस्या का सामना करती है।
यही कारण है कि KERNHELM केवल एक AI कंटेनमेंट सिस्टम के बजाय एक सामान्य सुरक्षा सब्सट्रेट है।
AI इस वास्तुकला के सबसे स्पष्ट और संभावित रूप से सबसे मजबूत अनुप्रयोगों में से एक है।
आधुनिक AI एजेंट सुरक्षा, एजेंटिक AI सुरक्षा, और AI रनटाइम सुरक्षा तेजी से निम्नलिखित तंत्रों पर निर्भर करती है:
ये तंत्र सभी उपयोगी हो सकते हैं।
KERNHELM पूछता है कि इनके नीचे क्या होता है।
यदि एक स्वायत्त AI एजेंट समझौता किया गया, हेरफेर किया गया, प्रॉम्प्ट-इंजेक्ट किया गया, गलत कॉन्फ़िगर किया गया, या उच्च-स्तरीय कंटेनमेंट तंत्र से बच निकला, तो क्या उस घटना को स्वचालित रूप से परिणामी सॉफ़्टवेयर को व्यापक मशीन प्राधिकार प्रदान करना चाहिए?
KERNHELM का उत्तर है नहीं।
एक सैंडबॉक्स एस्केप स्वचालित रूप से एक प्राधिकार एस्केप नहीं बनना चाहिए।
एक कंटेनमेंट सीमा को पार करना स्वयं कर्नेल दीवार पर संरक्षित प्रभावों के लिए प्राधिकार का निर्माण नहीं करना चाहिए।
इसी प्रकार:
प्रॉम्प्ट इंजेक्शन को प्राधिकार का निर्माण नहीं करना चाहिए।
किसी एजेंट को समझौता करने से प्राधिकार का निर्माण नहीं होना चाहिए।
AI कंटेनमेंट विफलता स्वचालित रूप से मशीन-व्यापी प्राधिकार विफलता नहीं बननी चाहिए।
यही कारण है कि KERNHELM साधारण एजेंट रनटाइम के नीचे से AI रनटाइम सुरक्षा का दृष्टिकोण अपनाता है।
उच्च परतें निर्णय ले सकती हैं:
what the agent wants to do
KERNHELM पूछता है:
whether the resulting machine effect possesses authority to happen
अधिकांश AI नियंत्रण प्रणालियाँ एजेंट के व्यवहार, अनुमतियों, उपकरणों, या वातावरण को नियंत्रित करने से संबंधित हैं।
KERNHELM एक अन्य परत को संबोधित करता है:
भले ही एजेंट वास्तविक ऑपरेटिंग-सिस्टम प्रभाव का प्रयास करने के बिंदु तक पहुँच जाए, क्या उस सटीक प्रभाव के लिए वैध स्वतंत्र अधिकार मौजूद है?
यह अंतर विशेष रूप से स्वायत्त और दीर्घकालिक एजेंटों के लिए महत्वपूर्ण है क्योंकि तर्क, संरोधन, निगरानी, या नीति की विफलता स्वचालित रूप से होस्ट पर अप्रतिबंधित अधिकार नहीं बननी चाहिए।
इसलिए KERNHELM एक AI किल स्विच नहीं है।
इसका अभीष्ट मॉडल अधिक सूक्ष्म है:
अनधिकृत प्रभाव को अस्वीकार करें जबकि अलग से अधिकृत कार्य को जारी रखने दें।
निम्नलिखित सार्वजनिक प्रदर्शन इस अंतर को सीधे दर्शाता है।
एक अविश्वसनीय दस्तावेज़ के भीतर एक दुर्भावनापूर्ण निर्देश एक संरक्षित फ़ाइल को हटाने के लिए प्रेरित करने का प्रयास करता है।
सॉफ़्टवेयर निर्देश प्राप्त करता है और हटाने का प्रयास करता है।
KERNHELM को निर्देश को दुर्भावनापूर्ण के रूप में सही ढंग से वर्गीकृत करने या इसे प्रॉम्प्ट इंजेक्शन के रूप में पहचानने की आवश्यकता नहीं है।
कर्नेल अधिकार सीमा एक संकीर्ण प्रश्न पूछती है:
क्या इस सटीक लक्ष्य के विरुद्ध यह सटीक विलोपन, वैध स्वीकृत अधिकार रखता है?
यह नहीं रखता।
KERNHELM ऑपरेशन को अस्वीकार करता है और फ़ाइल मौजूद रहती है।
उपयोगकर्ता तब शासित पथ के माध्यम से सीधे विलोपन को अधिकृत करता है।
सॉफ़्टवेयर अधिक विश्वसनीय नहीं हो जाता।
निष्पादन योग्य फ़ाइल नहीं बदलती।
फ़ाइल किसी अन्य सैंडबॉक्स में नहीं जाती।
जो बदलता है वह अधिकार है।
मेल खाते स्वीकृत अधिकार के साथ विलोपन का पुनः प्रयास किया जाता है।
KERNHELM शासित प्रभाव की अनुमति देता है और फ़ाइल हटा दी जाती है।
प्रदर्शित अनुक्रम है:
untrusted document instruction
↓
software attempts DELETE
↓
no matching admitted authority
↓
KERNHELM DENY
↓
file remains
के बाद:
direct user authorization
↓
bounded authority admitted
↓
software attempts DELETE
↓
authority matches effect + target
↓
KERNHELM ALLOW
↓
file is deleted
महत्वपूर्ण परिणाम यह है:
वही सॉफ़्टवेयर। वही लक्ष्य। प्रभाव का वही वर्ग। भिन्न स्वीकृत प्राधिकार।
सॉफ़्टवेयर को अपने प्राधिकार के बदलने के लिए अधिक विश्वसनीय बनने की आवश्यकता नहीं थी।
यही KERNHELM है।
आधुनिक कंप्यूटर नियमित रूप से सॉफ़्टवेयर को व्यापक स्थायी प्राधिकार देते हैं।
एक प्रक्रिया निम्नलिखित करने में सक्षम हो सकती है:
क्योंकि यह उस उपयोगकर्ता, विशेषाधिकार स्तर, कंटेनर, नेमस्पेस, क्षमता सेट, सेवा पहचान, या निष्पादन संदर्भ के कारण होता है जिसके अंतर्गत यह चल रहा होता है।
यह एक परिचित सुरक्षा श्रृंखला बनाता है:
authority is granted broadly
↓
software is expected to behave correctly
↓
software is compromised, confused, manipulated, or simply wrong
↓
the inherited authority is still real
स्वायत्त AI एजेंट इस पुरानी सुरक्षा समस्या को और अधिक दृश्यमान बनाते हैं।