AI एजेंट शेल कमांड चलाते हैं, फ़ाइलें पढ़ते और लिखते हैं, क्रेडेंशियल्स तक पहुँचते हैं, और बाहरी API कॉल करते हैं। वे यह स्वायत्त रूप से करते हैं, अक्सर कई चरणों में, सीमित चेकपॉइंट्स के साथ।

यह ऐसे जोखिम पैदा करता है जिनके लिए पारंपरिक सुरक्षा टूलिंग डिज़ाइन नहीं की गई है:

• प्रॉम्प्ट इंजेक्शन - किसी फ़ाइल, इश्यू, या वेब पेज में दुर्भावनापूर्ण सामग्री एजेंट को कार्य के बीच में भटका सकती है
• अनपेक्षित विनाशकारी क्रियाएँ - एक एजेंट किसी निर्देश की गलत व्याख्या करता है और कुछ अपरिवर्तनीय चला देता है
• सीक्रेट एक्सफिल्ट्रेशन - एक एजेंट डिबगिंग कार्य के हिस्से के रूप में .env या क्रेडेंशियल फ़ाइलें पढ़ता है और सामग्री को बाहर भेज देता है
• दृश्यता और पहचान की कमी - एक एजेंट सबएजेंट उत्पन्न कर सकता है और अंतिम उपयोगकर्ता के लिए पूर्ण दृश्यता का अभाव होता है
• विशेषाधिकार वृद्धि - एक एजेंट अनुमति त्रुटि को हल करने के लिए sudoers, CI पाइपलाइन, या फ़ाइल अनुमतियाँ संशोधित करता है
• निर्भरता हेरफेर - एक एजेंट इंजेक्ट किए गए इनपुट के निर्देशन में एक पैकेज इंस्टॉल या फिर से लिखता है
• सप्लाई चेन जोखिम - एक एजेंट कोड वेलोसिटी के लिए अनुकूलन करते समय एक कमजोर या 0-day पैकेज इंस्टॉल करता है

मानक OS-स्तरीय और एंडपॉइंट सुरक्षा उपकरण कर्नेल और फ़ाइलसिस्टम की निगरानी करते हैं। लेकिन उनके पास AI को उपयोगी बनाने के लिए संदर्भ का अभाव है

pip install prismor
prismor setup