AI सुरक्षा न्यूज़लेटर - AI सुरक्षा अनुसंधान, अंतर्दृष्टियाँ, रिपोर्ट, आगामी कार्यक्रम, और उपकरण और संसाधनों का एक मासिक सारांश
एआई सुरक्षा अनुसंधान, अंतर्दृष्टि, रिपोर्ट, आगामी कार्यक्रम और उपकरण एवं संसाधनों का एक संकलन। अतिरिक्त अपडेट के लिए AISecHub समुदाय और हमारे LinkedIn समूह को फॉलो करें। हमारा प्रोजेक्ट, Awesome AI Security भी देखें।
InnovGuard.com द्वारा प्रायोजित - प्रौद्योगिकी जोखिम और साइबर सुरक्षा सलाहकार - नवाचार करें और आत्मविश्वास से निवेश करें, आश्वासन के साथ नेतृत्व करें।
📌 हमारी वर्गीकरण को अद्यतन करना: एजेंटिक AI सिस्टम में विफलता मोड Microsoft रेड-टीम के काम से अपने एजेंटिक-AI विफलता-मोड वर्गीकरण का विस्तार करता है, जो सुरक्षा टीमों को तैनात एजेंट सिस्टम में टूल का दुरुपयोग, अत्यधिक एजेंसी, मेमोरी संदूषण, पहचान सीमाओं और मानव-ओवरराइड अंतराल के बारे में सोचने का एक स्पष्ट तरीका प्रदान करता है।
📌 Miasma Worm ने Microsoft पर फिर से हमला किया: AI कोडिंग एजेंटों को लक्षित करने वाले सप्लाई चेन हमले के बाद Azure Functions Action और 72 अन्य रिपॉजिटरी अक्षम की गईं StepSecurity AI कोडिंग-एजेंट वर्कफ़्लो और GitHub रिपॉजिटरी को लक्षित करने वाले एक सप्लाई-चेन अभियान का दस्तावेजीकरण करता है, जिसमें CI/CD वातावरण में निर्भरता विश्वास, कार्रवाई प्रोवेंस, रिपॉजिटरी लेखन पथ और एजेंट-दृश्यमान क्रेडेंशियल्स पर रक्षात्मक ध्यान केंद्रित है।
📌 कौशल वितरण की दयनीय स्थिति Trail of Bits के शोधकर्ताओं ने ClawHub, Cisco skill-scanner और skills.sh जाँचों को ऐसे कौशल पैकेजों से बायपास किया जिनमें ट्रंकेशन, आर्काइव इनडायरेक्शन, बाइटकोड विषाक्तता और प्रॉम्प्ट-इंजेक्शन फ्रेमिंग का उपयोग किया गया, यह दिखाते हुए कि सार्वजनिक एजेंट-कौशल बाज़ारों को स्कैनर ट्रस्ट के बजाय क्यूरेशन और प्रोवेंस नियंत्रण की आवश्यकता है।
📌 Codex CLI RCE: प्रॉम्प्ट इंजेक्शन शमन Cymulate कमांड-लाइन कोडिंग एजेंटों में प्रॉम्प्ट-इंजेक्शन जोखिम पर चर्चा करता है, जहां अविश्वसनीय टेक्स्ट फ़ाइल लेखन या टूल निष्पादन को निर्देशित कर सकता है जब तक कि सैंडबॉक्सिंग, अनुमोदन सीमाएं और कमांड बाधाओं को मॉडल के बाहर लागू नहीं किया जाता।
📌 एजेंटजैकिंग: MCP इंजेक्शन AI कोडिंग एजेंटों का अपहरण करता है Cloud Security Alliance ने Sentry-to-MCP "एजेंटजैकिंग" पैटर्न का सारांश दिया, जहां बाहरी रूप से नियंत्रित टेलीमेट्री या मुद्दा सामग्री कोडिंग एजेंटों के लिए विश्वसनीय संदर्भ बन जाती है। उपयोगी रक्षात्मक ढांचा यह है कि ऑब्जर्वेबिलिटी, बग-रिपोर्ट और एकीकरण डेटा को तटस्थ विकास मेटाडेटा के बजाय अविश्वसनीय एजेंट इनपुट के रूप में माना जाए।
📌 SearchLeak: हमने M365 Copilot को एक-क्लिक डेटा एक्सफ़िलट्रेशन हथियार में कैसे बदल दिया Varonis एक Microsoft 365 Copilot Enterprise हमले की श्रृंखला का वर्णन करता है जो पैरामीटर-टू-प्रॉम्प्ट इंजेक्शन, HTML रेंडरिंग व्यवहार और खोज-पथ दुरुपयोग को जोड़ती है ताकि एक-क्लिक वर्कफ़्लो के माध्यम से संवेदनशील M365 डेटा लीक हो सके।
📌 AutoJack: कैसे एक एकल पृष्ठ आपके AI एजेंट को होस्ट करने वाले होस्ट पर RCE कर सकता है Microsoft दिखाता है कि कैसे एक AI ब्राउज़िंग एजेंट द्वारा देखा गया एक दुर्भावनापूर्ण वेबपेज एक स्थानीय AutoGen Studio सेवा तक पहुंच सकता है और असुरक्षित स्थानीयहोस्ट ट्रस्ट और एजेंट कार्रवाई हैंडलिंग के माध्यम से होस्ट प्रक्रिया निष्पादन को ट्रिगर कर सकता है।
📌 Mastra npm सप्लाई चेन हमला: easy-day-js टाइपोस्क्वाट के माध्यम से 140+ पैकेज बैकडोर किए गए StepSecurity एक टाइपोस्क्वाटेड निर्भरता के माध्यम से Mastra के npm पारिस्थितिकी तंत्र से समझौता करने की रिपोर्ट करता है, जिसमें एक अस्पष्ट पोस्टइंस्टॉल ड्रॉपर था, जो AI एप्लिकेशन स्टैक में उपयोग किए जाने वाले एजेंट, RAG, MCP और वर्कफ़्लो पैकेजों को प्रभावित करता है।
📌 LiteLLM को तोड़ना: निम्न-विशेषाधिकार उपयोगकर्ता से व्यवस्थापक और RCE तक Obsidian एक चेनित LiteLLM विशेषाधिकार-वृद्धि और RCE पथ का दस्तावेजीकरण करता है, यह दिखाते हुए कि कैसे AI गेटवे तक निम्न-विशेषाधिकार पहुंच प्रदाता रहस्यों, प्रॉक्सी नीति और रनटाइम एजेंट कार्यों पर प्रशासनिक नियंत्रण बन सकती है।
📌 Amazon Q भेद्यता: MCP ऑटो-एक्ज़ीक्यूशन के माध्यम से समझौता Wiz एक Amazon Q VS Code एक्सटेंशन समस्या का विश्लेषण करता है जहां क्लोन की गई रिपॉजिटरी में वर्कस्पेस-ट्रस्टेड MCP कॉन्फ़िगरेशन हमलावर-नियंत्रित व्यवहार को ऑटो-लोड कर सकता है और डेवलपर निष्पादन पथ और क्लाउड क्रेडेंशियल्स को उजागर कर सकता है।
📌 macOS.Gaslight: रस्ट बैकडोर एनालिस्ट के खिलाफ प्रॉम्प्ट इंजेक्शन को मोड़ता है, सैंडबॉक्स के खिलाफ नहीं SentinelOne एक रस्ट बैकडोर का दस्तावेजीकरण करता है जो विश्लेषकों और AI-सहायता प्राप्त टूलिंग के लिए प्रॉम्प्ट-इंजेक्शन सामग्री लगाता है, हमले को सैंडबॉक्स एस्केप से मैलवेयर की समीक्षा करने वाले मानव और मॉडल के हेरफेर में स्थानांतरित करता है।
📌 कंप्यूटर-उपयोग और TOCTOU: आप जो क्लिक करते हैं वह वह नहीं है जो आपको मिलता है! Johann Rehberger एक कंप्यूटर-उपयोग एजेंट रेस कंडीशन का प्रदर्शन करता है जहां मॉडल द्वारा स्क्रीन को देखने और क्लिक करने के बीच स्क्रीन बदल जाती है, एक हानिरहित दिखने वाली इंटरैक्शन को Outlook भेजने की क्रिया में बदल देती है, और प्री-एक्शन पिक्सेल या स्थिति पुनर्मूल्यांकन को एक मुख्य नियंत्रण बनाती है।
📌 AI-सहायता प्राप्त सॉफ़्टवेयर विकास के लिए वाइब कोडिंग स्पेक्ट्रम दृष्टिकोण UK NCSC AI-सहायता प्राप्त कोडिंग को एक जोखिम स्पेक्ट्रम के रूप में तैयार करता है, कम-जोखिम वाले प्रोटोटाइप को उत्पन्न कोड से अलग करता है जो प्रमाणीकरण, प्राधिकरण, संवेदनशील डेटा, सुरक्षा-महत्वपूर्ण व्यवहार या महत्वपूर्ण बुनियादी ढांचे को छूता है।
📌 प्रॉम्प्ट इंजेक्शन और एजेंट रनटाइम सुरक्षा: एक व्यावहारिक खतरा मॉडल TMLS प्रॉम्प्ट इंजेक्शन को एक रनटाइम सुरक्षा समस्या के रूप में तैयार करता है, टूल मध्यस्थता, मेमोरी स्टोर, आउटबाउंड चैनलों और मानव अनुमोदन अंतराल के माध्यम से हमलों का मानचित्रण करता है। व्यावहारिक निष्कर्ष यह है कि प्रॉम्प्ट टेक्स्ट को सुरक्षा सीमा मानने के बजाय नियंत्रणों को क्षमता ब्रोकरों, सैंडबॉक्स्ड निष्पादन, अनुमति-सूचियों और ऑडिट पथों में स्थानांतरित किया जाए।
📌 जब 2,000 लोगों ने मेरे AI सहायक को हैक करने की कोशिश की तो क्या हुआ Fernando Irarrázaval एक OpenClaw ईमेल-एजेंट प्रॉम्प्ट-इंजेक्शन चुनौती की रिपोर्ट करता है जिसमें 6,000 से अधिक प्रयास हुए और कोई सफल रहस्य लीक नहीं हुआ, साथ ही एजेंट मेमोरी संदूषण, बैच संदर्भ, API लागत, खाता निलंबन और मॉडल विकल्प के आसपास व्यावहारिक तैनाती मुद्दों को उजागर करता है।
🧰 AgentStalker - एजेंट भेद्यता बेंचमार्क और विश्लेषण उपकरणकिट जिसमें एजेंटिक हमले के पथों के लिए टेंट ट्रैकिंग, AST विश्लेषण, कोड ऑडिटिंग और सैंडबॉक्स पुनरुत्पादन शामिल है। ⭐️115
