AI सुरक्षा न्यूज़लेटर - AI सुरक्षा अनुसंधान, अंतर्दृष्टियाँ, रिपोर्ट, आगामी कार्यक्रम, और उपकरण और संसाधनों का एक मासिक सारांश
एआई सुरक्षा अनुसंधान, अंतर्दृष्टि, रिपोर्ट, आगामी कार्यक्रम और उपकरण एवं संसाधनों का एक संकलन। अतिरिक्त अपडेट के लिए AISecHub समुदाय और हमारे LinkedIn समूह को फॉलो करें। हमारा प्रोजेक्ट, Awesome AI Security भी देखें।
InnovGuard.com द्वारा प्रायोजित - प्रौद्योगिकी जोखिम और साइबर सुरक्षा सलाहकार - नवाचार करें और आत्मविश्वास से निवेश करें, आश्वासन के साथ नेतृत्व करें।
📌 हमारी वर्गीकरण को अद्यतन करना: एजेंटिक AI सिस्टम में विफलता मोड Microsoft रेड-टीम के काम से अपने एजेंटिक-AI विफलता-मोड वर्गीकरण का विस्तार करता है, जो सुरक्षा टीमों को तैनात एजेंट सिस्टम में टूल का दुरुपयोग, अत्यधिक एजेंसी, मेमोरी संदूषण, पहचान सीमाओं और मानव-ओवरराइड अंतराल के बारे में सोचने का एक स्पष्ट तरीका प्रदान करता है।
📌 Miasma Worm ने Microsoft पर फिर से हमला किया: AI कोडिंग एजेंटों को लक्षित करने वाले सप्लाई चेन हमले के बाद Azure Functions Action और 72 अन्य रिपॉजिटरी अक्षम की गईं StepSecurity AI कोडिंग-एजेंट वर्कफ़्लो और GitHub रिपॉजिटरी को लक्षित करने वाले एक सप्लाई-चेन अभियान का दस्तावेजीकरण करता है, जिसमें CI/CD वातावरण में निर्भरता विश्वास, कार्रवाई प्रोवेंस, रिपॉजिटरी लेखन पथ और एजेंट-दृश्यमान क्रेडेंशियल्स पर रक्षात्मक ध्यान केंद्रित है।
📌 कौशल वितरण की दयनीय स्थिति Trail of Bits के शोधकर्ताओं ने ClawHub, Cisco skill-scanner और skills.sh जाँचों को ऐसे कौशल पैकेजों से बायपास किया जिनमें ट्रंकेशन, आर्काइव इनडायरेक्शन, बाइटकोड विषाक्तता और प्रॉम्प्ट-इंजेक्शन फ्रेमिंग का उपयोग किया गया, यह दिखाते हुए कि सार्वजनिक एजेंट-कौशल बाज़ारों को स्कैनर ट्रस्ट के बजाय क्यूरेशन और प्रोवेंस नियंत्रण की आवश्यकता है।
📌 Codex CLI RCE: प्रॉम्प्ट इंजेक्शन शमन Cymulate कमांड-लाइन कोडिंग एजेंटों में प्रॉम्प्ट-इंजेक्शन जोखिम पर चर्चा करता है, जहां अविश्वसनीय टेक्स्ट फ़ाइल लेखन या टूल निष्पादन को निर्देशित कर सकता है जब तक कि सैंडबॉक्सिंग, अनुमोदन सीमाएं और कमांड बाधाओं को मॉडल के बाहर लागू नहीं किया जाता।
📌 एजेंटजैकिंग: MCP इंजेक्शन AI कोडिंग एजेंटों का अपहरण करता है Cloud Security Alliance ने Sentry-to-MCP "एजेंटजैकिंग" पैटर्न का सारांश दिया, जहां बाहरी रूप से नियंत्रित टेलीमेट्री या मुद्दा सामग्री कोडिंग एजेंटों के लिए विश्वसनीय संदर्भ बन जाती है। उपयोगी रक्षात्मक ढांचा यह है कि ऑब्जर्वेबिलिटी, बग-रिपोर्ट और एकीकरण डेटा को तटस्थ विकास मेटाडेटा के बजाय अविश्वसनीय एजेंट इनपुट के रूप में माना जाए।
📌 SearchLeak: हमने M365 Copilot को एक-क्लिक डेटा एक्सफ़िलट्रेशन हथियार में कैसे बदल दिया Varonis एक Microsoft 365 Copilot Enterprise हमले की श्रृंखला का वर्णन करता है जो पैरामीटर-टू-प्रॉम्प्ट इंजेक्शन, HTML रेंडरिंग व्यवहार और खोज-पथ दुरुपयोग को जोड़ती है ताकि एक-क्लिक वर्कफ़्लो के माध्यम से संवेदनशील M365 डेटा लीक हो सके।
📌 AutoJack: कैसे एक एकल पृष्ठ आपके AI एजेंट को होस्ट करने वाले होस्ट पर RCE कर सकता है Microsoft दिखाता है कि कैसे एक AI ब्राउज़िंग एजेंट द्वारा देखा गया एक दुर्भावनापूर्ण वेबपेज एक स्थानीय AutoGen Studio सेवा तक पहुंच सकता है और असुरक्षित स्थानीयहोस्ट ट्रस्ट और एजेंट कार्रवाई हैंडलिंग के माध्यम से होस्ट प्रक्रिया निष्पादन को ट्रिगर कर सकता है।
📌 Mastra npm सप्लाई चेन हमला: easy-day-js टाइपोस्क्वाट के माध्यम से 140+ पैकेज बैकडोर किए गए StepSecurity एक टाइपोस्क्वाटेड निर्भरता के माध्यम से Mastra के npm पारिस्थितिकी तंत्र से समझौता करने की रिपोर्ट करता है, जिसमें एक अस्पष्ट पोस्टइंस्टॉल ड्रॉपर था, जो AI एप्लिकेशन स्टैक में उपयोग किए जाने वाले एजेंट, RAG, MCP और वर्कफ़्लो पैकेजों को प्रभावित करता है।
📌 LiteLLM को तोड़ना: निम्न-विशेषाधिकार उपयोगकर्ता से व्यवस्थापक और RCE तक Obsidian एक चेनित LiteLLM विशेषाधिकार-वृद्धि और RCE पथ का दस्तावेजीकरण करता है, यह दिखाते हुए कि कैसे AI गेटवे तक निम्न-विशेषाधिकार पहुंच प्रदाता रहस्यों, प्रॉक्सी नीति और रनटाइम एजेंट कार्यों पर प्रशासनिक नियंत्रण बन सकती है।
📌 Amazon Q भेद्यता: MCP ऑटो-एक्ज़ीक्यूशन के माध्यम से समझौता Wiz एक Amazon Q VS Code एक्सटेंशन समस्या का विश्लेषण करता है जहां क्लोन की गई रिपॉजिटरी में वर्कस्पेस-ट्रस्टेड MCP कॉन्फ़िगरेशन हमलावर-नियंत्रित व्यवहार को ऑटो-लोड कर सकता है और डेवलपर निष्पादन पथ और क्लाउड क्रेडेंशियल्स को उजागर कर सकता है।
📌 macOS.Gaslight: रस्ट बैकडोर एनालिस्ट के खिलाफ प्रॉम्प्ट इंजेक्शन को मोड़ता है, सैंडबॉक्स के खिलाफ नहीं SentinelOne एक रस्ट बैकडोर का दस्तावेजीकरण करता है जो विश्लेषकों और AI-सहायता प्राप्त टूलिंग के लिए प्रॉम्प्ट-इंजेक्शन सामग्री लगाता है, हमले को सैंडबॉक्स एस्केप से मैलवेयर की समीक्षा करने वाले मानव और मॉडल के हेरफेर में स्थानांतरित करता है।
📌 कंप्यूटर-उपयोग और TOCTOU: आप जो क्लिक करते हैं वह वह नहीं है जो आपको मिलता है! Johann Rehberger एक कंप्यूटर-उपयोग एजेंट रेस कंडीशन का प्रदर्शन करता है जहां मॉडल द्वारा स्क्रीन को देखने और क्लिक करने के बीच स्क्रीन बदल जाती है, एक हानिरहित दिखने वाली इंटरैक्शन को Outlook भेजने की क्रिया में बदल देती है, और प्री-एक्शन पिक्सेल या स्थिति पुनर्मूल्यांकन को एक मुख्य नियंत्रण बनाती है।
📌 AI-सहायता प्राप्त सॉफ़्टवेयर विकास के लिए वाइब कोडिंग स्पेक्ट्रम दृष्टिकोण UK NCSC AI-सहायता प्राप्त कोडिंग को एक जोखिम स्पेक्ट्रम के रूप में तैयार करता है, कम-जोखिम वाले प्रोटोटाइप को उत्पन्न कोड से अलग करता है जो प्रमाणीकरण, प्राधिकरण, संवेदनशील डेटा, सुरक्षा-महत्वपूर्ण व्यवहार या महत्वपूर्ण बुनियादी ढांचे को छूता है।
📌 प्रॉम्प्ट इंजेक्शन और एजेंट रनटाइम सुरक्षा: एक व्यावहारिक खतरा मॉडल TMLS प्रॉम्प्ट इंजेक्शन को एक रनटाइम सुरक्षा समस्या के रूप में तैयार करता है, टूल मध्यस्थता, मेमोरी स्टोर, आउटबाउंड चैनलों और मानव अनुमोदन अंतराल के माध्यम से हमलों का मानचित्रण करता है। व्यावहारिक निष्कर्ष यह है कि प्रॉम्प्ट टेक्स्ट को सुरक्षा सीमा मानने के बजाय नियंत्रणों को क्षमता ब्रोकरों, सैंडबॉक्स्ड निष्पादन, अनुमति-सूचियों और ऑडिट पथों में स्थानांतरित किया जाए।
📌 जब 2,000 लोगों ने मेरे AI सहायक को हैक करने की कोशिश की तो क्या हुआ Fernando Irarrázaval एक OpenClaw ईमेल-एजेंट प्रॉम्प्ट-इंजेक्शन चुनौती की रिपोर्ट करता है जिसमें 6,000 से अधिक प्रयास हुए और कोई सफल रहस्य लीक नहीं हुआ, साथ ही एजेंट मेमोरी संदूषण, बैच संदर्भ, API लागत, खाता निलंबन और मॉडल विकल्प के आसपास व्यावहारिक तैनाती मुद्दों को उजागर करता है।
🧰 AgentStalker - एजेंट भेद्यता बेंचमार्क और विश्लेषण उपकरणकिट जिसमें एजेंटिक हमले के पथों के लिए टेंट ट्रैकिंग, AST विश्लेषण, कोड ऑडिटिंग और सैंडबॉक्स पुनरुत्पादन शामिल है। ⭐️115
🧰 darknet-mcp-server - MCP सर्वर जो नियंत्रित सुरक्षा अनुसंधान वर्कफ़्लो के लिए AI एजेंटों को उल्लंघन, रैनसमवेयर, मैलवेयर, एक्सप्लॉइट, स्टीलर-लॉग और खतरा-खुफिया उपकरणों को उजागर करता है। ⭐️67
🧰 mcp-trust-plane - Model Context Protocol प्रदाताओं के लिए रचनात्मक डेटा-सुरक्षा और गार्डरेल प्लेन, MCP-कनेक्टेड टूल और डेटा के आसपास नीतिगत नियंत्रणों पर केंद्रित। ⭐️60
🧰 prompt-gate - अनधिकृत AI टूल को अवरुद्ध करने और समापन बिंदु छोड़ने से पहले आउटबाउंड प्रॉम्प्ट को रहस्यों या संवेदनशील डेटा के लिए निरीक्षण करने के लिए स्थानीय DLP और DNS-परत नियंत्रण। ⭐️28
🧰 claude-ai-cyber-security-skills - सुरक्षा वर्कफ़्लो के लिए Claude Code कौशल संग्रह, जिसमें आक्रामक परीक्षण, रक्षात्मक विश्लेषण और उपकरण-सहायता प्राप्त जांच पैटर्न शामिल हैं। ⭐️17
🧰 talos - मनुष्यों, सेवाओं और AI एजेंटों के लिए API-कुंजी और क्षमता-टोकन सेवा जिन्हें स्कोप्ड मशीन-टू-मशीन प्राधिकरण की आवश्यकता होती है। ⭐️14
🧰 SkillsGuard - दुर्भावनापूर्ण या असुरक्षित AI-एजेंट कौशल पैकेजों, SKILL.md फ़ाइलों और बंडल स्क्रिप्ट के लिए स्थैतिक स्कैनर। ⭐️13
🧰 tamga - मॉडल ट्रैफ़िक के आसपास PII रिडक्शन, प्रॉम्प्ट-इंजेक्शन रक्षा और अनुपालन नियंत्रणों के लिए सेल्फ-होस्टेड LLM सुरक्षा प्रॉक्सी। ⭐️11
🧰 llm-sec-range - LLM हमला और रक्षा रेंज जिसमें प्रॉम्प्ट-इंजेक्शन CTFs, OWASP LLM Top 10, कमजोर एजेंट और स्थानीय मॉडल लक्ष्य शामिल हैं। ⭐️9
🧰 aka-claude-tools - स्वच्छ संदर्भ, पृथक प्रोफ़ाइल, बंद क्रेडेंशियल्स, संरक्षित ईग्रेस और सुरक्षित स्थानीय डिफ़ॉल्ट के लिए Claude Code हार्डनिंग उपयोगिताएँ। ⭐️9
🧰 agent-jackstop - अविश्वसनीय टूल आउटपुट के माध्यम से प्रॉम्प्ट इंजेक्शन के खिलाफ Cursor और Claude Code के लिए हार्डनिंग परत, जिसे एजेंटजैकिंग भी कहा जाता है। ⭐️8
🧰 LLM-Safety-platform - LLM भेद्यता आकलन, प्रॉम्प्ट इंजेक्शन, अस्पष्टता हमले और नमूना-स्थिरता विश्लेषण के लिए AI रेड-टीमिंग प्लेटफ़ॉर्म। ⭐️6
OWASP का जून अपडेट एजेंटिक-AI सुरक्षा को एक शासन और इंजीनियरिंग मानचित्र में बदल देता है, जिसमें स्वायत्त वर्कफ़्लो, एजेंट जोखिम श्रेणियां, नियंत्रण और प्रारंभिक खतरा मॉडल और उत्पादन घटनाओं के बीच व्यावहारिक अंतर शामिल है।
Cloud Security Alliance ने 18 सुरक्षा डोमेन में 247 AI नियंत्रण उद्देश्य प्रकाशित किए, जिनमें ISO 42001, ISO 27001, BSI AIC4 और EU AI अधिनियम-उन्मुख शासन जैसे आश्वासन और अनुपालन ढांचे के मैपिंग शामिल हैं।
CSA AI नियंत्रण मैट्रिक्स को क्लाउड-प्रदाता कार्यान्वयन मार्गदर्शन में बदल देता है, जिसमें ऑडिट योजना, उपचार, भेद्यता प्रबंधन, भागीदार निरीक्षण, खतरे का पता लगाना और AI-विशिष्ट आश्वासन प्रथाएं शामिल हैं।
UK NCSC और Five Eyes पार्टनर चेतावनी देते हैं कि AI हमलावर बाधाओं को कम कर रहा है और भेद्यता-से-शोषण विंडो को संकुचित कर रहा है, साथ ही जोखिम बदलाव को सुरक्षित-बाय-डिज़ाइन डिफ़ॉल्ट, एक्सपोज़र में कमी, पैच गति, मजबूत प्रमाणीकरण, घटना तत्परता और रक्षात्मक AI उपयोग से मैप करता है।
NSA और अंतर्राष्ट्रीय भागीदार AI-संचालित ऑटोमेशन के लिए MCP सुरक्षा डिजाइन मार्गदर्शन प्रकाशित करते हैं, जिसमें एजेंट पारिस्थितिकी तंत्र के लिए प्रमाणीकरण, प्राधिकरण, सर्वर विश्वास, परिवहन नियंत्रण, टूल एक्सपोज़र और निगरानी शामिल है जो प्रयोगों से उत्पादन में जा रहे हैं।
🛡️ CVE-2026-49257: mcp-pinot अप्रमाणित MCP टूल आह्वान को उजागर करता है क्रिटिकल 10.0। mcp-pinot एक HTTP MCP सर्वर को OAuth अक्षम के साथ डिफ़ॉल्ट रूप से 0.0.0.0 से बांध सकता है, जो सर्वर-साइड Apache Pinot क्रेडेंशियल्स के माध्यम से SQL, स्कीमा और टेबल म्यूटेशन टूल को उजागर करता है।
🛡️ CVE-2026-54309: n8n MCP ब्राउज़र ट्रांसपोर्ट अप्रमाणित टूल कॉल स्वीकार करता है क्रिटिकल 10.0। n8n का MCP ब्राउज़र HTTP ट्रांसपोर्ट प्रमाणीकरण के बिना सत्र प्रारंभ और टूल कॉल स्वीकार कर सकता है, जो पहुंच योग्य क्लाइंट को ब्राउज़र-नियंत्रण ऑटोमेशन को उजागर करता है।
🛡️ CVE-2026-56274: Flowise कस्टम MCP सर्वर कमांड इंजेक्शन क्रिटिकल 9.9। Flowise कस्टम MCP सर्वर कमांड फ्लैग हैंडलिंग और फ़ाइल-एक्सेस प्रतिबंधों को LLM वर्कफ़्लो प्लेटफ़ॉर्म के अंदर OS कमांड इंजेक्शन के लिए बायपास किया जा सकता है।
🛡️ CVE-2026-55255: Langflow फ्लो निष्पादन IDOR क्रिटिकल 9.9। Langflow का responses API एक प्रमाणित हमलावर को पीड़ित फ्लो आईडी प्रदान करके किसी अन्य उपयोगकर्ता के फ्लो को निष्पादित करने दे सकता है, जो AI वर्कफ़्लो निष्पादन के लिए टेनेंट पृथक्करण को तोड़ता है।
🛡️ CVE-2026-50548: कर्सर एजेंट टर्मिनल सैंडबॉक्स एस्केप क्रिटिकल 9.8। कर्सर के एजेंट टर्मिनल सैंडबॉक्स को कार्य-निर्देशिका पैरामीटर संशोधित करके बायपास किया जा सकता है, जो इच्छित वर्कस्पेस सीमा के बाहर एजेंट-संचालित टर्मिनल क्रियाओं की अनुमति देता है।
🛡️ CVE-2026-50549: कर्सर एजेंट फ़ाइल-लेखन सैंडबॉक्स एस्केप क्रिटिकल 9.8। कर्सर का फ़ाइल-लेखन सैंडबॉक्स कैनोनिकलाइज़ेशन विफलता के बाद गलत तरीके से वापस आ सकता है, जो इच्छित प्रोजेक्ट सीमा के बाहर एजेंट फ़ाइल लेखन के लिए एक पथ बनाता है।
🛡️ CVE-2026-49468: LiteLLM प्रॉक्सी होस्ट-हेडर प्राधिकरण बायपास क्रिटिकल 9.8। LiteLLM प्रॉक्सी होस्ट-हेडर पार्सिंग विशिष्ट तैनाती स्थितियों के तहत संरक्षित प्रबंधन मार्गों तक अप्रमाणित पहुंच की अनुमति दे सकता है, जो गेटवे नियंत्रण और प्रदाता रहस्यों को जोखिम में डालता है।
🛡️ CVE-2026-7664: IBM Langflow Streamable MCP प्राधिकरण बायपास क्रिटिकल 9.8। IBM Langflow का Streamable MCP ट्रांसपोर्ट प्रभावित ओपन सोर्स रिलीज़ में अप्रमाणित हमलावरों को संरक्षित MCP संसाधनों और संचालन को उजागर कर सकता है।
🛡️ CVE-2026-55743: OpenHuman डेस्कटॉप एजेंट शेल अनुमति-सूची बायपास क्रिटिकल 9.6। OpenHuman के डेस्कटॉप-एजेंट शेल अनुमति-सूची को फाइंड निष्पादन फ्लैग और पर्यावरण चालों के माध्यम से बायपास किया जा सकता है, अप्रत्यक्ष प्रॉम्प्ट-इंजेक्शन पथों को होस्ट कमांड निष्पादन में बदल देता है।
📅 IEEE CSR GenXSec 2026 - 3-5 अगस्त, 2026 · लिस्बन, पुर्तगाल · आयोजक: IEEE CSR
📅 ब्लैक हैट यूएसए 2026 - एआई शिखर सम्मेलन - 4 अगस्त, 2026 · लास वेगास, एनवी, यूएसए · आयोजक: ब्लैक हैट
📅 CAMLIS 2026 - 21-23 अक्टूबर, 2026 · अर्लिंग्टन, वीए, यूएसए · आयोजक: CAMLIS
📅 GAISS 2026 - 28-30 अक्टूबर, 2026 · ऑस्टिन, टीएक्स, यूएसए · आयोजक: IEEE
📅 ACM AISec 2026 - 15-19 नवंबर, 2026 · द हेग, नीदरलैंड्स · आयोजक: ACM AISec
📖 AgentRedBench: SaaS इंटीग्रेशन पर LLM एजेंटों के लिए डायनामिक रेडटीमिंग और इंटीग्रेशन-अवेयर रक्षा
Gmail, Salesforce और Jira जैसे SaaS इंटीग्रेशन से जुड़े टूल-उपयोग एजेंटों के खिलाफ अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन का बेंचमार्क करता है, जो हमले की सतह को चैट-केवल प्रॉम्प्ट-इंजेक्शन परीक्षणों की तुलना में उत्पादन एजेंट वर्कफ़्लो के करीब बनाता है। arXiv
📖 SkillGuard: एजेंट कौशल के लिए एक अनुमति ढांचा
तृतीय-पक्ष एजेंट कौशल को अनुमतिप्राप्त सॉफ़्टवेयर कलाकृतियों के रूप में मानता है, यह मैप करता है कि एक कौशल एजेंट संदर्भ में क्या इंजेक्ट कर सकता है और रनटाइम पर एजेंट को क्या करने के लिए प्रेरित कर सकता है। arXiv
📖 वास्तविक-विश्व MCP सर्वरों में विवरण-कोड असंगति: माप, पता लगाना और सुरक्षा निहितार्थ
2,214 MCP सर्वरों से 19,200 विवरण-कोड जोड़े मापता है और पाता है कि टूल विवरण अक्सर वास्तविक कार्यान्वयन व्यवहार से भिन्न होते हैं, उन एजेंटों के लिए एक अंधा स्थान बनाते हैं जो प्राकृतिक-भाषा विवरणों के आधार पर टूल चुनते हैं। arXiv
📖 GitInject: AI-संचालित CI/CD पाइपलाइनों में वास्तविक-विश्व प्रॉम्प्ट इंजेक्शन हमले
दिखाता है कि कैसे CI/CD और पुल-रिक्वेस्ट वर्कफ़्लो में एम्बेडेड AI एजेंट उन्नत अनुमतियां रखते हुए हमलावर-नियंत्रित रिपॉजिटरी सामग्री को ग्रहण कर सकते हैं, प्रॉम्प्ट इंजेक्शन को सॉफ़्टवेयर सप्लाई-चेन जोखिम में बदल देते हैं। arXiv
📖 सुरक्षित LLM एजेंटों की ओर: खतरे की सतहें, हमले, रक्षा और मूल्यांकन
247 पत्रों को एक सिस्टम-उन्मुख एजेंट सुरक्षा मानचित्र में संश्लेषित करता है, जो सूचना प्रवाह, प्रत्यायोजित प्राधिकरण, स्थायी स्थिति, टूल-मध्यस्थ नियंत्रण-प्रवाह अपहरण और गैर-रचनात्मक रक्षा की कमजोरी पर केंद्रित है। arXiv
📖 एजेंटिक ब्राउज़रों के लिए समान-मूल नीति
दिखाता है कि एजेंटिक ब्राउज़र स्वचालित क्रॉस-ऑरिजिन डेटा-फ़्लो चैनल बन सकते हैं, फिर कार्य उपयोगिता को संरक्षित करते हुए ब्राउज़र-ऑरिजिन सीमाओं को लागू करने के लिए SOPGuard का प्रस्ताव करता है। arXiv
📖 अलगाव में हानिरहित, संयोजन में हानिकारक: एजेंट कौशल पारिस्थितिकी तंत्र में सुरक्षा जोखिम
स्किल कंपोज़िशन रिस्क का परिचय देता है, जहां व्यक्तिगत रूप से हानिरहित कौशल हानिकारक हो जाते हैं जब उनके आउटपुट, विश्वास संकेत, प्राधिकरण संकेत या साइड इफेक्ट साझा एजेंट संदर्भ में बाद के टूल कॉल को प्रभावित करते हैं। arXiv
📖 SafeClawBench: टूल-उपयोग करने वाले LLM एजेंटों में सिमेंटिक, ऑडिट-सबूत और सैंडबॉक्स हानि को अलग करना
प्रत्यक्ष और अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन, टूल-रिटर्न इंजेक्शन, मेमोरी विषाक्तता, मेमोरी निष्कर्षण और असुरक्षित अनुमान में टूल-उपयोग करने वाले एजेंट सुरक्षा के लिए एक चरणबद्ध बेंचमार्क प्रस्तुत करता है, मॉडल समझौते को ऑडिट-दृश्यमान और सैंडबॉक्स-देखी गई हानि से अलग करता है। arXiv
📖 "जो स्थानीय रूप से होता है, वैश्विक रूप से लीक होता है": MCP सर्वरों में गोपनीयता लीक जोखिम का पता लगाना
MCP लीकेज को एक प्रोटोकॉल-प्रेरित गोपनीयता समस्या के रूप में तैयार करता है जहां क्रेडेंशियल्स, API कुंजियां या PII लौटाए गए मानों, लॉग या टूल-हैंडलर त्रुटियों के माध्यम से स्थानीय-से-LLM सीमा को पार करते हैं। arXiv
📖 ShareLock: MCP के खिलाफ एक गुप्त बहु-उपकरण थ्रेसहोल्ड विषाक्तता हमला
एक बहु-उपकरण MCP विषाक्तता हमले का परिचय देता है जहां दुर्भावनापूर्ण निर्देश हानिरहित दिखने वाले टूल विवरणों में विभाजित होते हैं और एक ट्रिगर के बाद ही पुनर्निर्मित होते हैं, एकल-उपकरण विषाक्तता की तुलना में पता लगाने की क्षमता को कम करता है। arXiv
💬 स्वच्छ GitHub रिपॉजिटरी AI कोडिंग एजेंटों को मैलवेयर चलाने के लिए धोखा देती है r/cybersecurity · Reddit स्कोर 183 · 19 टिप्पणियाँ व्यवसायियों ने थ्रेड को कोडिंग-एजेंट ट्रस्ट-बाउंड्री मामले के रूप में माना: रिपॉजिटरी प्रॉम्प्ट, कॉन्फ़िग फ़ाइलें, सेटअप स्क्रिप्ट और टूल-आउटपुट संदर्भ एक समीक्षक को पारंपरिक दुर्भावनापूर्ण पेलोड देखने से पहले निष्पादन प्रभाव बन सकते हैं।
💬 macOS गैसलाइट बैकडोर सुरक्षा विश्लेषकों के खिलाफ प्रॉम्प्ट इंजेक्शन को हथियार बनाता है r/cybersecurity · Reddit स्कोर 202 · 11 टिप्पणियाँ चर्चा ने प्रॉम्प्ट इंजेक्शन को मैलवेयर-विश्लेषण वर्कफ़्लो दुरुपयोग के रूप में तैयार किया: दुर्भावनापूर्ण नमूने विश्लेषकों और उनकी AI टूलिंग के लिए निर्देश लगा सकते हैं, इसलिए समीक्षा वातावरण, विश्लेषक नोट्स और मॉडल संदर्भ हमले की सतह का हिस्सा बन जाते हैं।
💬 Copilot को रोल आउट करना - मुझे अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन के बारे में कितना चिंतित होना चाहिए? r/cybersecurity · Reddit स्कोर 48 · 31 टिप्पणियाँ सुरक्षा टीमों ने अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन के लिए Copilot रोलआउट नियंत्रणों की तुलना की, अविश्वसनीय दस्तावेज़ों और ईमेल, विरासत उपयोगकर्ता अनुमतियों, ओवरशेयर किए गए डेटा, कनेक्टर स्कोप और क्या पुनर्प्राप्ति-संवर्धित सहायकों के लिए न्यूनतम विशेषाधिकार पर्याप्त है, पर ध्यान केंद्रित किया।💬 टीमें MCP टूल सतह एक्सपोज़र को कैसे संभाल रही हैं? r/cybersecurity · Reddit स्कोर 13 · 19 टिप्पणियाँ थ्रेड ने MCP को एक टूल-एक्सपोज़र सीमा के रूप में केंद्रित किया: टीमों ने सर्वर पहुंच, टूल-विवरण विश्वास, अनुमोदन गेट्स, प्रति-टूल प्राधिकरण, और क्या एजेंट टूल एक्सेस को API एक्सेस या स्थानीय कोड निष्पादन के करीब मॉडल किया जाना चाहिए, पर बहस की।
💬 क्या किसी की सुरक्षा नीति वास्तव में AI एजेंटों के लिए तैयार है, या हम सब सिर्फ दिखावा कर रहे हैं? r/cybersecurity · Reddit स्कोर 47 · 73 टिप्पणियाँ व्यवसायियों ने AI एजेंटों को मौजूदा नीति में शासन अंतराल से जोड़ा: स्वचालित कार्रवाइयों का मालिक कौन, किसको मानव अनुमोदन की आवश्यकता है, प्रत्यायोजित अनुमतियाँ कैसे लॉग की जाती हैं, और घटना प्रतिक्रिया कैसे बदलती है जब कोई कार्यप्रवाह संचालक आंशिक रूप से स्वचालित हो।
1️⃣ LLM कोडिंग एजेंटों में RCE: नए खुलासे हुए क्लॉड कोड कमजोरियों से सीख Cloud Native San Francisco सत्र जो कोडिंग-एजेंट RCE पाठों पर केंद्रित है, उन टीमों के लिए उपयोगी जो समीक्षा कर रही हैं कि प्रॉम्प्ट इंजेक्शन, स्थानीय उपकरण और डेवलपर वातावरण कैसे होस्ट-पक्ष निष्पादन जोखिम में संयोजित हो सकते हैं।
2️⃣ सुरक्षित एंटरप्राइज AI का भविष्य: MCP के साथ विश्वसनीय एजेंट बनाना Xpand सम्मेलन वार्ता MCP-आधारित एंटरप्राइज एजेंट डिज़ाइन पर, विश्वसनीय एजेंट बुनियादी ढांचे, डेटा एक्सपोज़र और जुड़े उपकरणों के आसपास सुरक्षा नियंत्रणों पर व्यावहारिक जोर के साथ।
3️⃣ CNAS 2026 राष्ट्रीय सुरक्षा सम्मेलन: AI युद्ध के नियम निर्धारित करना CNAS सत्र AI युद्ध मानदंडों और राष्ट्रीय-सुरक्षा नीति पर, सुरक्षा टीमों के लिए प्रासंगिक जो इस बात पर नज़र रख रही हैं कि AI-सक्षम साइबर ऑपरेशन कैसे सार्वजनिक-क्षेत्र सिद्धांत और शासन में आगे बढ़ रहे हैं।
4️⃣ सुरक्षित एजेंट बनाने के लिए हैकर की मार्गदर्शिका NDC सम्मेलन वार्ता सुरक्षित एजेंट निर्माण पर, इंजीनियरिंग जोखिमों को कवर करते हुए जो तब प्रकट होते हैं जब एजेंटों को वास्तविक सॉफ्टवेयर सिस्टम के अंदर उपकरण, क्रेडेंशियल, स्थिति और स्वायत्तता प्राप्त होती है।
5️⃣ AI सिस्टम पर हमला करना CodeValue सत्र AI सिस्टम पर हमला करने पर, एक व्यवसायी-उन्मुख वॉकथ्रू के रूप में उपयोगी कि कैसे AI सुविधाएँ सामान्य प्रॉम्प्ट और API हैंडलिंग से परे एप्लिकेशन खतरे के मॉडल का विस्तार करती हैं।
6️⃣ BlueHat 2026: विश्वसनीय एजेंटों से प्रतिद्वंद्वियों तक: प्रॉम्प्ट इंजेक्शन के युग में एजेंटिक AI को सुरक्षित करना BlueHat 2026 वार्ता इस बात पर कि कैसे विश्वसनीय एजेंट कार्यप्रवाह प्रतिद्वंद्वी बन जाते हैं जब उपकरण आउटपुट, पुनर्प्राप्त सामग्री और प्रत्यायोजित कार्य विश्वास सीमाओं को पार करते हैं।
7️⃣ LLM-संचालित अनुप्रयोगों का उल्लंघन करना: सुरक्षा और गोपनीयता चुनौतियों पर काबू पाना Brian Vermeer द्वारा Spring I/O सत्र LLM-संचालित अनुप्रयोगों के खिलाफ व्यावहारिक हमले के रास्तों को कवर करता है, जिसमें प्रॉम्प्ट इंजेक्शन, गोपनीयता रिसाव, एप्लिकेशन एकीकरण जोखिम और वास्तुशिल्प शमन शामिल हैं।
8️⃣ ContinuumCon 2026 - प्रॉम्प्ट इंजेक्शन का शिकार Mackenzie Jackson द्वारा ContinuumCon वार्ता AI सिस्टम में प्रॉम्प्ट-इंजेक्शन व्यवहार को खोजने, परीक्षण करने और तर्क करने पर एक संचालन सुरक्षा समस्या के रूप में।
9️⃣ MCP और जीरो ट्रस्ट पहचान के साथ AI एजेंटों को सुरक्षित करना DZone ईवेंट सत्र MCP-जुड़े एजेंटों को जीरो ट्रस्ट पहचान अवधारणाओं, स्कोप्ड एक्सेस, टूल प्राधिकरण और सुरक्षित प्रत्यायोजित कार्यप्रवाहों के साथ सुरक्षित करने पर।
🔟 व्यावहारिक MCP सुरक्षा कार्रवाई में Willem Jan Glerum द्वारा बल्गेरियाई Java उपयोगकर्ता समूह तकनीकी सत्र MCP सुरक्षा व्यापार-बंदों, सर्वर और टूल एक्सपोज़र, कॉन्फ़िगरेशन जोखिम और एजेंट एकीकरण के लिए नियंत्रणों पर।
यदि आप कुछ नया बना रहे संस्थापक हैं या प्रारंभिक चरण के अवसरों का मूल्यांकन करने वाले निवेशक हैं - आइए जुड़ें।
💬 कुछ दिलचस्प पढ़ा? अपने विचार टिप्पणियों में साझा करें।
