#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

सुरक्षित रनटाइम जो AI एजेंट कार्यों को सैंडबॉक्स करता है। अविश्वसनीय कोड को पृथक WebAssembly वातावरण में चलाएँ।
AI-संचालित Docker सुरक्षा स्कैनर जो कमजोरियों को सरल अंग्रेजी में समझाता है। एक OWASP लैब प्रोजेक्ट।

OpenMed < 1.5.2 में PII गोपनीयता-फ़िल्टर मॉडल लोडिंग और trust_remote_code=True के माध्यम से बिना प्रमाणीकरण के RCE

सुरक्षा एक प्रॉम्प्ट निर्देश नहीं हो सकती। TBP स्वायत्त एजेंटों के लिए एक बाहरी निष्पादन-स्तर की सीमा प्रदान करता है, जो हस्ताक्षरित OPA नीतियों,…

AI प्रणालियों के विरोधी परीक्षण और सुरक्षा मूल्यांकन के लिए एक व्यापक मार्गदर्शिका, जो संगठनों को हमलावरों द्वारा उनका शोषण करने से पहले कमज़ोरियों…

अपने AWS खाते में CloudFormation, IAM प्रोफ़ाइल और स्वचालित फुल-स्टैक डेवलपमेंट तथा इन्फ्रास्ट्रक्चर प्रबंधन के लिए सैंडबॉक्स आइसोलेशन के साथ…

a fully autonomous AI agent for reverse engineering

LLM-संचालित एजेंटिक समूह शिलिंग हमला ढांचा जो अनुकूली बहु-भूमिका रणनीतियों का उपयोग करके ब्लैक-बॉक्स सहयोगी-फ़िल्टरिंग सिफ़ारिश रैंकिंग में हेरफेर…

AI एजेंटों के लिए क्रिप्टोग्राफिक रूप से हस्ताक्षरित प्रतिनिधिमंडल रसीदें। ठीक-ठीक परिभाषित करें कि एक AI क्या कर सकता है और क्या नहीं — हस्ताक्षरित,…

RAG विषाक्तता रक्षा के लिए हल्का मूल्यांकन हार्नेस जो चार-शर्त वाले स्वच्छ/विषाक्त रिकॉर्ड बनाता है और रोके गए लक्ष्यों, शुद्ध कमी, स्वच्छ-पक्ष…

LLM एजेंट बैकडोर को benign fine-tuning से बचाने वाले adapters के प्रशिक्षण के लिए शोध कोड, जिसमें trigger-rate scoring, SWE-bench मूल्यांकन, और…

AI एजेंटों के लिए शक्तिशाली सुरक्षा - AI अनुप्रयोगों के लिए ओपन-सोर्स सुरक्षा और लागत ट्रैकिंग

प्रारंभिक-निकास गहराइयों वाले LLMs में जेलब्रेक भेद्यता। NeurIPS 2026 में FLMSec कार्यशाला में प्रकाशित

ऑफ़लाइन SAST/DAST ट्राइएज इंजन जो सोर्स कोड को पार्स करता है और बिज़नेस-लॉजिक दोषों, BOLA, रेस कंडीशन, और विशेषाधिकार समस्याओं का पता लगाने के लिए…

AI पासवर्ड हमलों को अंधी गणना से अनुकूली अभियानों में कैसे बदल देता है - और उन्हें रोकने वाले डिटेक्शन नियम और प्रतिक्रिया उपाय। अनुसंधान और रक्षा,…

ईमेल सुरक्षा नियंत्रण और AI मेलबॉक्स सहायक, प्रकटीकरण, डेटा-चोरी और टूल-खोज आशयों में अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन को कैसे संभालते हैं, इसका…

स्वायत्त बहु-एजेंट AI पेनेट्रेशन-टेस्टिंग इंजन: एक शासित टूल सैंडबॉक्स, एक अपरिवर्तनीय साक्ष्य-और-सत्यापन गेट, और एक पुनरुत्पादनीय सुरक्षा-एजेंट…

वाणिज्यिक इमेज जनरेटर में विज़ुअल गलत सूचना जोखिमों के मूल्यांकन के लिए रेड-टीमिंग बेंचमार्क और ब्लैक-बॉक्स अटैक फ्रेमवर्क, जिसमें 10k झूठे-दावे वाले…