#1प्रतिकूल ML हमला फ्रेमवर्क, इवेजन तकनीक और मॉडल मजबूती मूल्यांकन उपकरण।
Kitploit अनुशंसित

आउट-ऑफ-बैंड निष्कर्षों के लिए एक्सप्लॉइट सर्वर। किसी लक्ष्य को अपने स्वामित्व वाले डोमेन की ओर इंगित करें। हर HTTP अनुरोध और हर ईमेल जो वह वापस भेजता…

LLM-संचालित एजेंटिक समूह शिलिंग हमला ढांचा जो अनुकूली बहु-भूमिका रणनीतियों का उपयोग करके ब्लैक-बॉक्स सहयोगी-फ़िल्टरिंग सिफ़ारिश रैंकिंग में हेरफेर…

एक संरचित ज्ञानकोष जो AI सुरक्षा की मूल बातें, खतरे का मॉडलिंग, रेड टीम आक्रामक तकनीकें, और ब्लू टीम रक्षा रणनीतियों को शामिल करता है, जिसमें LLM…

शोध कोड जो PGM-index पर पॉइज़निंग अटैक के लिए है, यह दर्शाता है कि कैसे सीखे गए इंडेक्स के प्रदर्शन को खराब करने के लिए प्रतिकूल डेटा तैयार किया जाए।

MCP सर्वरों पर LLM एजेंटों के रेड-टीमिंग के लिए ट्रैजेक्टरी-जागरूक विकासवादी खोज ढांचा, जो जोखिम श्रेणियों में भेद्यता परिदृश्यों को मैप करने के लिए…

ब्लैक-बॉक्स आक्रमण ढांचा जो एजेंटिक रिट्रीवल-ऑगमेंटेड जनरेशन प्रणालियों में ज़हरीले दस्तावेज़ इंजेक्ट करके तर्क-प्रक्रिया को हाईजैक करता है, जिसमें…

अनुसंधान कार्यान्वयन: छलावरण दस्तावेज़ों का उपयोग करके पुनर्प्राप्ति-संवर्धित भाषा मॉडलों के विरुद्ध विषाक्तता हमला, जो फ़िल्टरिंग सुरक्षा को दरकिनार…

AI एजेंट सुरक्षा का मूल्यांकन करने के लिए बेंचमार्क, जो कौशल-संबंधी संदर्भ में एम्बेडेड हमलों के विरुद्ध कार्य करता है, जिसमें 6 जोखिम डोमेन में 155…

LLM गार्डरेल्स को नकली टूल आउटपुट से भ्रमित करके बायपास करें।

बहु-चरणीय प्रॉम्प्ट इंजेक्शन तकनीक जो पहचान पुनःनिर्धारण, अस्वीकृति दमन और आउटपुट बाध्यता के माध्यम से LLM सुरक्षा संरेखण को दरकिनार करती है, जो…

ऑन-पॉलिसी डिस्टिलेशन के माध्यम से अनुकूली प्रॉम्प्ट इंजेक्शन को कम करने हेतु अनुसंधान कार्यान्वयन, जिसमें SEP, PISmith और AgentDojo बेंचमार्क के लिए…

GodPotato का Crystal पोर्ट, जो अप्रत्यक्ष सिसकॉल, डायनेमिक API रिज़ॉल्यूशन और कंपाइल-टाइम स्ट्रिंग ऑब्फस्केशन के साथ SeImpersonatePrivilege का…

एडवर्सेरियल मशीन लर्निंग सुरक्षा के लिए पायथन लाइब्रेरी, जो रेड और ब्लू टीमों को प्रमुख ML फ्रेमवर्क्स में evasion, poisoning, extraction और…

हमलों का निर्माण करने, सुरक्षा उपाय बनाने और दोनों की बेंचमार्किंग करने के लिए एक एडवर्सेरियल उदाहरण लाइब्रेरी

PyTorch, TensorFlow और JAX में न्यूरल नेटवर्क को धोखा देने वाले विरोधी उदाहरण बनाने के लिए एक Python टूलबॉक्स

मॉडल सीरियलाइज़ेशन हमलों से सुरक्षा

बाह्य मान, प्रतिकूल और ड्रिफ्ट पहचान के लिए एल्गोरिदम

आपके LLM एजेंटिक वर्कफ़्लो के लिए एक सुरक्षा स्कैनर