#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

संरेखण-अनुसंधान स्कैफोल्ड (ऑटोरिसर्च-शैली) LLM गार्डरेल्स के लिए: एकल policy.md सतह पर खोजें
अविश्वसनीय प्रक्रियाओं के लिए हल्के, सुरक्षित Linux सैंडबॉक्स। ब्राउज़र और सर्वर पर चलता है।

शोध कोड जो PGM-index पर पॉइज़निंग अटैक के लिए है, यह दर्शाता है कि कैसे सीखे गए इंडेक्स के प्रदर्शन को खराब करने के लिए प्रतिकूल डेटा तैयार किया जाए।

ब्लैक-बॉक्स आक्रमण ढांचा जो एजेंटिक रिट्रीवल-ऑगमेंटेड जनरेशन प्रणालियों में ज़हरीले दस्तावेज़ इंजेक्ट करके तर्क-प्रक्रिया को हाईजैक करता है, जिसमें…

एक गार्ड जो विनाशकारी एजेंट क्रियाओं को अवरुद्ध करता है

AI एजेंटों के लिए शक्तिशाली सुरक्षा - AI अनुप्रयोगों के लिए ओपन-सोर्स सुरक्षा और लागत ट्रैकिंग

LiteLLM कमांड इंजेक्शन जोखिम के लिए पेशेवर भेद्यता आकलन रिपोर्ट, जिसमें कार्यकारी सारांश, तकनीकी प्रभाव, उपचार और शमन रणनीति शामिल है।

OLMo 2 पर सदस्यता-अनुमान हमलों के एक नियंत्रित अध्ययन के लिए पुनरुत्पादन कोड, जिसमें दस्तावेज़ प्रविष्टि, मध्य-प्रशिक्षण, प्रशिक्षण-पश्चात, स्कोरिंग…

न्यूरल नेटवर्क को प्रशिक्षित करें, मूल्यांकन करें और अन्वेषण करें, जिसमें अंतर्निहित प्रतिकूल मजबूती उपकरण शामिल हैं, जिनमें PGD हमले, प्रतिकूल…

OpenAI-संगत LLM को tokenizer और व्यवहार संकेतों से फ़िंगरप्रिंट करें।

LLMs का उपयोग करके शून्य-शॉट भेद्यता खोज


LLM परतों में नियंत्रणीय सुरक्षा विशेषज्ञों को जोड़ने के लिए शोध कोड, जिसमें दो-चरणीय अपसाइक्लिंग प्रशिक्षण, अनुमान-समय सुरक्षा तापमान रूटिंग और…

वेट-स्तरीय LLM फोरेंसिक्स: मॉडल वेट्स का diff करें, फाइन-ट्यून, मर्ज और छिपे हुए व्युत्पन्नों का पता लगाएं, और null-बेसलाइन स्कोरिंग के साथ उन टोकनों…

NeurIPS EvoRobust अध्ययन के लिए कोड और पेपर स्रोत, जो दर्शाता है कि सरल bag-of-words और मेटाडेटा विशेषताएँ बैकडोर वाले कोड का पता लगाने में अधिकांश…

ओपन-सोर्स सैंडबॉक्स्ड एजेंट हार्नेस टीमों के लिए। हर कर्मचारी को एक सुरक्षित व्यक्तिगत एजेंट देना।

एआई वेब स्क्रैपर्स को एक अंतहीन जहरीले गड्ढे में फंसाएं।

# पर्पल टीम अभ्यास ढांचा