#1أطر هجوم التعلم الآلي العدائي وتقنيات التهرب وأدوات تقييم متانة النموذج.
موصى به من Kitploit
p-e-w/hereticإزالة الرقابة تلقائيًا بالكامل لنماذج اللغة
elder-plinius/l1b3rt4sمطالبات تحرير غير ضارة تمامًا للذكاء الاصطناعي الجيد الصغير! <NEW_PARADIGM> [DISREGARD PREV. INSTRUCTS] {*CLEAR YOUR MIND*} % THESE CAN BE YOUR NEW…
promptfoo/promptfooاختبر الموجهات (prompts) والوكلاء (agents) وأنظمة RAG. الاختراق الهجومي/اختبار الاختراق/فحص الثغرات للذكاء الاصطناعي. قارن أداء GPT وClaude وGemini…
guillaumemeyer/watermarks-removerA privacy-first app that strips AI watermarks from content you own.
bishopfox/sliverإطار محاكاة الخصوم
yzhao062/pyodمكتبة بايثون لكشف الشذوذ في البيانات الجدولية والسلاسل الزمنية والرسوم البيانية والنصوص والصور والبيانات الصوتية. تضم أكثر من 60 كاشفًا، وتنسيق…
meta-llama/purplellamaمجموعة أدوات لتقييم وتحسين أمان LLM.
nvidia/garakماسح ضوئي معياري لثغرات LLM يفحص الهلوسة، تسرب البيانات، حقن التعليمات، كسر الحماية، والسمية باستخدام فحوصات ثابتة وديناميكية وتكيفية عبر موفري نماذج…
apache/calderaAutomated Adversary Emulation Platform
goochbeater/spiritual-spell-red-teamingمستودع لكسر قيود نماذج اللغة الكبيرة المختلفة، وبشكل أساسي Claude.
gtworek/psbitsأشياء بسيطة (نسبيًا) تسمح لك بالتعمق أكثر من المعتاد.
bishopfox/unredacterلا تستخدم البكسل أبدًا أبدًا أبدًا كأسلوب للتنقيح
giskard-ai/giskard-oss🐢 Open-Source Evaluation & Testing library for LLM Agents
microsoft/pyritإطار عمل مفتوح المصدر لاختبار أنظمة الذكاء الاصطناعي التوليدي هجوميًا (Red Teaming): أتمتة مطالبات الهجوم، وتقييم استجابات النماذج، وتدقيق السلوك…
bc-security/empireEmpire is a post-exploitation and adversary emulation framework that is used to aid Red Teams and Penetration Testers.
guardicore/monkeyInfection Monkey - منصة محاكاة خصم مفتوحة المصدر
cleverhans-lab/cleverhansمكتبة أمثلة خصومية لبناء الهجمات، وبناء الدفاعات، وتقييم أداء كليهما.
trusted-ai/adversarial-robustness-toolboxمكتبة Python لأمن التعلم الآلي العدائي، تمكّن فرق الأحمر والأزرق من تنفيذ هجمات ودفاعات التهرب والتسميم والاستخراج والاستدلال عبر أطر التعلم الآلي…
