#1أطر هجوم التعلم الآلي العدائي وتقنيات التهرب وأدوات تقييم متانة النموذج.
موصى به من Kitploit
praetorian-inc/augustusإطار اختبار أمني لنماذج اللغة الكبيرة (LLM) لكشف حقن الأوامر (prompt injection) والاختراقات (jailbreaks) والهجمات المعادية (adversarial attacks) —…
s3n4t0r-0x0/apts-adversary-simulationThis repository contains detailed adversary simulation APT campaigns targeting various critical sectors. Each simulation includes custom tools, C2…
microsoft/pyritإطار عمل مفتوح المصدر لاختبار أنظمة الذكاء الاصطناعي التوليدي هجوميًا (Red Teaming): أتمتة مطالبات الهجوم، وتقييم استجابات النماذج، وتدقيق السلوك…
giskard-ai/giskard-oss🐢 مكتبة مفتوحة المصدر لتقييم واختبار وكلاء LLM
microsoft/responsible-ai-toolboxلوحات معلومات ومكتبات تفاعلية لتصحيح أخطاء نماذج الذكاء الاصطناعي المسؤول، وتغطي تحليل الأخطاء، والإنصاف، وقابلية التفسير، والسيناريوهات المضادة،…
promptfoo/promptfooاختبر الموجهات (prompts) والوكلاء (agents) وأنظمة RAG. الاختراق الهجومي/اختبار الاختراق/فحص الثغرات للذكاء الاصطناعي. قارن أداء GPT وClaude وGemini…
p-e-w/hereticإزالة الرقابة تلقائيًا بالكامل لنماذج اللغة
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
trusted-ai/adversarial-robustness-toolboxمكتبة Python لأمن التعلم الآلي العدائي، تمكّن فرق الأحمر والأزرق من تنفيذ هجمات ودفاعات التهرب والتسميم والاستخراج والاستدلال عبر أطر التعلم الآلي…
datadog/stratus-red-team:cloud: :zap: محاكاة خصم دقيقة وقابلة للتنفيذ للسحابة
abhinavdubey30/perturbed-embedding-vectorsالكود وسجلات الاستجابة والتسميات الخاصة بالورقة البحثية "Jailbreaking Open-Weight LLMs via Random Embedding Perturbations"
misp/misp-galaxyClusters and elements to attach to MISP events or attributes (like threat actors)
togg53192-cmd/jailbreaksCurated collection of LLM jailbreak prompts and bypass techniques, documenting adversarial inputs that circumvent AI model safety guardrails.
lsudoko/antibodyحلقة GitLab Duo DevSecOps حيث يعيد ذكاء اصطناعي ثانٍ مهاجمة كل إصلاح كتبه الذكاء الاصطناعي، ويحفظ كل تجاوز ناجح كجسم مضاد دائم يُعاد تشغيله في CI…
ottosulin/awesome-ai-securityA collection of awesome resources related AI security
bishopfox/sliverإطار محاكاة الخصوم
owasp/aisvsThe AI Security Verification Standard (AISVS) focuses on providing developers, architects, and security professionals with a structured checklist to…
gmh5225/awesome-ai-securityA curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.
