الهجوم العدائي

promptfoo/promptfoo

اختبر الموجهات (prompts) والوكلاء (agents) وأنظمة RAG. الاختراق الهجومي/اختبار الاختراق/فحص الثغرات للذكاء الاصطناعي. قارن أداء GPT وClaude وGemini…

microsoft/pyrit

إطار عمل مفتوح المصدر لاختبار أنظمة الذكاء الاصطناعي التوليدي هجوميًا (Red Teaming): أتمتة مطالبات الهجوم، وتقييم استجابات النماذج، وتدقيق السلوك…

bc-security/empire

Empire is a post-exploitation and adversary emulation framework that is used to aid Red Teams and Penetration Testers.

misp/misp-galaxy

مجموعات وعناصر لإرفاقها بأحداث أو سمات MISP (مثل الجهات الفاعلة في التهديدات)

owasp/aisvs

يركز معيار التحقق من أمان الذكاء الاصطناعي (AISVS) على تزويد المطورين والمهندسين المعماريين ومتخصصي الأمن بقائمة تحقق منظمة للتحقق من أمان التطبيقات…

yzhao062/pyod

مكتبة بايثون لكشف الشذوذ في البيانات الجدولية والسلاسل الزمنية والرسوم البيانية والنصوص والصور والبيانات الصوتية. تضم أكثر من 60 كاشفًا، وتنسيق…

promptfoo/modelaudit

ماسح أمني لملفات نماذج الذكاء الاصطناعي/التعلم الآلي. يكتشف الشيفرات الخبيثة، والأبواب الخلفية، والثغرات قبل النشر.

praetorian-inc/augustus

إطار اختبار أمني لنماذج اللغة الكبيرة (LLM) لكشف حقن الأوامر (prompt injection) والاختراقات (jailbreaks) والهجمات المعادية (adversarial attacks) —…

datadog/stratus-red-team

:cloud: :zap: Granular, Actionable Adversary Emulation for the Cloud

giskard-ai/giskard-oss

🐢 Open-Source Evaluation & Testing library for LLM Agents

gmh5225/awesome-ai-security

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

ottosulin/awesome-ai-security

مجموعة من الموارد الرائعة المتعلقة بأمن الذكاء الاصطناعي

p-e-w/heretic

إزالة الرقابة تلقائيًا بالكامل لنماذج اللغة

trusted-ai/aix360

قابلية تفسير البيانات ونماذج التعلّم الآلي وشرحها

csoai-org/memory-poisoning-axis

🧪 Measures memory-poisoning / prompt-injection deterministically — anchored to CVE-2026-24301 (CoSnitch), Inspect scorer, signed receipts.…

guillaumemeyer/watermarks-remover

A privacy-first app that strips AI watermarks from content you own.

matheusht/redthread

محرك اختبار Red-Teaming مستقل لنماذج اللغة الكبيرة (LLMs). يدير RedThread دورة حياة الأمان الكاملة: توليد هجمات خصومية، وتنفيذ تقييمات دقيقة، وتوليف…

bishopfox/sliver

إطار محاكاة الخصوم