إطار عمل مفتوح المصدر لاختبار أنظمة الذكاء الاصطناعي التوليدي هجوميًا (Red Teaming): أتمتة مطالبات الهجوم، وتقييم استجابات النماذج، وتدقيق السلوك لتحديد مخاطر الأمان والسلامة.
PyRIT (أداة تحديد المخاطر بلغة Python للذكاء الاصطناعي التوليدي) هي مجموعة أدوات مفتوحة المصدر لاكتشاف نقاط الضعف الأمنية والسلامة في أنظمة الذكاء الاصطناعي التوليدي من خلال الفحوصات المؤتمتة، والهجمات التكيفية متعددة الأدوار، والاختبار الذي يقوده البشر.
بُنيت PyRIT بواسطة الفريق الأحمر للذكاء الاصطناعي في Microsoft ومجتمع مفتوح المصدر من المساهمين، وهي تجمع ماسحًا سطريًا للأوامر، وواجهة رسومية، وإطار عمل Python قابلًا للتوسيع في مجموعة أدوات واحدة.
لا تحتاج إلى أن تكون موظفًا في Microsoft أو خبيرًا متمرسًا في الفرق الحمراء للمشاركة. انضم إلى مجتمعنا على Discord لطرح الأسئلة وتبادل التقنيات ومشاركة ما تبنيه والتواصل مع المشرفين والمستخدمين الآخرين.
تشمل المساهمات الشيفرة والتوثيق والأمثلة وتقارير الأخطاء والاختبار والملاحظات المستخلصة من الاستخدام الواقعي. اقرأ دليل المساهمين واستكشف المشكلات الموسومة بـ "help wanted".
ابدأ الآن | انضم إلى Discord | اقرأ الورقة البيضاء
زُر موقعنا للاطلاع على التثبيت والإعداد والعروض التوضيحية والتوثيق. استخدم محدّد الإصدار لمطابقة الوثائق مع تثبيتك؛ تتبع الأدلة أعلاه أحدث إصدار تطويري.
اتصل بـ OpenAI وAnthropic وAzure OpenAI وMicrosoft Foundry وAzure Machine Learning وGoogle Gemini وGoogle Vertex AI وAWS Bedrock وHugging Face وOllama وGroq وOpenRouter وCohere وGitHub Copilot.
استخدم واجهات API المتوافقة مع OpenAI أو الأهداف المدمجة، أو ثبّت محوّل LiteLLM الاختياري لتكاملات مزوّدين إضافيين. راجع دليل إعداد المزوّد ودليل مزوّدي LiteLLM للإعداد والمزيد من المزوّدين. تعتمد الميزات المتاحة على الهدف والنموذج.
اختبر تطبيقات كاملة ونقاط نهاية أخرى عبر HTTP، وWebSockets، وأتمتة المتصفح باستخدام Playwright، أو أهداف مخصصة.
اقرأ PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling
للاطلاع على مبادئ التصميم والخبرة الواقعية الكامنة وراء مجموعة الأدوات.
إذا استخدمت PyRIT في بحثك، فيرجى الاستشهاد بالورقة باستخدام
CITATION.cff.
للإبلاغ عن الثغرات الأمنية في PyRIT بشكل خاص من خلال مركز استجابة الأمن السيبراني من Microsoft، اتبع سياسة الأمان الخاصة بنا.
قد يحتوي هذا المشروع على علامات تجارية أو شعارات لمشاريع أو منتجات أو خدمات. يخضع الاستخدام المصرح به لعلامات Microsoft التجارية أو شعاراتها ويجب أن يتبع إرشادات العلامات التجارية والهوية التجارية من Microsoft. يجب ألا يتسبب استخدام علامات Microsoft التجارية أو شعاراتها في إصدارات معدلة من هذا المشروع في إحداث لبس أو الإيحاء برعاية Microsoft. يخضع أي استخدام لعلامات تجارية أو شعارات تابعة لجهات خارجية لسياسات تلك الجهات الخارجية.
