تأمين وكلاء الذكاء الاصطناعي باستخدام التحكم في تدفق المعلومات

يحتوي هذا المستودع على دفتر ملاحظات Jupyter يرافق الورقة الأكاديمية «تأمين وكلاء الذكاء الاصطناعي باستخدام التحكم في تدفق المعلومات». صُمم دفتر الملاحظات كبرنامج تعليمي لتعريف القراء بالمفاهيم المطروحة في الورقة. ويعرض تنفيذًا عمليًا لآليات تفرض سياسات الأمان بشكل حتمي في المهام الوكيلة، ويؤسس المفاهيم في كود قابل للتنفيذ يمكن للقراء تجربته.

تعليمات الإعداد

تم اختبار دفتر الملاحظات مع GPT-4o وGPT-4.1 باستخدام Azure OpenAI Chat Completions API، ولكن يمكن تكييفه بسهولة لاستخدام نقطة نهاية OpenAI بدلاً من ذلك. يُعدّ الكود نقطة نهاية النموذج في العميل باستخدام ملف إعداد .env يحتوي على تعريفات لـ AZURE_ENDPOINT وAPI_VERSION وAZURE_DEPLOYMENT. يُرجى نسخ ملف .env.example المرفق إلى .env وتحريره حسب الاقتضاء. يوثّق دفتر الملاحظات مصادقته على خدمة Azure OpenAI باستخدام Microsoft Entra ID، ولكن يمكن تكييفه ببساطة لاستخدام المصادقة المستندة إلى المفاتيح إذا كان ذلك مفضّلاً.

للتيسير، نقدّم دفتر ملاحظات مُقيَّمًا بالكامل لتوضيح المخرجات المتوقعة، لكننا نشجع القراء على إعداد نقطة النهاية الخاصة بهم للتجربة العملية وإعادة إنتاج مخرجاتنا.

الاقتباس

إذا كنت ترغب في الاستشهاد بهذا العمل، فيُرجى الاستشهاد به على النحو التالي

@misc{securing_ai_agents_with_ifc,
  title         = {Securing {AI} Agents with Information-Flow Control},
  author        = {Costa, Manuel and 
                   K{\"o}pf, Boris and 
                   Kolluri, Aashish and 
                   Paverd, Andrew and 
                   Russinovich, Mark and 
                   Salem, Ahmed and 
                   Tople, Shruti and 
                   Wutschitz, Lukas and 
                   Zanella-B{\'e}guelin, Santiago},
  year          = {2025},
  eprint        = {2505.23643},
  archivePrefix = {arXiv},
  primaryClass  = {cs.CR},
  doi           = {10.48550/arXiv.2505.23643}
}

المساهمة

يرحّب هذا المشروع بالمساهمات والاقتراحات. تتطلب معظم المساهمات موافقتك على اتفاقية ترخيص المساهم (CLA) التي تقرّ بأنه يحق لك منحنا حقوق استخدام مساهمتك، وأنك تمنحنا إياها بالفعل. للتفاصيل، تفضل بزيارة اتفاقيات ترخيص المساهم.

عند تقديم طلب سحب (pull request)، سيحدد روبوت CLA تلقائيًا ما إذا كنت بحاجة إلى تقديم اتفاقية CLA وسيزيّن طلب السحب وفقًا لذلك (على سبيل المثال، فحص الحالة أو تعليق). اتبع ببساطة التعليمات المقدمة من الروبوت. لن تحتاج إلى القيام بذلك إلا مرة واحدة عبر جميع المستودعات التي تستخدم اتفاقية CLA الخاصة بنا.

اعتمد هذا المشروع مدونة قواعد السلوك مفتوحة المصدر من Microsoft. لمزيد من المعلومات، راجع الأسئلة الشائعة حول مدونة قواعد السلوك أو تواصل مع [email protected] لأي أسئلة أو تعليقات إضافية.

العلامات التجارية

قد يحتوي هذا المشروع على علامات تجارية أو شعارات لمشاريع أو منتجات أو خدمات. يخضع الاستخدام المصرح به للعلامات التجارية أو الشعارات الخاصة بشركة Microsoft لـإرشادات Microsoft للعلامات التجارية والهوية البصرية ويجب أن يلتزم بها. يجب ألا يسبب استخدام العلامات التجارية أو الشعارات الخاصة بشركة Microsoft في الإصدارات المعدلة من هذا المشروع أي التباس أو يوحي برعاية Microsoft. أي استخدام للعلامات التجارية أو الشعارات الخاصة بأطراف ثالثة يخضع لسياسات تلك الأطراف.