
يوضح ثغرة الإشارة المباشرة غير الآمنة إلى كائن (IDOR) في واجهة برمجة تطبيقات الدردشة في Deepfiction AI، مما يسمح للمهاجمين باستهلاك أرصدة المستخدمين الآخرين وتسريب تكوينات الأدوار.
ديبفيشن AI (Deepfiction AI) هي شركة ترفيه تعمل بالذكاء الاصطناعي مهمتها إحداث ثورة في رواية القصص المخصصة. توفر ديبفيشن AI تطبيق ويب لإنشاء القصص من خلال الدردشة مع نموذج اللغة الكبير (LLM)، وهو معرض لثغرة الإسناد المباشر غير الآمن (Insecure Direct Object Reference (IDOR)) في مكون الدردشة الخاص به. يمكن للمهاجم استغلال هذه الثغرة للدردشة مع نموذج اللغة الكبير باستخدام أرصدة المستخدمين الآخرين.
يتم استخدام نقطة نهاية API https://www.deepfiction.ai/api/story/create-story-part لبدء المحادثات أو متابعتها. يشير الاختبار إلى أن API هذه تعتمد فقط على حقول treatment_id و user_id داخل جسم الطلب للتحكم في الوصول.
لقد لوحظ أن حقول id و author_id مكشوفة في المحادثات المتاحة للعامة المدرجة على صفحة الويب https://www.deepfiction.ai/browse/stories. تتوافق هذه الحقول المكشوفة مباشرة مع المعاملين treatment_id (المطابق لـ id) و user_id (المطابق لـ author_id) المتوقعين من API create-story-part.
نتيجة لذلك، يمكن للمهاجم استبدال id المسرب (بصفته treatment_id) و author_id المسرب (بصفته user_id) في الطلبات إلى API هذه. يمكنهم من التفاعل مع نموذج اللغة الكبير (LLM) عن طريق استهلاك أرصدة المستخدمين الآخرين. تظهر الأشكال إثبات المفهوم (POC) لهذه الثغرة.


بالإضافة إلى ذلك، يمكن لتحليل حركة مرور الشبكة (على سبيل المثال، من خلال التقاط الحزم) أن يكشف عن تكوينات الدور المحددة (إعدادات الشخصية) لكل شخصية. هذه التكوينات مماثلة للأوامر النظامية (system prompts) وتمثل موارد نظام مهمة لروبوت المحادثة LLM. يشكل هذا الكشف أيضًا شكلاً من أشكال تسريب البيانات الحساسة، حيث قد يكشف عن تفاصيل هندسة الأوامر الخاصة أو تعريفات الشخصيات.

يمكن أن تؤثر هذه الثغرة على أي مستخدم لـ https://www.deepfiction.ai. سيتم إساءة استخدام رصيد الدردشة الخاص بالمستخدم باستخدام treatment_id و user_id المسربين.