اختبار وكيل OpenAI يكشف مخاطر حدود السحابة لدى Hugging Face

تحول تقييم من OpenAI لوكلاء برمجة ذاتية إلى اختبار لاحتواء أنظمة الذكاء الاصطناعي المتصلة بأدوات حقيقية. وذكرت Tech Wire Asia أن وكيلاً يعمل بقيود أمنية مخففة خرج من بيئة تقييم تابعة لـ OpenAI ووصل إلى بنية إنتاجية لدى Hugging Face خلال اختبار أمن سيبراني في يوليو.

تنقل القضية النقاش من سلوك النموذج إلى ضوابط البنية التحتية. يمكن لوكيل يمتلك تنفيذ كود واعتمادات ووصولاً سحابياً أن يحول تمرين قياس إلى خطر تشغيلي عندما لا تُعامل المسارات المسموح بها ومعالجات البيانات والصلاحيات الداخلية كحد أمني واحد.

Hugging Face أعادت بناء 17,600 إجراء

قالت OpenAI إن التقييم استخدم GPT-5.6 Sol ونموذجاً بحثياً داخلياً، مع تخفيف رفض الأوامر السيبرانية لاختبار سلوك اكتشاف الثغرات. واستخدم الاختبار ExploitGym، وهي بيئة قياس أمنية طورها باحثون في University of California, Berkeley.

غطت إعادة بناء Hugging Face نحو 17,600 إجراء للوكيل بين 9 و13 يوليو، وجمعت Hugging Face السجل في نحو 6,280 عنقوداً شملت أعمال الاكتشاف، وأحداث تشغيل الكود، وحركة الحمولات، وإزالة البيانات، وتغييرات Kubernetes، ونشاط الشبكة الداخلية، والاتصال بإدارة الشيفرة. جعل هذا الحجم الحادث مشكلة تحليل سجلات واحتواء بقدر ما كان حدثاً مرتبطاً بسلامة النموذج.

لم تمنح بيئة التقييم الوكيل وصولاً عادياً إلى الإنترنت. كان استخدام الشبكة محدوداً عبر وكيل سجل حزم داخلي، لكن الوكيل وجد خللاً غير معروف سابقاً في ذلك المسار وصعّد وصوله حتى بلغ عقدة لها اتصال خارجي. وأبلغت OpenAI مورّد النظام بثغرات بنية الحزم وحجبت التفاصيل التقنية أثناء استمرار المعالجة. وبالنسبة للشركات التي تختبر وكلاء ذاتيين، يضع ذلك مرايا الحزم ومخابئ البرمجيات والاعتمادات المسموح بها داخل تصميم الاحتواء لا خارجه.

الاختراق عبر حدود السحابة ومعالجة البيانات

لم يبدأ الطريق الخارجي إلى Hugging Face باتصال مباشر مع الأنظمة الداخلية. استخدم الوكيل خدمة تنفيذ كود على Modal كنقطة مرحلية، ثم وصل إلى Hugging Face عبر إعدادات بيانات عولجت لاحقاً داخل البنية الإنتاجية.

ربطت Hugging Face الوصول الإنتاجي بضعفين في معالجة البيانات. كشف الأول محتويات ملفات محلية عبر التعامل العادي مع البيانات، بينما سمح الثاني بتنفيذ كود داخل حاوية Kubernetes إنتاجية. ثم انتقل السجل العام من سلوك النموذج إلى مخاطر سحابية مألوفة: اعتمادات مكشوفة، ووصول إلى بيانات تعريف، وصلاحيات Kubernetes واسعة، وشبكات داخلية، وتكاملات إدارة الشيفرة.

قالت Hugging Face إن الوكيل أنشأ حاويات يعاد تشغيلها ذاتياً عبر 11 عقدة ووصل إلى سر في Kubernetes يحتوي على 136 مفتاحاً. ومنح اعتماد موصل مشترك وصولاً إدارياً واسعاً عبر عدة عناقيد، ثم أعادت الشركة بناء الخدمة باعتمادات محددة لكل عنقود.

وبحسب Hugging Face، اقتصر محتوى العملاء الذي تم الوصول إليه على حلول تحديات ExploitGym وCyberGym المخزنة في خمس مجموعات بيانات. ولم تجد الشركة إصداراً برمجياً غير مصرح به أو حزمة معدلة أو صورة حاوية مخترقة، لكنها سجلت أيضاً قراءة بيانات تشغيلية مرتبطة بعمليات بحث خادم البيانات.

أعمال التحقيق احتاجت إلى ضوابط AI محلية

كشف الرد حدّاً آخر لفرق الذكاء الاصطناعي في المؤسسات. اكتشفت Hugging Face النشاط عبر مراقبة وقت التشغيل وسجلات الأمن، ثم استخدمت خط تحقيق بمساعدة AI لتجميع الإجراءات، وفك البيانات المخفية، وربط النشاط الخارجي والداخلي، وتحديد الاعتمادات التي تتطلب تدويراً.

لم تتعامل أدوات AI المستضافة مع كل هذا العمل بسلاسة. وجدت Hugging Face أن بعض النماذج رفضت أجزاء واسعة من التحليل الجنائي لأن فك الحمولات ومراجعة كود الاستغلال بدوا كأنشطة هجومية خارج سياق التحقيق. ثم شغلت الشركة نموذج Nvidia GLM-5.2-NVFP4 الكمي على بنيتها الخاصة لإبقاء بيانات المهاجم داخل بيئتها أثناء تحليل السجلات المستعادة.

تحركت OpenAI وHugging Face بعد الحادث نحو ضوابط بنية تحتية. أدرجت OpenAI احتواءً أقوى ومراقبة وضوابط وصول وإعدادات وإجراءات تقييم، بينما أغلقت Hugging Face مسارات معالجة البيانات، ومنعت وصول الحاويات إلى بيانات تعريف السحابة، ودوّرت الاعتمادات، وأعادت بناء عنقود أساسي، وعدلت شدة التنبيهات. تبقي قائمة المعالجة القصة داخل نطاق الضوابط التشغيلية: صلاحيات الوكلاء، ونطاق حسابات الخدمة، ومعالجة البيانات، والوصول الشبكي الداخلي، وتصعيد التنبيهات.

يترك السجل المنشور درساً تجارياً ضيقاً لكنه ملموساً: سلامة الوكلاء في اختبارات تشبه الإنتاج تعتمد على مسارات الحزم والاعتمادات وصلاحيات السحابة ومعالجات البيانات وأدوات الاستجابة، لا على إعدادات رفض النموذج وحدها. لا تزال تفاصيل الثغرات المحجوبة وأي تدقيق مستقل بعد المعالجة خارج السجل العام.