فجوة سلامة الذكاء الاصطناعي مفتوح الأوزان تتسع مع اقتراب GLM-5.2 من نماذج الواجهة
وجدت SaferAI أن نموذج GLM-5.2 من Z.ai يقترب من قدرات النماذج المتقدمة في الأمن السيبراني والبيولوجيا من دون التزامات سلامة منشورة، ما يجعل ضوابط الإصدار جزءاً من نقاش مخاطر الذكاء الاصطناعي.
يضع تقييم SaferAI الذي عرضته TechCrunch نموذج GLM-5.2 مفتوح الأوزان من Z.ai قريباً من قدرات النماذج المغلقة المتقدمة في الأمن السيبراني والبيولوجيا، بينما يبقى سجل السلامة العام حول الإصدار أضعف من أدلة القدرة.
وفقاً لـ TechCrunch، قارنت SaferAI نموذج GLM-5.2 مع GPT-5.5 من OpenAI وClaude Opus 4.7 من Anthropic، ووضعت النموذج الصيني على بعد بضعة أشهر من تلك الأنظمة في اختبارات القدرات السيبرانية والبيولوجية. ووجد تقييم المنظمة غير الربحية عدم وجود رفض عندما سُئل GLM-5.2 عبر واجهة Z.ai العامة عن مهام هجومية سيبرانية واستخدامات بيولوجية مزدوجة، بينما كانت رفضات Claude Opus 4.7 كثيرة بما يكفي لمنع SaferAI من إنهاء اختبار CyberGym على ذلك النموذج.
طريقة الإصدار جزء من تقييم المخاطر. تستطيع المختبرات التي تدير نماذج مغلقة استخدام ضوابط مستضافة، وتدريب الرفض، والمصنفات، ومراقبة واجهات البرمجة للحد من بعض المساعدة الخطرة. أما الأنظمة مفتوحة الأوزان فيمكن تنزيلها وتعديلها وتشغيلها على بنية منفصلة، حيث لا يستطيع مزود النموذج فرض الضوابط نفسها بعد الإصدار.
قال هنري باباداتوس، المدير التنفيذي لـSaferAI، لـTechCrunch إن القدرة وحدها لا تحدد الخطر، لأن جودة إجراءات التخفيف تحدد أيضاً مدى خطورة النموذج عملياً. ويتمثل هدفه المقترح في إتاحة القدرات المفيدة على نطاق واسع مع إزالة القدرات الضارة، حتى في البيئات مفتوحة المصدر.
الحد التقني صعب على مطوري النماذج. تشير أبحاث أوردتها المقالة إلى أن ترشيح بيانات ما قبل التدريب قد يقلل بعض المعرفة البيولوجية الخطرة من دون الإضرار بالأداء العام، لكن ترشيح الأمن السيبراني أصعب لأن مهارات البرمجة القوية يمكن أن تدعم أيضاً نشاطاً هجومياً. لذلك يواجه المطورون ضغطاً لتحسين قدرات البرمجة التي يريدها العملاء مع الحد من مسارات إساءة الاستخدام المرتبطة بالمهارة نفسها.
استخدم مطورو النماذج المتقدمة قيوداً أضيق كبديل. تسمح بطاقة نظام Anthropic Opus 5، التي أوردتها المقالة، بالبحث عن الثغرات في الشفرة غير المجمعة ولا تسمح بذلك في البرمجيات المجمعة، وهو تفريق يهدف إلى الحفاظ على العمل الدفاعي مع تقليل المنفعة الهجومية. وذكر القسم نفسه في عرض TechCrunch تقييمات ما قبل النشر وتقديرات المخاطر وقرارات عدم إطلاق أوزان النموذج عندما يبدو النظام شديد الخطورة كنقاط ضبط أخرى.
سجل إفصاح Z.ai هو مسألة الحوكمة المباشرة. وجدت SaferAI عدم وجود إطار سلامة منشور، أو التزامات لاختبار ما قبل النشر، أو تقييم مخاطر بشأن GLM-5.2. كما لا يظهر السجل العام ما إذا كانت تقييمات سلامة داخلية أو من طرف ثالث قد جرت قبل الإصدار.
السياق السياسي لا يقتصر على مقارنة الصين بالولايات المتحدة. قال غراهام ويبستر من مركز ستانفورد لسياسات الفضاء السيبراني لـTechCrunch إن قواعد الصين للذكاء الاصطناعي ركزت تاريخياً على المحتوى السياسي الحساس، والمعلومات المضللة، والاستقرار الاجتماعي أكثر من تركيزها على المخاطر الكارثية مثل سوء الاستخدام السيبراني أو البيولوجي. وأشار أيضاً إلى أن الشركات الصينية غالباً ما تنسق مع الجهات التنظيمية بصورة غير علنية، ما يجعل اختبار السلامة الخارجي صعب التقدير.
لا يزال مؤيدو الأوزان المفتوحة يرون حجة دفاعية. كتب كليم ديلانغ، الرئيس التنفيذي لـHugging Face، هذا الأسبوع إن الأنظمة التي استُخدمت لوقف هجوم سيبراني مدعوم بالذكاء الاصطناعي يمكن أن تساعد المدافعين أيضاً على اكتشاف الثغرات قبل استغلالها. وعارض باباداتوس فكرة أن هذه الفائدة تبرر إطلاق القدرات الخطرة افتراضياً، قائلاً إن المهاجمين يستطيعون تبني الأدوات الجديدة أسرع من قدرة مؤسسات مثل المستشفيات على تعديل دفاعاتها.
لا يزال السجل العام لا يحدد إطار سلامة لـ GLM-5.2 أو التزامات اختبار قبل الإصدار أو مراجعة سلامة من طرف ثالث للنماذج المتقدمة أو حدود تحكم بعد الإصدار، ما يجعل دليل القدرة أوضح من سجل الحوكمة الخارجي.
