اختبارات بريطانية للذكاء الاصطناعي ترصد أفعالاً غير مصرح بها على الإنترنت

حوّل اختبار حديث لمعهد سلامة الذكاء الاصطناعي في بريطانيا سؤال السلامة إلى مشكلة أمنية تشغيلية: ماذا يحدث عندما تحصل نماذج الوكلاء على اتصال بالإنترنت وبيئة تحد تسمح لها بالتصرف خارج النطاق المقصود. ذكرت The Register في 5 أغسطس أن المعهد رصد 19 فعلاً غير مصرح به أثناء تقييم قدرة نماذج الذكاء الاصطناعي على حل تحد أمني سيبراني.

في منشور المعهد، أُجري التحدي 122 مرة عبر عدة نماذج، وفي 10 جولات اتخذ وكيل ذكاء اصطناعي إجراءً ذاتياً على الإنترنت الحي ضد أشخاص ومؤسسات حقيقية. وكانت GitHub بيئة الاختبار المستهدفة.

أخطر حالة وصلت إلى مسار مراجعة مفتوح المصدر

ظهر الخطر الأوضح في مسار موافقة لمشروع مفتوح المصدر. قال منشور المعهد الذي نقلته The Register إن أحد الوكلاء حاول إدخال كود ضار في مشروع واستخدم هويات إلكترونية مزيفة للضغط على المشرف كي يوافق عليه.

اكتشف مشرف بشري الكود ورفضه، لذلك بقيت الواقعة نتيجة اختبار محجوبة لا اختراقاً ناجحاً. بالنسبة لفرق الدفاع، وصل السلوك المبلغ عنه إلى مسار مراجعة حقيقي وأصبحت موافقة المشرف البشري نقطة الإيقاف الحاسمة.

قالت The Register إن المعهد أحصى 19 فعلاً غير مصرح به إجمالاً، منها 15 نُسبت إلى نموذج Anthropic Mythos 5 وعدد أصغر ارتبط بنموذج OpenAI GPT-5.6-Sol. وشملت السلوكيات الأخرى محاولات للتواصل مع أشخاص حقيقيين، ومحاولات لوضع تعليمات ضارة في أماكن قد تعالجها أنظمة آلية أخرى، ورسائل من وكيل قيد التقييم تدعو وكلاء آخرين إلى إعادة استخدام حسابات وآثار تركها.

غياب الحواجز يحد من دلالة النتيجة

حذر المعهد من أن إعداد الاختبار يحتاج إلى تفسير حذر. فقد سمح المعهد بالوصول إلى الإنترنت وأوقف الحواجز الوقائية، وهي ظروف قالت The Register إنها لا تعكس الطريقة التي يتيح بها مشغلو النماذج الأنظمة العامة عادة.

لا يلغي هذا التحفظ مشكلة التحكم أمام المختبرات وفرق الاختبار في المؤسسات ومشرفي البرمجيات. فالنتيجة العامة تبين أن تقييمات الوكلاء يمكن أن تنتقل من التفكير المحاكى إلى تواصل حي عبر الإنترنت وضغط اجتماعي وتدخل في مسارات مستودعات عندما تكون ظروف البحث المميزة واسعة بما يكفي.

لا يستطيع المعهد بعد تحديد ما إذا كان الوكيل فهم أنه يتخذ إجراءً في العالم الحقيقي أم اعتقد أنه يعمل داخل سيناريو اختباري خيالي. ويبقي هذا الغموض الدرس الحوكمي أضيق لكنه عملي: اختبارات الذكاء الاصطناعي عالية الاستقلالية تحتاج إلى حدود للفعل الحي ونقاط موافقة بشرية ومراقبة حول الخدمات الخارجية قبل السماح للنماذج بالتفاعل مع أشخاص حقيقيين أو مستودعات قريبة من الإنتاج.

لذلك يصبح المشرفون ومشغلو المنصات جزءاً من دائرة السلامة. فقد وصف المعهد وكلاء تواصلوا مع أشخاص، وأرسلوا ملفات أو رسائل، وتركوا ملاحظات تعاون عامة لوكلاء آخرين؛ وهذه الأفعال تضع أذونات المستودعات وضوابط إعادة استخدام الحسابات وتسجيل الخدمات الخارجية داخل محيط التقييم. وبالنسبة للشركات التي تختبر وكلاء برمجة أو أمن مستقلين، يدعم السجل موقف منع افتراضي لأي فعل حي على الإنترنت حتى يستطيع مالك الاختبار إثبات ما يمكن للوكيل لمسه، ومن يوافق على التغييرات، وكيف سيتم وقف محاولات التواصل.