رئيس Google DeepMind يقترح هيئة معايير للذكاء الاصطناعي المتقدم
ذكرت SiliconANGLE أن Demis Hassabis، الرئيس التنفيذي لـ Google DeepMind، اقترح هيئة معايير لنماذج الذكاء الاصطناعي المتقدمة يمكن أن تبدأ بمراجعات طوعية قبل الإطلاق بـ 30 يوما. ويسمي المقترح تحديثات ربع سنوية لاختبارات المخاطر وهدف إطلاق قبل نهاية العام، لكنه لا يحدد أول المختبرات المشاركة أو التزامات التمويل أو وكالة أمريكية مشرفة.
اقترح Demis Hassabis، الرئيس التنفيذي لـ Google DeepMind، إنشاء هيئة معايير لنماذج الذكاء الاصطناعي المتقدمة، مع مراجعات طوعية تبدأ قبل الإتاحة الواسعة ومسار نحو تقييمات إلزامية في السوق الأمريكية إذا نجحت العملية، بحسب SiliconANGLE استنادا إلى مقال Hassabis على Substack وتغطية Axios.
وبموجب الخطة، ستقود الولايات المتحدة هيئة تضع معايير قياس للمخاطر في أنظمة الذكاء الاصطناعي المتقدمة. وكتبت Axios أن Hassabis ناقش المبادرة مع البيت الأبيض ومسؤولين أوروبيين ومختبرات ذكاء اصطناعي منافسة، وأنه يأمل إطلاق الهيئة قبل نهاية العام.
مقترح Google DeepMind يحدد اختبارات مخاطر لنماذج الذكاء الاصطناعي المتقدمة
ستختبر هيئة المعايير النماذج المتقدمة في مجالات حساسة تشمل الأمن السيبراني وأبحاث الأحياء. وحدد مقال Hassabis اختبارات للذكاء الاصطناعي الوكيل ترصد محاولات تجاوز حواجز السلامة، ومؤشرات الخداع، ووضع علامات مائية رقمية على الصور المولدة بالذكاء الاصطناعي، ورموز مخرجات قابلة للقراءة البشرية تساعد في تفسير منطق النموذج.
ولن تبقى اختبارات المخاطر ثابتة. ودعا المقال إلى أن تحدث الهيئة تقييماتها كل ربع سنة، مع احتمال تسريع الوتيرة مع تغير النماذج وظهور أنماط مخاطر جديدة.
ووصفت SiliconANGLE الهيئة المقترحة بأنها مصممة على غرار Financial Industry Regulatory Authority، وهي الجهة الأمريكية المنظمة للوسطاء والممولة من الشركات التي تشرف عليها والخاضعة لإشراف Securities and Exchange Commission. وبالنسبة إلى العمل الكثيف عتاديا في تقييم النماذج المتقدمة، ستعتمد نسخة الذكاء الاصطناعي على بنية تحتية وخبرات تقنية من القطاع الخاص.
المراجعات الطوعية قد تبدأ قبل الإطلاق بـ 30 يوما
وكما ورد في المقال، ستكون المرحلة الأولى برنامجا طوعيا لتقييم المخاطر لمختبرات الذكاء الاصطناعي. ويمكن للمشاركين تقديم النماذج للمراجعة قبل 30 يوما من الإتاحة الواسعة، بما يمنح الهيئة مسارا أوليا لبناء بروتوكول رسمي لتقييم المخاطر.
كما رأى المقال أن إضفاء الطابع الرسمي يمكن أن يتبع بسرعة بمجرد إثبات أن البروتوكول فعال ومتين. وفي تلك النسخة اللاحقة، ستحتاج النماذج المتقدمة إلى اجتياز التقييم قبل نشرها في السوق الأمريكية، وستعمل المختبرات مع هيئة المعايير على الثغرات الحرجة بعد الإطلاق.
وسيضم المجلس المقترح خبراء تقنيين مستقلين وممثلين عن المصادر المفتوحة، بحسب المقال. ولا يحدد السجل المتاح أسماء أعضاء محتملين في المجلس، أو المختبرات المشاركة، أو التزامات التمويل، أو الجهة التي ستشرف على الهيئة إذا أصبحت العملية الطوعية إلزامية.
مقترح Anthropic يمنح دفع المعايير صوتا ثانيا من مختبرات الذكاء الاصطناعي
ويأتي المقترح بعد فكرة مشابهة من Dario Amodei، الرئيس التنفيذي لـ Anthropic، قبل نحو شهر. وأشارت SiliconANGLE إلى أن Amodei اقترح إطارا أمريكيا لتنظيم الذكاء الاصطناعي على غرار كيفية إشراف Federal Aviation Administration على الطيران.
وفي السجل العام المتاح حتى الآن، تبدو نسخة Hassabis أضيق نطاقا: فهي تسمي تقييمات النماذج، وتوقيت الإصدار، ودورات تحديث الاختبارات، والتعامل مع الثغرات بعد الإطلاق، بينما تترك تفاصيل الحوكمة والإنفاذ خارج المقترح.
وما لا يزال غائبا عن السجل العام هو أسماء المختبرات المشاركة، وميزانية الإطلاق، والوكالة الأمريكية المشرفة، وجدول زمني ملزم يتجاوز هدف إطلاق الهيئة قبل نهاية العام.
