رئيس Anthropic يفصل نماذج AI المفتوحة عن مخاطر الصين
رفض Dario Amodei الرئيس التنفيذي لـ Anthropic مزاعم أن الشركة تريد حظراً واسعاً على نماذج الذكاء الاصطناعي المفتوحة الأوزان، بينما ذكرت TechCrunch أنه ما زال يدعم قيود الرقائق وحملات مكافحة distillation واختبارات السلامة العالمية للنماذج الأكثر قدرة.
يتضيق الخلاف حول الذكاء الاصطناعي المفتوح الأوزان عند موضع السيطرة السياسية: إصدار النماذج، أو الوصول إلى الرقائق، أو إنفاذ قواعد distillation، أو اختبارات السلامة. وذكرت TechCrunch أن Dario Amodei الرئيس التنفيذي لـ Anthropic رفض مزاعم أن شركته تدعم حظراً واسعاً على نماذج الذكاء الاصطناعي المفتوحة الأوزان، مع احتفاظه بموقف أكثر تشدداً تجاه مخاطر الأمن المرتبطة بالصين والأنظمة عالية القدرة.
جاء رد Amodei بعد رسالة مفتوحة شاركها Jensen Huang الرئيس التنفيذي لـ Nvidia يوم الجمعة. وحظيت الرسالة بدعم Nvidia وشركات من بينها Hugging Face وMeta وMicrosoft وMistral، ودعت صناع السياسات إلى عدم فرض قيود واسعة ومبكرة على نماذج الذكاء الاصطناعي المفتوحة الأوزان.
Amodei يرفض فكرة الحظر الواسع
يترك موقف Anthropic فاصلاً بين الاستخدام العادي للنماذج المفتوحة الأوزان وبين ضوابط الأمن القومي. وتعامل منشور Amodei يوم الاثنين مع النماذج المفتوحة التي لا تملك قدرات خطرة باعتبارها بنية عامة مفيدة للشركات والمطورين والباحثين، لأن المستخدمين يحتاجون فقط إلى قدرة الحوسبة اللازمة لتشغيلها.
رسم رئيس الشركة حدوداً منفصلة حول الحكومات السلطوية التي تبني نماذج أقوى من تلك الموجودة في الولايات المتحدة. ونسبت TechCrunch قلقه إلى مخاطر التفوق العسكري والقمع الداخلي، مع تحديد الحزب الشيوعي الصيني بوصفه الحكومة الأكثر قدرة ضمن تلك الفئة.
جمع الرد بين رفض الحظر الشامل على النماذج المفتوحة الأوزان ودعم ضوابط مرتبطة بمستوى القدرة والوصول إلى الرقائق وdistillation والاختبار. وفي هذا الإطار تتبع السيطرة السياسية مستوى القدرة والجهة المستخدمة، لا مجرد كون النموذج مفتوحاً أو مغلقاً في التصميم.
قيود الرقائق وdistillation تبقى ضمن النطاق
تركز الضوابط التي يفضلها Amodei على المدخلات ومسارات سوء الاستخدام. ودعم منشور المدونة قيوداً على وصول الصين إلى الرقائق القوية، ودعا إلى حملة رسمية ضد distillation، وهي تقنية يجري فيها استجواب نظام ذكاء اصطناعي مراراً حتى يتعلم نظام آخر من سلوكه.
يقع النقاش أيضاً داخل ضغط سياسي أميركي قائم. فقد هددت واشنطن بفرض عقوبات على الصين إذا قررت حدوث سرقة ملكية فكرية تتعلق بنماذج أميركية، بينما حذر الموقعون على الرسالة المفتوحة من قيود يرونها مبكرة.
يقدم المدافعون عن المصادر المفتوحة حجة سلامة معاكسة. فالوصول الأوسع إلى النماذج المفتوحة القوية يمكن أن يمنح المدافعين أدوات لا تسيطر عليها شركة واحدة، بينما رأى Amodei أن أصعب المخاطر تتعلق بنماذج لها قدرة بيولوجية أو سيبرانية ولا يمكن مراقبتها بعد الإصدار.
الاختبار العالمي يبقى الشرط الصعب
تمثل منظمة لاختبار سلامة النماذج المجال الذي رأى فيه Amodei فرصة للتوافق. فقد دعم جهوداً، بعضها تقوده الولايات المتحدة، لاختبار النماذج الأكثر قدرة بغض النظر عن بلد المنشأ أو ما إذا كان النموذج مفتوحاً أو مغلقاً، مع إعفاء الأنظمة الأقل قدرة الصادرة عن الشركات الناشئة والأوساط الأكاديمية.
الشرط هو المشاركة العالمية. وأوردت TechCrunch رأي Amodei بأن الصين نفسها ستحتاج إلى الانضمام حتى تنجح الاختبارات، وأن تعاوناً محدوداً حول منع أسلحة بيولوجية قائمة على الذكاء الاصطناعي قد يكون ممكناً لأن الخطر يمس مصالح الصين أيضاً.
لم يرد في السجل العام تحديد هيئة عالمية للاختبار أو آلية لمشاركة الصين أو عملية لإنفاذ قواعد distillation.
