تنبيهات سلامة المراهقين في Meta AI تصل إلى الآباء في أربع أسواق
قالت Meta إن Meta AI سينبه الآباء المشرفين عندما توحي محادثات المراهقين بخطر الانتحار أو إيذاء النفس، بدءا من الولايات المتحدة والمملكة المتحدة وأستراليا وكندا. وقالت الشركة إن المحادثات المحددة ستخضع لمراجعة بشرية قبل إرسال التنبيهات، لكنها لم تنشر دقة الكشف أو موعد مسار الطوارئ أو نتائج تقييم مستقل.
أصبحت تنبيهات Meta للآباء بشأن محادثات المراهقين عن الانتحار أو إيذاء النفس مع Meta AI متاحة الآن لمستخدمي الإشراف على Instagram في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا. وتستخدم هذه التنبيهات إشارات طُوّرت بمشاركة خبراء، إلى جانب مراجعة بشرية قبل أن يتلقى أحد الوالدين الإشعار.
ويأتي هذا التغيير ضمن تحديث أوسع لسلامة المراهقين في المحادثات الحساسة مع الذكاء الاصطناعي. وكان المساعد يوجّه المراهقين بالفعل إلى خطوط المساعدة في الأزمات ويشجعهم على التواصل مع أحد الوالدين أو شخص بالغ موثوق أو مستشار عندما تشير المطالبات إلى الانتحار أو إيذاء النفس.
تنبيهات Meta AI متاحة في أربع أسواق
يشمل الطرح الأول العائلات التي تستخدم الإشراف الأبوي على Instagram في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، وفقا لـMeta. وأضافت الشركة أن الآباء المشرفين حول العالم من المقرر أن يحصلوا على هذه الميزة بحلول نهاية العام.
وصُمم نظام التنبيه للمحادثات التي يرد فيها من المراهق إشارة واضحة إلى إيذاء نفسه، بما في ذلك الإشارات غير المباشرة. وساعد آباء وخبراء في تحديد محادثات الذكاء الاصطناعي التي تستدعي تنبيها، بينما يتولى نظام ذكاء اصطناعي مخصص تحديد تلك الحالات.
وتخضع جميع الدردشات التي يحددها نظام الذكاء الاصطناعي لمراجعة بشرية قبل إرسال التنبيه. وحذرت Meta من أن التعامل الحذر مع الحالات الغامضة قد يؤدي إلى بعض الإشعارات للآباء رغم عدم وجود سبب حقيقي للقلق.
مسار خدمات الطوارئ لا يزال قيد التطوير
يجري تطوير وظيفة منفصلة لخدمات الطوارئ للمحادثات التي توحي بأن بالغا أو مراهقا قد يكون معرضا لخطر وشيك للانتحار. ويمتد هذا المسار المخطط له من الإجراءات القائمة بالفعل على Facebook وInstagram للتعامل مع المنشورات التي تنطوي على خطر انتحار موثوق.
وأوضحت Meta أن تلك الإجراءات القائمة تنبّه خدمات الطوارئ حتى يتمكن المستجيبون الأوائل من إجراء فحوص للاطمئنان على أشخاص قد يكونون معرضين للخطر. وما زال مسار محادثات الذكاء الاصطناعي الجديد قدرة مخططا لها وليس إطلاقا بموعد محدد.
أطباء راجعوا مئات المطالبات المرتبطة بسلامة المراهقين
تسهم ملاحظات أكثر من 75 اختصاصيا في الصحة النفسية في تشكيل تغييرات على ردود المساعد، وفقا لـMeta. ويختص هؤلاء الأطباء بالصحة النفسية للمراهقين، وقد راجعوا ردود الذكاء الاصطناعي على مئات المطالبات.
وشملت المراجعة مدى ملاءمة الردود للمراهقين، وما الردود التي كانت فعالة، وكيف يمكن تحسينها. وتتضمن التغييرات المخطط لها الإقرار بمشاعر المراهق عند توجيهه إلى موارد الدعم، بدلا من إنهاء المحادثة بسرعة مفرطة.
كما يسرد التحديث استمرار التشاور مع AI Wellbeing Expert Council وSuicide and Self-Harm Advisory Group وYouth Advisors. وقالت Dr Ji-yeon Lee، وهي أخصائية نفسية مرخصة وأستاذة علم نفس إرشادي في Hankuk University of Foreign Studies، إن المراجعة السريرية فحصت الردود الفورية والسياق الأوسع للمحادثة والمتابعة ومستويات المخاطر المختلفة.
إعداد Limited Content سيشمل محادثات الذكاء الاصطناعي
تستخدم Teen Accounts تلقائيا إعداد محتوى 13+، وينطبق ذلك أيضا على محادثات الذكاء الاصطناعي، وفقا لـMeta. وصُمم الإعداد الافتراضي لإنتاج ردود مناسبة للعمر وعدم الامتثال للمطالبات الحساسة، بما في ذلك المحادثات الجنسية أو الرومانسية مع المراهقين أو طلبات وصفات المشروبات الكحولية.
وسينطبق إعداد Limited Content الأكثر صرامة في Instagram الآن على تجارب الذكاء الاصطناعي أيضا. وعندما يختار الآباء هذا الإعداد، سيرفض المساعد الاستجابة لنطاق أوسع من المطالبات وسيقلل بدرجة أكبر من احتمال المحادثات غير الملائمة.
ولا تزال دقة الاكتشاف ومعدلات الإيجابيات الكاذبة والسلبيات الكاذبة وتوقيت إطلاق مسار الطوارئ ونتائج التقييم المستقل خارج السجل العام لنظام تنبيهات سلامة المراهقين الجديد.
