إشعارات قانونية من سان فرانسيسكو تستهدف 13 تطبيق تبديل وجوه بالذكاء الاصطناعي لدى Apple وGoogle
أفادت WIRED بأن David Chiu، المدعي العام لمدينة سان فرانسيسكو، أرسل إشعارات قانونية تطالب Apple وGoogle بإزالة 13 تطبيق تبديل وجوه من متجريهما وقطع العلاقات مع المطورين. وقالت Google إن تطبيقات Android الخمسة التي أشار إليها المكتب حذفت، بينما ذكرت WIRED أن Apple لم تعلق قبل النشر.
أصبحت 13 تطبيقا لتبديل الوجوه بالذكاء الاصطناعي موضوع إشعارات قانونية من سان فرانسيسكو تستهدف Apple وGoogle، بعدما طالب David Chiu، المدعي العام للمدينة، بإزالتها من App Store وGoogle Play.
أفادت WIRED بأن Chiu أرسل الإشعارات يوم الخميس، قائلا إن المنصتين يجب أن توقفا "المساعدة والتحريض" على بيع صور deepfake صريحة وأن تقطعا علاقات الأعمال مع مطوري التطبيقات.
الإشعارات القانونية في سان فرانسيسكو تسمي 13 تطبيق تبديل وجوه
غطت الإشعارات 8 تطبيقات على App Store و5 تطبيقات على Google Play، بحسب WIRED. وقال Chiu لـ WIRED إن إنشاء صور حميمة غير توافقية غير قانوني وضار وغير مقبول، وأضاف أن Apple وGoogle حققتا على الأرجح ملايين الدولارات من رسوم التطبيقات التي تقدم خصائص nudification.
استندت رسائل المدعي العام إلى قانون في California يحظر دعم الخدمات المستخدمة في إنشاء مواد deepfake إباحية. وتستخدم التطبيقات المدفوعات داخل التطبيق، وذكرت WIRED أن الشركتين تحصلان على حصة من تلك المعاملات.
أفادت WIRED بأن مكتب المدعي العام للمدينة اتخذ سابقا إجراءات قانونية ضد 16 موقع deepfake شائعا. وجادلت الرسائل الأحدث بأن Apple وGoogle تتحملان مسؤولية ضمان ألا تستخدم التطبيقات على منصتيهما لتسهيل الإساءة الجنسية.
Google تقول إن تطبيقات Android الخمسة المشار إليها حذفت
قال Dan Jackson، المتحدث باسم Google، لـ WIRED إن Google حذفت مئات التطبيقات التي تتضمن خصائص nudifying بسبب انتهاكات السياسات، بما في ذلك تطبيقات Android الخمسة التي أشار إليها مكتب Chiu. وقال Jackson إن Google Play لا يسمح بالتطبيقات التي تحتوي على محتوى جنسي وإن الشركة تحقق في الانتهاكات المبلغ عنها.
نشرت WIRED التقرير من دون تعليق من Apple قبل الموعد المحدد. وقال التقرير إن لدى Apple وGoogle سياسات للمطورين تحظر المواد الإباحية والإساءة والتحرش، وإن الشركتين أزالتا سابقا عشرات تطبيقات nudify وdeepfake بعد تقارير من باحثين وصحافيين.
قالت WIRED إن التطبيقات المستهدفة كانت تعلن عموما عن نفسها كأدوات لتبديل الوجوه، بينما أصبحت خصائص deepfake الجنسية متاحة عند استخدامها. وذكر التقرير أن موقع أحد التطبيقات أعلن أكثر من 1 مليون تنزيل، بينما ادعى تطبيق مستهدف آخر أنه ينتج مقاطع فيديو مجانية وغير خاضعة للرقابة.
أبحاث وجدت مخاطر مزدوجة الاستخدام في تطبيقات تبديل الوجوه
حدد Tech Transparency Project نحو 100 تطبيق عبر App Store وGoogle Play في يناير وأبريل من هذا العام، وفقا لما أوردته WIRED. وقدرت الأبحاث أن التطبيقات نزلت نحو 480 مليون مرة وربما حققت نحو 120 مليون دولار من الإيرادات المجمعة.
حددت ورقة أولية في مايو لباحثين من Cornell University وGeorgetown University عدد 420 تطبيقا عاما لتبديل الوجوه على متجري Apple وGoogle. واختبر الباحثون 155 منها ووجدوا أن 70% يمكن استخدامها لإنشاء عمليات تبديل وجوه مع صور عارية من دون تدابير أمان تمنع الناتج.
وصف باحثو Cornell وGeorgetown التطبيقات بأنها أدوات مزدوجة الاستخدام يمكن أن تبدو عادية بينما تظل قادرة على إنشاء محتوى ضار. وقال المدعي العام للمدينة لـ WIRED إن مكتبه يريد من Apple وGoogle إزالة التطبيقات وتعزيز أنظمة الفحص قبل وصول أدوات مشابهة إلى المتاجر.
ربط المكتب الإشعارات بحملة أوسع ضد الصور الحميمة غير التوافقية.
لم يتضمن تقرير WIRED رد Apple أو موعدا نهائيا لإزالة التطبيقات من المتاجر أو جدولا منفصلا للامتثال من Google أو أي دعوى قضائية مرفوعة ضد Apple أو Google.
