شركة Apple تحظر التطبيقات التي تنتج صوراً عارية باستخدام الذكاء الاصطناعي

a robotic hand that is holding a laptop — Bernd 📷 Dittrich / Unsplash

قامت شركة Apple بتحديث قواعد مراجعة التطبيقات في متجر App Store لفرض حظر جديد على البرمجيات التي تستخدم الذكاء الاصطناعي لإنشاء صور مزيفة، وذلك بهدف منع إنتاج ومشاركة الصور العارية أو ذات المحتوى الجنسي دون موافقة الأشخاص.

تفرض القواعد المحدثة، وتحديداً القاعدة رقم 1.2 المتعلقة بمراقبة المحتوى، مسؤوليات جديدة على التطبيقات التي تستضيف محتوى ينشئه المستخدمون. يجب على المطورين منع الصور ذات المحتوى الجنسي التي تم إنشاؤها دون إذن بشكل استباقي وإزالة هذا النوع من المحتوى عند اكتشافه، حيث لن يكون كافياً للمطورين التحرك فقط بعد تلقي الشكاوى. وقد أعلنت Apple أنها قد تزيل المطورين الذين لا يطبقون تدابير أمنية كافية أو لا يقومون بالتصحيحات اللازمة رغم بلاغات الانتهاك من متجر App Store.

كما تضمنت التحديثات إجراءات ضد محاولات تضليل نظام المراجعة، حيث تحظر القاعدة رقم 2.5.19 إضافة وظائف مختلفة للتطبيق بعد الحصول على الموافقة. يستهدف هذا الإجراء التطبيقات التي تبدو غير ضارة في البداية ثم تكتسب ميزات تظهر الأشخاص وكأن ملابسهم منزوعة باستخدام الذكاء الاصطناعي، وهو أسلوب يُعرف باسم الطعم والتبديل. وفي حال إضافة ميزات لم تكن موجودة في النسخة المعتمدة، قد تقوم Apple بإزالة التطبيق وإنهاء عضوية المطور في برنامج Apple Developer Program.

وفيما يخص سلامة المتجر، نصت التغييرات في القسم الخامس على إزالة التطبيقات التي تحتوي على مواد تتضمن الاستغلال الجنسي للأطفال أو تسهل الاتجار بالبشر، مع منع تقديم هذه التطبيقات عبر قنوات توزيع بديلة.

تأتي هذه الخطوات بعد انتقادات وجهت لشركة Apple بسبب المحتوى الجنسي المزيف المنتج بالذكاء الاصطناعي، بما في ذلك ردود الفعل تجاه أداة Grok التابعة لمنصة X. وأشارت الشركة في رد وجهته إلى أعضاء في مجلس الشيواد الأمريكي إلى أنها حذرت من إمكانية إزالة Grok من المتجر. كما أكدت Apple إزالة ثلاثة تطبيقات من أصل 13 تطبيقاً طلب مدعي مدينة سان فرانسيسكو إزالتها لقدرتها على إنشاء صور عارية دون إذن، وبدأت عملية إغلاق حسابات مطوريها.

وكشفت Apple عن بيانات مراجعة التطبيقات، حيث منعت أكثر من 150 ألف تطبيق يعاني من مشكلات أمنية من الوصول إلى المستخدمين خلال العام الماضي، كما أنهت عضوية أكثر من 193 ألف حساب مطور بسبب أنشطة الاحتيال وإساءة الاستخدام.