د. إيمان بشير ابوكبدة
لسنوات، عندما أطلقت ميتا ميزات جديدة لإنستغرام وواتساب وفيسبوك، قامت فرق من المراجعين بتقييم المخاطر المحتملة: هل يمكن أن تنتهك خصوصية المستخدمين؟ هل يمكن أن تُلحق الضرر بالقاصرين؟ هل يمكن أن تُفاقم انتشار المحتوى المُضلّل أو السام؟
حتى وقت قريب، كانت المراجعات المعروفة داخل ميتا باسم مراجعات الخصوصية والنزاهة تُجرى بالكامل تقريبًا بواسطة مقيمين بشريين.
لكن الآن، وفقًا لوثائق داخلية للشركة حصلت عليها NPR، سيتم قريبًا أتمتة ما يصل إلى 90% من جميع تقييمات المخاطر.
في الممارسة العملية، هذا يعني أن أشياء مثل التحديثات الحرجة لخوارزميات ميتا، وميزات الأمان الجديدة والتغييرات في كيفية السماح بمشاركة المحتوى عبر منصات الشركة سيتم الموافقة عليها في الغالب بواسطة نظام مدعوم بالذكاء الاصطناعي – لم يعد خاضعًا للتدقيق من قبل الموظفين المكلفين بمناقشة كيف يمكن أن يؤدي تغيير المنصة إلى عواقب غير متوقعة أو إساءة استخدامها.
داخل ميتا، يُنظر إلى هذا التغيير على أنه فوز لمطوري المنتجات، إذ سيتمكنون الآن من إصدار تحديثات التطبيقات وميزاتها بسرعة أكبر. لكن موظفي ميتا الحاليين والسابقين يخشون أن يكون ثمن هذا التوجه الجديد للأتمتة هو السماح للذكاء الاصطناعي باتخاذ قرارات دقيقة حول كيفية تسبب تطبيقات ميتا في أضرار حقيقية.
قال مسؤول تنفيذي سابق في ميتا: “بما أن هذه العملية تعني عمليًا إطلاق المزيد من المنتجات بشكل أسرع، مع تدقيق ومعارضة أقل صرامة، فهذا يعني أنك تنشئ مخاطر أعلى”. وأضاف: “من غير المرجح منع الآثار الخارجية السلبية لتغييرات المنتجات قبل أن تبدأ في التسبب بمشاكل في العالم”.
وقالت شركة ميتا في بيان إنها استثمرت مليارات الدولارات لدعم خصوصية المستخدمين.
منذ عام 2012، تخضع شركة ميتا لمراقبة لجنة التجارة الفيدرالية بعد أن توصلت الوكالة إلى اتفاق مع الشركة بشأن كيفية تعاملها مع المعلومات الشخصية للمستخدمين. ونتيجةً لذلك، أصبحت مراجعات خصوصية المنتجات إلزامية، وفقًا لموظفين حاليين وسابقين في ميتا.
وقللت شركة ميتا من المخاوف بشأن تسبب النظام الجديد في إدخال مشاكل إلى العالم، مشيرة إلى أنها تقوم بمراجعة القرارات التي تتخذها الأنظمة الآلية للمشاريع التي لا يتم تقييمها من قبل البشر.
تشير وثائق ميتا إلى أن مستخدميها في الاتحاد الأوروبي قد يكونون بمنأى إلى حد ما عن هذه التغييرات. وينص إعلان داخلي على أن اتخاذ القرارات والإشراف على المنتجات وبيانات المستخدمين في الاتحاد الأوروبي سيبقى من اختصاص المقر الأوروبي لشركة ميتا في أيرلندا. ويضع الاتحاد الأوروبي لوائح تحكم المنصات الإلكترونية، بما في ذلك قانون الخدمات الرقمية، الذي يلزم الشركات، بما فيها ميتا، بمراقبة منصاتها بشكل أكثر صرامة وحماية المستخدمين من المحتوى الضار.
