أكدت شركة ميتا الجمعة أنها تقوم بتقييم متى يجب اعتبار كلمة “صهيوني” بمثابة خطاب كراهية، مع تصاعد معاداة السامية عبر الإنترنت وسط الحرب الدائرة بين إسرائيل وحماس.
وأكدت شركة التكنولوجيا العملاقة التي تملك فيسبوك وإنستغرام ما نشرته صحيفة “واشنطن بوست” من أنها تفكر في توسيع حظر خطاب الكراهية الخاص بها ليشمل المزيد من استخدامات هذا المصطلح، خاصة عندما يبدو بديلا سيئا لكلمة “يهود” أو “إسرائيليين”.
وقال متحدث باسم ميتا ردا على استفسار لوكالة فرانس برس “بالنظر إلى تزايد الخطاب العام المستقطب بسبب الأحداث في الشرق الأوسط، نعتقد أنه من المهم تقييم توجيهاتنا لمراجعة المنشورات التي تستخدم مصطلح صهيوني”.
وأضاف المتحدث: “بينما يشير مصطلح صهيوني في كثير من الأحيان إلى عقيدة الشخص، إلا أنه يمكن استخدامه أيضا للإشارة إلى الشعب اليهودي أو الإسرائيلي”.
وتحظر سياسة ميتا التهجم على الأشخاص على أساس الدين أو الجنسية، ما يعني أن الشركة تواجه التحدي المتمثل في التمييز عندما تشير كلمة “صهيوني” إلى عقيدة أو مجموعة من الناس.
وتعمل ميتا على تحسين كيفية تطبيق حظر خطاب الكراهية على المشاركات التي تحتوي هذه الكلمة، وفقا للشركة.
وقالت الباحثة والمستشارة في منظمة العفو الدولية علياء الغصين إنه يجب على عملاق وسائل التواصل الاجتماعي أن يكون حذرا من ألا تكون سياسات المحتوى متحيزة ضد الأصوات المؤيدة للفلسطينيين التي تتحدث علنا ضد الحرب.
وأضافت الغصين في بيان أن فرض حظر شامل على انتقاد “الصهيونية” أو “الصهاينة” على منصات ميتا من شأنه أن يقيّد حرية التعبير لأولئك الذين يحاولون لفت الانتباه إلى “الجرائم الفظيعة التي ترتكبها القوات الإسرائيلية في غزة”.
وبالنسبة إلى المراجعة الداخلية التي تجريها ميتا، أشارت الغصين إلى “أن هذه المراجعة المقترحة مثيرة للقلق بشكل خاص بالنظر إلى الوضع السيء الحالي في قطاع غزة”.
تراجع “ميتا” لمحتوى واقعتين محددتين في حرب غزة
قال مجلس الرقابة المستقل بشركة “ميتا”، الخميس، إنه سيراجع طريقة تعامل الشركة مع المحتوى العنيف على منصتي التواصل الاجتماعي الخاصتين بها، “فيسبوك” و”إنستغرام”، في واقعتين تتعلقان باحتجاز الرهائن والقصف، في الصراع الدائر بين إسرائيل وحركة حماس.
وستستخدم آلية مراجعة سريعة جديدة أعلن عنها في وقت سابق من العام الجاري لأول مرة في هاتين القضيتين.
ويتعين على مجلس الإدارة اتخاذ قرارات في غضون 30 يوما، بعد أن كان يجري مداولات لعدة أشهر بشأن القضايا التي ينظر فيها.
وجاء قرار المجلس بدراسة هاتين القضيتين، في وقت انتشر به على منصات وسائل التواصل الاجتماعي “محتوى عنيف ومضلل ويحض على الكراهية”، في الحرب التي اندلعت قبل شهرين بين إسرائيل وحماس.
وبعد هجوم حماس على إسرائيل في 7 أكتوبر الماضي، خفضت “ميتا” مستوى إزالة المحتوى الذي قد يكون ضارا، ويشمل منشورات تحدد بوضوح هوية الرهائن الذين احتجزتهم الحركة في قطاع غزة.
وواجهت الشركة أيضا اتهامات بأنها تحد من التعبير عن الدعم للفلسطينيين، الذين يعيشون تحت القصف الإسرائيلي العنيف في غزة.
وقال المجلس إنه “في واقعة سيراجعها، حذفت (ميتا) مقطع فيديو على (إنستغرام)، يظهر ما نجم عن انفجار في مستشفى الشفاء بمدينة غزة، بما في ذلك أطفال قتلى وجرحى”.
وأضاف أن تعليق المقطع كان يقول إن إسرائيل قصفت المستشفى، وفي المقابل تتهم إسرائيل فصائل مسلحة بالتسبب في الهجوم عن طريق الخطأ.
وأعادت “ميتا” المحتوى، مع تحذير على الشاشة بعد أن اختار المجلس الواقعة للمراجعة.
وتتعلق الواقعة الأخرى بمقطع فيديو على “فيسبوك”، يظهر امرأة تتوسل لخاطفيها ألا يقتلوها أثناء اقتيادها على دراجة نارية.
وقال المجلس إن تعليقا يحث الناس على “نشر الوعي بشأن ما جرى في السابع من أكتوبر”.
وحذفت “ميتا” الفيديو في البداية، لكنها تراجعت بعد أسابيع ردا على الاتجاهات المتعلقة بكيفية مشاركة مقاطع فيديو خطف الرهائن، حسب المجلس.
وأوضح المجلس أنه “كما هو الحال مع الفيديو في الواقعة الأولى، تمت إعادته مع تحذير على الشاشة”.
وقالت “ميتا” في بيان إنها رحبت بمراجعة مجلس الرقابة، وتعهدت بتطبيق قراره في جميع الحالات.
كيف أشعلت غزة حرب الخوارزميات
اشتكى مستخدمون لمواقع التواصل الاجتماعي من حذف منشوراتهم التي تحدثوا بها عن حرب إسرائيل في قطاع غزة، وسط تساؤلات عن طرق هذه المنصات في إدارة ومراقبة المحتوى المنشور، وسبل التعاطي معها، وقدرة المستخدمين على التحايل عليها، خاصة مع انتشار سيل من المنشورات ومقاطع الفيديو المضللة.
الملاحظات الأبرز كانت متعلقة بشركة ميتا المالكة لفيسبوك وإنستغرام، وبدرجة أقل منصة إكس (تويتر سابقا)، بعد أن أقدمت هذه المنصات على حذف ملايين المنشورات الخاصة بما يجري في قطاع غزة، مرجعة ذلك لقوانين تتعلق بالمحتوى، وقدمت تحذيرات من نشر مواد تعتبرها تحرض على الكراهية أو العنف، مستخدمة ما يعرف بالخوارزميات لتنفيذ هذه السياسة.
وبحسب وليد حجاج خبير أمن معلومات عضو اللجنة الرقمية والبنية المعلوماتية بالمجلس الأعلى للثقافة في مصر، فإن التحكم في المحتوى يتم من خلال مجموعة من البرمجيات تحتوي على معادلات رياضية تقوم بوظائف معينة سواء للمنصة أو المستخدم، بحسب المجال المستخدمة فيه وهي ما تعرف بالخوارزميات.
وأضاف حجاج أن هذه الوظائف تتغير من وقت لآخر بحسب تطوير الخوارزميات والأدوات المستخدمة والتي منها مسألة التعرف على المحتوى.
خبير أمن المعلومات أوضح طرق عمل الخوارزميات:
عند تنصيب أي برنامج يعرض عليك شروطا للاستخدام وفق آلية تخضع لاتفاقية الأحكام والشروط التي يوافق عليها المستخدم قبل إنشاء الحساب عادة، وغالبا ما يضغط عليها المستخدمون دون قراءتها.
يغذى الذكاء الاصطناعي بالخوارزميات التي تعطيه القدرة على التعرف على المحتوى.
تستخدم إدارة المنصة آليات الخوارزميات للتحكم في المنشورات بحذفها أو حذف الصور، وفق ما يلائم سياساتها.
يمكن التحايل على الخوارزميات من خلال إضافة نوع من التشويش على الصور حتى يفشل برنامج الذكاء الاصطناعي في التعرف عليها.
التحايل على المنشورات يجري من خلال كتابة الأسماء مجزأة، أو إضافة علامات ترقيم لها مثل علامة النجمة أو غيرها.
بعض وسائل التحايل تنجح وبعضها لا تنجح لكن مع مرور الوقت يتم اكتشاف هذه الوسائل والتعامل معها.
عند فشل الذكاء الاصطناعي في التعرف على المنشور غير الملائم لسياسات المنصة، يستطيع الموظفون المختصون بتلقي البلاغات كشفها والتعامل معها.
التيارات المرتبطة بإسرائيل قدمت آلاف البلاغات ضد المنشورات المؤيدة لحركة حماس والمناهضة لإسرائيل.
الذكاء الاصطناعي يتعلم مع مرور الوقت ويستطيع التعرف وتطوير نفسه، وقد تجد منشورات لم يتم حذفها لكن المنصة تعود بعد مدة لحذفها مرة أخرى.
وأكد حجاج أن مصطلح حرب الخوارزميات يقصد به حرب المنشورات على مواقع التواصل الاجتماعي، فالمنصة لديها أدوات لحذف المنشورات والمستخدمون لديهم وسائل للهروب من هذه الأدوات وهكذا.
من جانبه، يؤكد استشاري تقنية المعلومات والتحول الرقمي، إسلام غانم، أن منصات التواصل تنفذ سياساتها من خلال قائمة لديها توضع بها كلمات معينة، وحال ظهور منشورات تحتوي على هذه الكلمات فإنها تتخذ إجراءات معها.
وأوضح غانم أن آلية المراقبة لدى هذه المنصات تقوم على الآتي:
الخوارزميات عبارة عن أكواد تتحكم في قوة ظهور المنشور أو إخفائه نهائيا.
عند اهتمامك بمجال معين من خلال التفاعل مع منشوراته ترصد الأكواد هذا التفاعل، وتُظهر لك منشورات مرتبطة بهذا المجال.
تعمل هذه الخوارزميات من خلال كلمات مفتاحية وصور يتعرف عليها الذكاء الاصطناعي وتحتوي على كلمات مثل (غزة، فلسطين، إسرائيل، داعش) وغيرها.
حال ظهور هذه الكلمات المفتاحية بما يخالف سياسة المنصة تتخذ إجراءات آلية، تبدأ بتقليل التفاعل مع المنشورات، مرورا بإيقاف الحساب المؤقت، وانتهاء بإيقاف الحساب نهائيا.
مع اشتعال الحرب في قطاع غزة أضيفت كلمات متعلقة بهذا الصراع لتزيد حصيلة قائمة الكلمات المفتاحية.
أحيانا لا يتم حذف المنشور ولكن يمنع نشره.
ظهرت نماذج للتحايل على طرق عمل الخوارزميات الآلية، ومن أجل ذلك أفادت شركة ميتا بأنها تعتمد على موظفين يراجعون المحتويات العربية والعبرية الخاصة بتطورات الحرب في غزة.
في حال نجاح التحايل على الخوارزميات من خلال منشورات تخالف سياسة المنصة يحذف فريق الموظفين هذه المنشورات خاصة عندما تكون نسبة انتشارها عالية.
عند حذف المنشور يمكن لصاحبه الاعتراض من خلال مراسلة الشركة، لكن حال ثبوت تعارض المنشور مع سياسة المنصة أو الشركة يتم إيقاف الحساب جزئيا أو كليا.