يمتلك Facebook ما يصل إلى ثلاثة مليارات مستخدم على منصاته المختلفة، ولا يستخدم الكثير من الناس اللغة الإنجليزية كلغة أساسية لاستخدام هذه المنصات، ما أظهر مدى فشل المنصة في التعامل مع اللغات الأجنبية وفقا لما نقله موقع asumetech.
كشفت الأبحاث الداخلية التي أجريت داخل فيسبوك نفسه، والتي تم الكشف عنها ضمن تسريب “ملفات فيسبوك” عن ظهور خطاب كراهية ومحتوى مضلل بلغات مختلفة، دون حظر من قبل الشركة.
وتدعم منصة Facebook أكثر من 100 لغة عالمية، لكن فريق مراقبة المحتوى التابع لها لا يعرف بالضرورة كل هذه اللغات.
كشفت الملفات المسربة أن المنصة فشلت في التعرف على خطاب الكراهية في باكستان، بسبب اعتمادها على لغة الباشتو المحلية، وبشكل عام أظهرت الملفات عدم قدرة النظام الأساسي على مواجهة المحتوى الضار المشترك بناءً على اللغات الأجنبية.
كما أشارت التسريبات، إن النظام الأساسي غير مُجهز مسبقًا لتتبع الكلام الذي يحض على الكراهية لبعض اللغات، ابدأ فورًا إذا كانت هناك مشكلة في اللغة أو الدولة التي تتحدثها وتم تدريب تقنيات الذكاء الاصطناعي على التعرف على المحتوى المسيء في الوقت الفعلى.
ولم يكن Facebook قادرًا على إدارة اللغات، حيث كشفت الملفات المسربة أيضًا عن قدرات تدريب الذكاء الاصطناعي للغات ذات الأولوية، مثل لغات الأورومو والأمهرية المستخدمة في إثيوبيا بسبب الحروب الأهلية فى البلاد.
استثمر فيسبوك 13مليار دولار في تحسين قدرة النظام الأساسي على إدارة اللغات لأغراض السلامة والأمن، من عام 2016 إلى الوقت الحاضر. ربما يكون هذا المبلغ صغيرًا مقارنة بالإيرادات السنوية للشركة، وصلت عائدات فيسبوك فى عام 2020 إلى 85 مليار دولار.
ونشأت مشاكل إدارة اللغة في بلد مثل الهند، التي لديها 800 مليون مستخدم متصل بالإنترنت، فشلت الشركة مرارًا وتكرارًا في تحديد محتوى يحض على الكراهية باللغات الهندية المحلية.
نفس المشاكل تتكرر فى الشرق الأوسط، لأن فيسبوك يعتمد على فريق من مراجعي المحتوى في الدار البيضاء بالمغرب، على الرغم من أن اللغة العربية هي لغة، إلا أن الاختلاف بين لهجاتها كبير جدًا.
واعتمد Facebook أيضًا على فريق من الموظفين في مدينة إيسن بألمانيا، والذي يعمل أيضًا على مراجعة المحتوى باللغة العربية.
يُذكر أنه تم سحب جميع المعلومات المذكورة من ملفات الشركة المسربة، وتم تسريبه من مدير المشروع السابق لفريق الأمن المدنى فرانسيس هوجن، ووصل بالفعل على عدة منصات إخبارية.