بأقلام الكُتّابمقالات وآراء

الخوارزميات وخطاب الكراهية : كيف تُغذي التكنولوجيا الرقمية الاستقطاب

الدكتور/ عبدالله محمد أطبيقه

قسم الإعلام جامعة سرت – دولة ليبيا

 

 

في العصر الرقمي الحديث، أصبحت منصات التواصل الاجتماعي الساحة الرئيسة للنقاش العام وتشكيل الرأي العام. ورغم الوعود الكبرى التي قدمتها التكنولوجيا في تقريب المسافات وتسهيل التواصل، إلا أنها كشفت بمرور الوقت عن وجه مظلم يتمثل في انتشار خطاب الكراهية، وتصاعد حدة الاستقطاب المجتمعي والسياسي.
ولا يقتصر هذا الأمر على سلوكيات المستخدمين فحسب، بل تلعب الخوارزميات دورًا جوهريًا ومحوريًا في تسريع وتضخيم هذا الخطاب.

اقتصاد الانتباه : لماذا تفضل الخوارزميات الغضب ؟..

تعمل معظم منصات التواصل الاجتماعي وفق نموذج اقتصادي قائم على الإعلانات، حيث يُعد “الانتباه” هو العملة الأساسية.
وكلما قضى المستخدم وقتًا أطول على المنصة، زادت عائدات الشركة.
ولتحقيق هذا الهدف، تُصمم خوارزميات التوصية والترتيب لتعظيم التفاعل (Engagement).

التأثير العاطفي :

أظهرت الدراسات النفسية والتقنية أن المحتوى الذي يثير المشاعر السلبية القوية مثل الغضب، والخوف، والاستياء ، يحفز المستخدمين على التفاعل بشكل أسرع وأكبر مقارنة بالمحتوى الهادئ أو الإيجابي.

حلقات التغذية الراجعة :

عندما يتفاعل مستخدم مع منشور يحمل طابعًا عدائيًا أو تحريضيًا، تسجل الخوارزمية هذا الاهتمام وتعمل على تغذيته بالمزيد من المحتوى المشابه، مما يقود المستخدم تدريجيًا إلى غرف الصدى حيث تتبلور قناعات متطرفة.

التحديات التقنية في رصد الكراهية..

تواجه شركات التكنولوجيا صعوبات بالغة في التعامل مع خطاب الكراهية باستخدام الذكاء الاصطناعي وأنظمة التصفية الآلية لأسباب عدة :

غياب السياق :

يفتقر الذكاء الاصطناعي في كثير من الأحيان إلى فهم السخرية، أو النكت، أو التعبير المجازي، أو الخلفيات الثقافية المحلية، مما يودي إما إلى حذف محتوى مشروع (رقابة زائدة) أو ترك محتوى مسيء للانتشار.

تطور لغة المتطرفين :

يلجأ مروجو خطاب الكراهية باستمرار إلى تغيير الكلمات، واستخدام الرموز، والمصطلحات المبتكرة للتحايل على الفلاتر الخوارزمية الروبوتية.

معضلة حرية التعبير :

تقع المنصات الرقمية في منطقة رمادية دقيقة بين ضرورة حماية المجتمع من الأذى ومحاربة الكراهية، وبين الاتهامات المستمرة بانتهاك حرية التعبير وتقييد النقاشات السياسية والاجتماعية المشروعة.

نحو حلول مستدامة لتنظيم المحتوى الرقمي..

لم تعد معالجة هذه الأزمة تقتصر على النوايا الحسنة لشركات التكنولوجيا، بل تتطلب استراتيجيات شاملة تتضمن :

الشفافية الخوارزمية :

إجبار الشركات على كشف طبيعة عمل خوارزمياتها وكيفية اتخاذ قرارات التوصية والترتيب، مما يسمح للباحثين والمشرعين بتقييم تأثيرها المجتمعي.

التحول نحو مقاييس الجودة :

تعديل النماذج الخوارزمية بحيث لا تقيس “حجم التفاعل” فقط، بل تقيس أيضًا “جودة النقاش وموثوقية المصادر”، مع تقليل ظهور المحتوى الاستقطابي حتى لو حظي بنقرات كثيرة.

التنظيم القانوني الرشيد :

سن تشريعات دولية ومحلية (مثل قانون الخدمات الرقمية في الاتحاد الأوروبي) تفرض مسؤولية قانونية على المنصات الكبرى للحد من انتشار المحتوى الضار وخطاب الكراهية دون المساس بالحقوق الأساسية للمستخدمين.

تمثل الخوارزميات انعكاساً للبيانات البشرية والأنظمة الاقتصادية التي صممتها..

وإذا كانت التكنولوجيا قد ساهمت في تضخيم خطاب الكراهية، فإن إعادة هندستها لتخدم المصلحة العامة أصبحت ضرورة ملحة لحماية النسيج الاجتماعي والديمقراطيات الحديثة من مخاطر التفتت والاستقطاب.

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى