“فقاعات التصفية” وعنصريّة خوارزميّات مواقع التواصل الاجتماعيّ

سلطت دراسة جديدة الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي من خلال تحليل دقة خوارزميات الكشف عن خطاب الكراهية على تويتر واكتشاف أن هذه الخوارزميات كانت أقل دقة عند اكتشاف خطاب الكراهية ضد النساء والملونين.

بعد استيلاء الملياردير الأمريكي إيلون ماسك على منصة “تويتر” ، تزايدت الانتقادات بزعم زيادة محتوى الكراهية على المنصة ، كما لم تُستثن المنصات الأخرى من مثل هذه المزاعم ، الأمر الذي أدى إلى فتح باب النقاش حول ما يلي- تسمى “العنصرية الخوارزمية” واستغلالها من قبل المنصة من أجل تعزيز القضايا. يتفق مع سياساته ويحييد قضايا أخرى.

أحدث الاستخدام الواسع لمنصات التواصل الاجتماعي ثورة في طريقة تفاعل الناس مع بعضهم البعض ، حيث مكنت وسائل التواصل الاجتماعي الناس من التواصل مع الآخرين من جميع أنحاء العالم ، والمشاركة في المناقشات ، ومشاركة الأفكار ، ومواكبة الأخبار والمعلومات. كما تم انتقادها لكونها أرضًا خصبة للعنصرية وخطاب الكراهية ، حيث تلعب خوارزميات وسائل التواصل الاجتماعي دورًا كبيرًا في إدامة المحتوى العنصري وتضخيمه.

يعتبر انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي قضية خطيرة تتطلب اهتمامًا وعملًا من قبل شركات التواصل الاجتماعي ، وفقًا للباحثين ، فالخوارزميات التي تقدم توصيات المحتوى على منصات التواصل الاجتماعي ليست محايدة وتعكس تحيزات وقيم صناعها.

وفقًا للخبراء ، فإن برمجة خوارزميات الوسائط الاجتماعية مجسدة لتزويد المستخدمين بمحتوى مخصص بناءً على سلوكهم عبر الإنترنت ، بما في ذلك الإعجابات والتعليقات وسجل البحث ، ويهدف هذا المحتوى المخصص إلى الحفاظ على تفاعل المستخدمين مع النظام الأساسي ، وزيادة الوقت الذي يقضيه في النظام الأساسي وتدر إيرادات. في نهاية المطاف ، بالنسبة لشركة وسائل التواصل الاجتماعي ، أثبتت الخوارزميات التي تقف وراء هذه التوصيات أنها متحيزة وتمييزية ضد مجموعات معينة من الأشخاص ، مما يديم المحتوى العنصري والضار.

إحدى الدراسات التي تسلط الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي هي “التمييز من خلال التحسين: كيف يمكن أن يؤدي تسليم الإعلانات على Facebook إلى نتائج منحرفة” بواسطة Keithin Tuner. حللت الدراسة تسليم إعلانات Facebook ووجدت أن خوارزميات النظام تظهر بشكل غير متناسب الوظائف و عرض إعلانات على المستخدمين البيض ، بينما عُرض على المستخدمين السود واللاتينيين إعلانات لخدمات إصلاح الائتمان وسندات الكفالة. وجدت الدراسة أيضًا أن المعلنين الذين يستخدمون نظام عرض الإعلانات على Facebook يمكنهم استهداف الإعلانات على أساس العرق والجنس والعوامل التمييزية الأخرى ، مما يجعل العنصرية المنهجية دائمة.

في دراسة أخرى تسلط الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي ، بعنوان “التعرض لأخبار وآراء مختلفة إيديولوجيًا على Facebook” ، قامت الخوارزمية بتحليل موجز أخبار Facebook ووجدت أن خوارزمية المنصة تروج للمحتوى بما يتماشى مع معتقدات المستخدمين وقيمهم الحالية. يؤدي هذا إلى تأثير “فقاعة التصفية” الذي يعزز التحيزات الموجودة ويمنع التعرض لوجهات نظر مختلفة. وجدت الدراسة أيضًا أن تأثير فقاعة التصفية هذا يؤثر بشكل غير متناسب على المستخدمين الذين يعتبرون محافظين ، مما يؤدي إلى عدم التعرض لمحتوى متنوع أيديولوجيًا.

سلطت دراسة جديدة الضوء على انتشار العنصرية في خوارزميات وسائل التواصل الاجتماعي من خلال تحليل دقة خوارزميات الكشف عن خطاب الكراهية على تويتر ووجدت أن هذه الخوارزميات كانت أقل دقة في الكشف عن خطاب الكراهية الموجه إلى النساء وذوي البشرة الملونة ، وخلصت إلى استنتاج أن هذه الخوارزميات غالبًا ما تُصنف على أنها كلام يحض على الكراهية.

وبحسب المسؤولين ، فإن هذه الدراسات تظهر طبيعة العنصرية في خوارزميات وسائل التواصل الاجتماعي وافتقارها إلى الحيادية ، إذ غالبًا ما تكون هذه التحيزات والقيم غير مرئية ومخفية خلف خوارزميات معقدة يصعب فهمها أو تحليلها.

يدعو خبراء وسائل التواصل الاجتماعي إلى زيادة الاستثمار في ممارسات أكثر تنوعًا وشمولية لضمان تمثيل الفرق المسؤولة عن بناء الخوارزميات وصيانتها للتركيبة السكانية المتنوعة باستخدام منصاتهم ، مع دمج مجموعة واسعة من وجهات النظر والخبرات في خوارزميات صنع القرار.