لماذا تواجه نماذج الذكاء الاصطناعي صعوبة في اكتشاف خطاب الكراهية عبر الإنترنت؟

إن خطاب الكراهية الذي كان يتم تداوله شخصيًا ينتقل الآن إلى مسافة أبعد وأسرع عبر حسابات مجهولة على الإنترنت خلف الشاشة.

كما تحتفل الأمم المتحدة اليوم العالمي وفي إطار مكافحة خطاب الكراهية في 18 يونيو/حزيران، حذر الأمين العام للأمم المتحدة أنطونيو غوتيريس من أن المنصات الاجتماعية تعمل على تضخيم التهديد.

مع تزايد تكليف الذكاء الاصطناعي بمهمة اكتشاف خطاب الكراهية على الإنترنت وإزالته، تبحث الجزيرة في مواضع قصور هذه الأنظمة مقارنة بالحكم البشري.

كيف يتم تعريف خطاب الكراهية؟

وفقًا للأمم المتحدة، يشمل خطاب الكراهية أي اتصال – شفهيًا أو كتابيًا أو سلوكيًا – ينطوي على تمييز أو يحرض على العنف تجاه شخص أو مجموعة.

تشير الأمم المتحدة إلى أن خطاب الكراهية يستهدف هوية الشخص الفعلية أو المتصورة، أو عرقه، أو أصله العرقي، أو دينه، أو جنسه، أو توجهه الجنسي، أو إعاقته. ولا يقتصر الأمر على الكلمات، حيث أشارت الأمم المتحدة إلى أنها يمكن أن تأخذ أيضًا شكل صور ورسوم كاريكاتورية وإيماءات وحتى أشياء.

كم عدد الأشخاص الذين يواجهون خطاب الكراهية عبر الإنترنت؟

بحسب أ 2023 وفي استطلاع مشترك شمل 8000 شخص في 16 دولة أجرته شركة الاستطلاع إبسوس ومنظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو)، واجه أكثر من ثلثي مستخدمي الإنترنت خطاب الكراهية عبر الإنترنت.

ووجد الاستطلاع أيضًا أن 33% من الأشخاص يعتقدون أن المثليين تعرضوا لمعظم حالات خطاب الكراهية، تليها الأقليات العرقية والعنصرية (28%) والنساء (18%).

قامت شركة Meta، التي تمتلك فيسبوك، بإزالة عدد أقل من المنشورات التي تحض على الكراهية منذ عام 2023. وفي الربع الأخير من عام 2025، أزالت الشركة 1.3 مليون مشاركة من إنستغرام و1.3 مليون من فيسبوك، مقارنة بـ 7.4 مليون تمت إزالتها من إنستغرام و5.8 مليون من فيسبوك في الربع الأخير من عام 2024.

جاء ذلك مع تحول الشركة عن الكشف الاستباقي لخطاب الكراهية والاعتماد بشكل أكبر على المستخدمين للإبلاغ عن اللقاءات.

ومن ناحية أخرى، تيك توك قال لقد أزالت 96.3 بالمائة من جميع خطابات ومحتوى الكراهية في الربع الرابع من عام 2025 قبل الإبلاغ عنها.

تكتشف نماذج الذكاء الاصطناعي خطاب الكراهية بشكل مختلف

لاكتشاف ومكافحة انتشار خطاب الكراهية عبر الإنترنت، تحولت شركات وسائل التواصل الاجتماعي بشكل متزايد إلى الذكاء الاصطناعي، باستخدام أنظمة الإشراف على المحتوى المدعومة بنماذج اللغة الكبيرة (LLMs) التي تَعِد بأتمتة تصفية المحتوى عبر كميات هائلة من الرسائل.

بشكل عام، تستخدم هذه الأنظمة مجموعات بيانات مصنفة ونماذج لغوية مدربة مسبقًا لاكتشاف اللغة المسيئة. ثم يقومون بعد ذلك بتطبيق القواعد أو الحدود الدنيا لتحديد ما إذا كان المحتوى يحض على الكراهية أو ينتهك سياسات الشركة.

أ 2025 يذاكر وقد وجد باحثون في جامعة بنسلفانيا أن هذه النماذج تختلف بشكل كبير في كيفية تحديد وتصنيف خطاب الكراهية، مع وجود تناقضات كبيرة عبر الأنظمة والمجموعات الديموغرافية، مما يثير المخاوف بشأن التحيز والحماية غير المتكافئة عبر الإنترنت.

قامت الدراسة بتقييم سبعة أنظمة مراقبة تعمل بالذكاء الاصطناعي – بما في ذلك نماذج من OpenAI، وAnthropic، وDeepSeek، وMistral، وGoogle – ووجدت اختلافات كبيرة في كيفية تحديد خطاب الكراهية وتسجيله عبر الفئات.

يوضح هذا الرسم البياني كيف سجلت أنظمة الإشراف المختلفة للذكاء الاصطناعي مدى خطورة خطاب الكراهية الذي يستهدف نفس المجموعات على مقياس من 0 إلى 1. تشير القيم الأعلى إلى أن النموذج حكم على المحتوى بأنه أكثر كراهية.

غالبًا ما يتم تجميع نقطة نهاية الإشراف على ميسترال بالقرب من 1، مما يعني أنها تصنف العديد من الأمثلة على أنها بغيضة للغاية بغض النظر عن المجموعة المستهدفة.

تميل نقطة نهاية الاعتدال في OpenAI إلى إنتاج درجات أقل بكثير للعديد من الفئات، وفي بعض الأحيان أقل من نصف النتيجة التي تحددها النماذج الأخرى.

وعلى حد تعبير مؤلفي الدراسة، “إذا أدى نظامان إلى نتائج مختلفة لنفس الجزء من المحتوى – مع الإشارة إليه على أنه خطاب كراهية في حالة واحدة ولكن ليس في حالة أخرى – فإن ذلك يقوض شرعية عملية الاعتدال”.

القيود المفروضة على كشف خطاب الكراهية بالذكاء الاصطناعي

في حين أن أنظمة الذكاء الاصطناعي قادرة على اكتشاف خطاب الكراهية الصريح ــ على سبيل المثال، عندما يتم استخدام الألفاظ النابية والافتراءات ضد مجموعة معينة ــ فإن الأمثلة الأكثر دقة تتجاهلها ماجستير إدارة الأعمال.

“أحد الأمثلة الصعبة هو حالة خطاب الكراهية الضمني، والذي غالبًا ما لا يتم اكتشافه على هذا النحو لأنه لا يحتوي على ذكر للإهانات”، كما قال أركايتز زوبياجا، الأستاذ المشارك في جامعة كوين ماري بلندن، والرئيس المشارك لمختبر علوم البيانات الاجتماعية بالجامعة، لقناة الجزيرة. “قد يكون هذا هو الحال بالنسبة لرسالة تبدو إيجابية مثل “أود أن أرى كم سيكون العالم عظيما إذا…” تليها رسالة مهينة تستهين بمجموعة سكانية. وقد تواجه أنظمة الذكاء الاصطناعي صعوبة في رؤية الكراهية في تلك الرسائل إذا ركزت بدلا من ذلك على الجانب الإيجابي من الرسالة.

ويضيف زوبياجا أن العكس صحيح أيضًا، حيث يتم تسليط الضوء على الكلمات التي تبدو مسيئة، والتي يتم دمجها الآن في اللغة لأغراض أكثر تحبيبًا، باعتبارها خطاب كراهية.

وقال: “هذه هي حالة اللغة المستصلحة، حيث يتم تبني الكلمات الرئيسية التي تعتبر تاريخيًا افتراءات وإعادة توظيفها من قبل المجتمعات التي كانت تستخدم في البداية للاستخفاف بها، ثم يتم استخدام الافتراءات بين أفراد المجتمع المهمش”. “على الرغم من أنه لا ينبغي تصنيف هذه الحالات على أنها تحض على الكراهية، إلا أن أنظمة الذكاء الاصطناعي تميل إلى القيام بذلك”.