مشروع Ara Detox هو مبادرة بحثية وتقنية في مجال معالجة اللغة الطبيعية، يهدف إلى تطهير وتنقية النصوص العربية من المحتوى الضار عن طريق إعادة صياغتها تلقائيًا إلى نصوص سليمة ومقبولة اجتماعيًا مع الحفاظ على المعنى والفكرة الأصلية للجملة، بخلاف الأنظمة التقليدية التي تعتمد على حجب الجملة أو مسح الكلمات المسيئة، حيث يهدف المشروع إلى تحويل النص الفظ إلى نص ناعم ومؤدب.
وفي هذا المقال نتعرف على مشروع Ara Detox لتنقية المحتوى الضار بالعربية، وما الفرق بين حجب المحتوى الضار وتطهيره بالذكاء الاصطناعي، وهل يفهم مشروع Ara Detox اللهجات العامية العربية، وما أبرز الصعوبات التي تواجه مشروع Ara Detox في فهم التهكم والسخرية بالعربية؟
ما هو مشروع Ara Detox لتنقية المحتوى الضار بالعربية؟
المشروع عبارة عن مبادرة بحثية تم إطلاقها في أغسطس 2026 لتطوير تقنيات معالجة اللغات الطبيعية المخصصة لتطهير وتنقية النصوص العربية من المحتوى الضار. ويركز المشروع على تحويل النصوص المسيئة والعدائية على منصات التواصل الاجتماعي إلى عبارات مهذبة يمكن قبولها اجتماعيًا مع الحفاظ على معناها الأصلي وموقفها الضمني.
تبلغ حجم البيانات في المشروع نحو 10500 منشور ضار تم جمعها من وسائل التواصل الاجتماعي ونتج عنها نحو 84000 صيغة منقاة ومعاد صياغتها.
يغطي المشروع اللغة العربية الفصحى إلى جانب 3 لهجات إقليمية هي اللهجة المصرية والخليجية والشامية، مع الاعتماد على نماذج لغوية متقدمة لإنتاج وتوليد الصياغات المهذبة والبديلة. وأظهر التقييم البشري لنتائج المشروع نسبة نجاح تتراوح بين 87% و93% في إزالة العبارات المسيئة والضارة مع الحفاظ الكامل على المعنى القائم للجمل الأصلية.
من صاحب فكرة مشروع Ara Detox؟
يقف الباحث والأكاديمي الدكتور محمود الحاج خلف فكرة وتطوير مشروع Ara Detox، وهو متخصص في علوم الحاسوب ومعالجة اللغات الطبيعية والذكاء الاصطناعي. وتم إنجاز البحث بالتعاون الأكاديمي بين جامعة (لانكستر) في المملكة المتحدة وجامعة (فين) في فيتنام. كما تم طرح المشروع ورفع قواعد بياناته البرمجية الخاصة عبر منصة ArabicNLP-UK في المملكة المتحدة، والتي يشرف عليها الدكتور محمود الحاج.
ما الهدف من مشروع Ara Detox؟
توجد مجموعة من الأهداف المعلنة، بالإضافة إلى أهداف أخرى يمكن القول إنها الأهداف الحقيقية للمشروع، وهو ما يمكن تقسيمه كالتالي:
الأهداف المعلنة لمشروع Ara Detox
- بناء مجموعة بيانات عربية ضخمة، وتوفير أول قاعدة بيانات مفتوحة المصدر وموسعة لتطهير النصوص العربية مع إعادة صياغتها بصور متعددة.
- سد الفجوة اللغوية من خلال عدم الاقتصار على اللغة الفصحى، وشمول عدة لهجات إقليمية لها انتشار كبير مثل اللهجة المصرية والخليجية والشامية.
- اختبار وقياس قدرة النماذج اللغوية على معالجة النص الضار بعد تطهيره وتغييره إنشائيًا ليكون مقبولاً اجتماعيًا، مع الحفاظ على المعنى والموقف الأصلي للكاتب.
الأهداف الحقيقية لمشروع Ara Detox
- يسعى المشروع لتغيير فلسفة إدارة المحتوى والانتقال من نهج الحذف والحظر الجبري إلى نهج التهذيب الوقائي، بحيث يتاح للمستخدم التعبير عن رأيه بنفس المعنى ولكن بأسلوب غير عدائي.
- كذلك يحاول المشروع تقليل حدة خطاب الكراهية والمشاحنات اللفظية على المنصات التفاعلية، من أجل الوصول إلى بيئة رقمية أكثر أمانًا وتماسكًا.
- من ناحية أخرى، هناك رغبة في توفير موارد وتقنيات جاهزة تمكن أصحاب التطبيقات والمواقع العربية من إدماج أدوات تدقيق وإشراف ذكية واقتصادية، دون أن تحتاج أي جهة إلى بناء تلك الأدوات من الصفر.
- من الأهداف الحقيقية للمشروع أيضًا تقليل الفجوة التقنية بين اللغة العربية واللغات الأجنبية في مجال تحويل أساليب النصوص والذكاء الاصطناعي التوليدي.
ما الفرق بين حجب المحتوى الضار وتطهيره بالذكاء الاصطناعي؟
الفرق الأساسي بينهما يظهر في التعامل مع حرية التعبير واستمرارية الحوار، فحجب المحتوى يزيل النص تمامًا، بينما التطهير يصلح أسلوب الصياغة مع الإبقاء على الفكرة، وهو ما يمكن توضيحه في المقارنة التالية.
حجب المحتوى الضار
يعمل حجب المحتوى الضار على قواعد حظر مباشرة لحذف المنشور بالكامل أو على الأقل استبدال الكلمات المسيئة برموز، وفي بعض الأحيان يحظر حساب المستخدم. والنتيجة في هذا الإجراء هي إيقاف انتشار الإساءة فورًا، إلا أن الأمر ينتهي بإيقاف الحوار أيضًا ومنع الكاتب من إيصال رأيه، وهو ما قد يولد شعورًا بالرقابة الصارمة.
تطهير المحتوى بالذكاء الاصطناعي
يعمل تطهير المحتوى بالذكاء الاصطناعي عن طريق النماذج اللغوية التوليدية التي تعيد كتابة العبارات الضارة بطريقة مهذبة ومقبولة، مع الحفاظ على المعنى والقصد الأصلي للكاتب. وهنا تكون النتيجة رائعة، حيث يتم الحفاظ على استمرارية الحوار وتعبير المستخدم عن رأيه من وجهة نظره دون استخدام ألفاظ حادة، وهو ما قد يسهم في تهذيب البيئة الرقمية بدلاً من إسكات أطرافها.
أين يستخدم مشروع Ara Detox في المنصات والمنتديات؟
يستخدم المشروع وتقنياته المختلفة في المنصات والمنتديات عبر دمج خوارزمياته في البنية التحتية لإدارة الدردشة والمحتوى في عدة مجالات رئيسية كالتالي:
- نظام البنية والإصلاح قبل النشر: يتم دمج النموذج في مربع الكتابة بالمنتدى أو شبكة التواصل، وبالتالي عند كتابة تعليق أو عبارة حادة يظهر له إشعار فوري يقترح عليه صياغة بديلة مهذبة تؤدي نفس المعنى.
- الإشراف الآلي الذكي: المنصات التي تستخدم المشروع تعالج التعليقات الواردة تلقائيًا، بحيث يظهر المعنى المطلوب من التعليق دون الألفاظ الضارة، وهو ما يحافظ على استمرار الحوار.
- الدردشة في الألعاب الإلكترونية وتطبيقات التواصل: في الرسائل الفورية التي يتبادلها اللاعبون أو مستخدمو منصات التواصل المباشر، يتم استخدام نفس التقنية للحد من خطاب الكراهية والتنمر الرقمي أثناء اللعب ودون تعطيل للتواصل بين اللاعبين.
- مراجعات العملاء والدعم الفني: تستعين الشركات بهذا المشروع لتهذيب الشكاوى العنيفة والغاضبة التي يقدمها العملاء، ويتم تحويلها إلى نقاط ملاحظة مهذبة يسهل على موظفي الدعم الاستجابة لها دون أثر نفسي أو سلبي.
- بيئات الأطفال والتعلم الرقمي: يتم تطبيق المشروع في المنتديات والمنصات التعليمية الموجهة للأطفال والطلاب، لضمان خلو البيئة التعليمية من أي مفردات خادشة أو عدائية قد تنتقل عبر المشاركات.
كيف يفهم مشروع Ara Detox التهكم والسخرية في اللغة العربية؟
ربما كانت السخرية والتهكم أكبر التحديات التي واجهت المشروع في معالجة اللغة العربية، وبالتالي اتجه المشروع لتحليل هذا النوع من المحتوى عبر فهم السياق وليس مطابقة الكلمة مباشرة. وقد تم توجيه النماذج اللغوية الضخمة لتجاوز القواميس التقليدية، والبحث عن النماذج التوليدية الحديثة، من أجل فهم المعنى الضمني للجملة وتحليل التناقض التركيبي والسياقي لاكتشاف التهكم والسخرية.
انضمت لمجموعة البيانات في المشروع آلاف الأمثلة المأخوذة من المنصات الرقمية، والتي تتضمن جملًا وتعبيرات ساخرة بشتى اللهجات العامية أثناء عملية التدريب. وتم تدريب وتوجيه النماذج لإعادة صياغة المفهوم الأساسي فقط بأسلوب نقد موضوعي ومباشر خالٍ من السخرية، وذلك عند التقاط أي جملة ساخرة تحمل إساءة أو تهكمًا.
كما اعتمد المشروع على مجموعة من المقيمين البشريين الذين ينطقون العربية كلغة أم، لضبط التفسيرات ومنع الفهم الحرفي الخاطئ للتعبيرات الدّارجة لمساعدة النماذج على إدراك السياق الاجتماعي، ورغم ذلك، يظل المشروع يواجه بعض التحديات أمام السخرية المفرطة والسياق الخارجي والأحداث اللحظية غير المذكورة في النصوص، حيث يتطلب الأمر معرفة بخلفية النقاش قبل التعامل مع الجمل والكلمات.
هل هناك علاقة بين مشروع Ara Detox ومفهوم الديتوكس الرقمي؟
رغم تشابه الأسماء، فإن هناك فرقًا جوهريًا بين المفهومين؛ فالديتوكس الرقمي (Digital Detox) هو قرار شخصي يتخذه المستخدم للابتعاد طوعًا عن الشاشات والإنترنت لتخفيف التوتر، في حين أن مشروع Ara Detox هو أداة ذكاء اصطناعي تعمل خلف الكواليس لتطهير النصوص والمحتوى نفسه من الألفاظ الضارة دون حجب المستخدم. وبذلك، يسعى المفهوم الأول إلى تنظيف علاقة الإنسان بالتكنولوجيا، بينما يسعى المشروع إلى تنظيف البيئة الرقمية والمحتوى العربي نفسه.
ماذا يستفيد المستخدم العربي من مشروع Ara Detox؟
ربما يكون المستخدم العربي هو المستفيد الأول والمباشر من مشروع Ara Detox عن طريق تحسين تجربة التصفح والتواصل الرقمي، بالإضافة إلى الحد من ظاهرة التنمر والحفاظ في نفس الوقت على حرية التعبير، ومن أبرز نقاط الاستفادة ما يلي:
- التعبير بدون حجب: هذا المشروع يمنح المستخدم العربي القدرة على إيصال وجهة نظره عند الاختلاف بطريقة مقبولة ومهذبة بدلاً من حذف المشاركة أو حظر الحساب.
- المساعد الذكي لتحسين الأسلوب: يمكن للمستخدم العربي أيضًا استخدام أدوات التوجيه الفوري قبل نشر تعليقاته للتعبير بوضوح عن رأيه، دون الانزلاق إلى مفردات حادة قد تتسبب له في مشكلات أخلاقية.
- توفير بيئة آمنة: هذا المشروع يقلل حدة الخطاب العدائي والكراهية والمشاحنات اللفظية في الألعاب ومنصات التواصل، وهو ما يصمّم للمستخدم العربي مجتمعات إلكترونية أكثر ملاءمة للعائلات والأطفال.
- رفع جودة الخدمات والتطبيقات العربية: هذا المشروع يفتح بابًا كبيرًا للمطورين وأصحاب الشركات العرب، لدمج أدوات حوار ذكية في تطبيقاتهم الموجهة للمنطقة العربية، ويضمن حصول المستخدم على خدمات محلية عالية الجودة تراعي خصوصيته الثقافية.
في الختام، يمثل مشروع Ara Detox قفزة نوعية في تقنيات معالجة اللغة العربية الذكية؛ إذ يتجاوز الحلول السطحية القائمة على الحجب والمصادرة، ليقدم نموذجًا حضاريًّا يوازن بين الحفاظ على حرية التعبير وصيانة البيئة الرقمية من خطاب الكراهية، فالانتقال من "إسكات الصوت" إلى "تهذيب الصياغة" يمهد الطريق لمستقبل رقمي عربي أكثر تماسكًا وأمانًا لجميع المستفيدين.
ما رأيك في فكرة إعادة صياغة التعليقات الحادة بدلاً من حذفها؟ شاركنا انطباعك في التعليقات، ولا تنسَ مشاركة المقال عبر وسائل التواصل الاجتماعي لتصل هذه المعرفة التقنية للجميع.
يجب عليك تسجيل الدخول أولاً لإضافة تعليق.