ماذا تعني الروبوتات القاتلة بالنسبة لمستقبل الحروب؟

سلّط مقالٌ لخبيرةِ أخلاقيّات الذّكاء الاصطناعيّ في جامعة بريستول البريطانيّة (ميراندا موبراي) الضّوء على خطورة الاستعانة بما يعرف باسم الروبوتات القاتلة أو أجهزة التّصفية الآليّة الّتي تطلق عليها الجيوش رسميّاً اسم (الأسلحة المستقلّة الفتّاكة LAWs).

اقرأ أيضاً التداعيات الاقتصادية للصراع الروسي الأوكراني على مستوى العالم

الأسلحة المستقلة الفتاكة

وحتّى وقتٍ قريبٍ كانت مجرّد خيال علميّ، وكان مكانها الطّبيعيّ مشاهِد أفلام السّينما، وروايات الخيال العلميّ، وأشارت (موبراي) إلى أنّ فكرة انتشار الأسلحة فائقة الذّكاء لا تزال خيالًا علميًّا.

ولكن مع تطوّر الأسلحة المستندة إلى تطبيقات الذّكاء الاصطناعيّ بشكلٍ متزايد هناك في المقابل قلق متزايد لدى الجمهور بشأن قضايا المساءلة ومخاطر الأعطال الفنيّة، فإذا قتل شخص شخصًا بريئًا.

من الممكن نظريًّا إيقاع العقوبة على القاتل، ولكن ماذا لو كان القاتل روبوتاً؟ وماذا لو أصاب آلة القتل عطل مفاجئٌ؟

لقد رأينا بالفعل أنّ ما يسمّى بالذّكاء الاصطناعيّ المحايد قد صنع خوارزميّات جنسيّة، وأنظمة تعديل محتوى غير كُفُؤة إلى حدٍّ كبير؛ لأنّ مُنشِئُوها لم يفهموا التّكنولوجيا.

اقرأ أيضاً الحرب لا تعرف معنى العمر

استخدام التكنولوجيا في الحرب

ولكن في الحرب قد تؤدّي هذه الأنواع من سوء الفهم إلى قتل المدنيّين، أو تدمير المفاوضات الجارية بين الدّول والأطراف المتحاربة إذا خرج روبوت قاتل عن السيطرة.

على سبيل المثال يمكن تدريب خوارزميّة التّعرّف على الهدف لتحديد الدّبابات من صور الأقمار الصّناعيّة.

ولكن ماذا لو كانت جميع الصور المستخدمة لتدريب النّظام تظهر جنودًا في تشكيل حول الدّبابة؟ قد يخطئ ويعدّها مركبة مدنيّة تمرّ عبر حصار عسكريّ، ويتعامل معها على أنّها هدف مشروع.

اقرأ أيضاً الرفاهية في سوريا بعد الحرب!

لماذا قد تحتاج الجيوش أسلحة مستقلة؟

بالفعل عانى المدنيّون في عدّة بلدان مثل فيتنام وأفغانستان واليمن بسبب الطّريقة الّتي استخدمت بها القوى العظمى العالميّة أسلحةً متطوّرةً بشكل متزايد.

ويعتقد الكثيرون أنّ تلك الأسلحة المتطوّرة تسبّبت في أضرار أكثر من نفعها، ويشيرون مؤخّرًا إلى الحرب الرّوسيّة الأوكرانيّة الّتي تدخل عامها الثّاني.

هناك من يعتقد أنّه يجب أن تكون الدّولة -أيّ دولة- قادرة على الدّفاع عن نفسها، ممّا يعني ضرورة مواكبة التّكنولوجيا العسكريّة للدّول الأخرى، ويمكن للذّكاء الاصطناعيّ بالفعل أن يتفوّق على البشر في لعبة الشّطرنج والبوكر.

بل يتفوّق على البشر في العالم الحقيقيّ أيضًا، فعلى سبيل المثال تدّعي شركة مايكروسوفت أنّ برنامج التّعرّف إلى الكلام لديها يحقّق معدل خطأ يبلغ 1٪ مقارنة بمعدّل خطأ بشريّ يبلغ حوالي 6٪، ولذلك ليس من المستغرب أن تسلم الجيوش ببطء الخوارزميّات زمام الأمور.

ولكن كيف نتجنّب إضافة الروبوتات القاتلة إلى القائمة الطّويلة للأشياء الّتي نتمنّى لو لم يبتكرها بشر في أيّ يوم من الأيّام؟ بادئ ذي بدء اعرف عدوّك.

ما هي الأسلحة الفتاكة ذاتية التشغيل LAWs؟

تُعرِّف وزارة الدّفاع الأمريكيّة نظام الأسلحة المستقلّة على أنّه: "نظام سلاح يمكنه بمجرّد تفعيله تحديد الأهداف والاشتباك معها دون تدخّل إضافيّ من قبل عامل بشريّ"، وكثيرة هي أنظمة القتال الّتي تتوافق بالفعل مع هذه المعايير.

وتحتوي أجهزة الكمبيوتر على الطّائرات دون طيّار، والصّواريخ الحديثة على خوارزميّات يمكنها اكتشاف الأهداف، وإطلاق النّار عليها بدقّة أكبر بكثير من الجنديّ البشريّ وفقًا لمجلّة (كونفرسيشن) الأمريكيّة، وأصبح العالم يعجّ اليوم بأنظمة دفاع نشطة يمكنها الاشتباك مع أهداف دون إشراف بشري.

وأبرز المخاوف حول الروبوتات القاتلة هو احتمال قتل الأبرياء عن طريق الصّدفة أو عن طريق الخطأ، ولكن يُنظر إلى الخطر على أنّه مقبول في السّياسة الدّوليّة؛ لأنّ الأنظمة المستقلّة بشكل عام لديها خططٌ لكي تكتسب قدرًا كافيًا من التّاريخ الموثوق في حماية أرواح المدنيّين.

قواعد الحرب

توجد أسلحة مزوّدة بتقنيّة الذّكاء الاصطناعيّ مصمّمة لمهاجمة الأشخاص أيضًا، من حرّاس الرّوبوتات إلى طائرات كاميكازي دون طيّار المستخدمة في حرب أوكرانيا، والقوانين موجودة بالفعل تحسبًّا لهذا التّطوّر؛ لذا إذا أردنا التّأثير على استخدام القوانين فنحن بحاجة إلى فهم تاريخ الأسلحة الحديثة.

تحدّد الاتفاقيّات الدّوليّة مثل اتّفاقيّات جنيف السّلوك الخاصّ بمعاملة أسرى الحرب والمدنيّين أثناء النّزاعات، وهي إحدى الأدوات القليلة الّتي لدينا للتّحكّم بكيفيّة خوض الحروب.

ولكن لسوء الحظّ إنّ استخدام الأسلحة الكيميائيّة من قبل الولايات المتّحدة في فيتنام، وروسيا في أفغانستان دليلٌ على أنّ هذه الإجراءات لم تكن ناجحة دائمًا، والأسوأ هو عندما يرفض اللاعبون الرئيسيّون الانضمام إلى اتّفاقيّات جينيف.

وكانت الحملة الدّولية لحظر الألغام الأرضيّة تمارس الضّغط على السّياسيّين منذ عام 1992 لحظر الألغام والذّخائر العنقوديّة الّتي تنثر بشكل عشوائيّ قنابل صغيرة على مساحة واسعة دون تحقيق تقدّم كبير

الأسلحة الكيميائية في الحرب

وفي عام 1997 تضمّنت معاهدة أوتاوا حظرًا على هذه الأسلحة، وقّعت عليها 122 دولةً، ولكن الولايات المتّحدة والصّين وروسيا رفضوا التّوقيع، في حين أدّت الألغام الأرضيّة إلى إصابة وقتل ما لا يقلّ عن 5000 جنديٍّ ومدنيٍّ سنويًّا منذ عام 2015.

وما يصل إلى 9440 شخصًا في عام 2017، وذكر تقرير مرصد الألغام الأرضيّة والذّخائر العنقوديّة لعام 2022: "كانت الخسائر مرتفعة بشكل مقلق خلال السّنوات السّبع الماضية بعد أكثر من 10 سنوات من تراجع الإصابات.

ولم يكن عام 2021 استثناءً، هذا الاتّجاه هو إلى حدّ كبير نتيجة للنّزاعات المتزايدة والتّلوّث بالألغام البدائيّة الّتي لوحظت منذ عام 2015 ويمثّل المدنيّون معظم الضّحايا المسجّلين، ونصفهم من الأطفال".

ورغم الجهود الجبّارة الّتي بذلتها الحملة الدَّوليّة لحظر الألغام الأرضيّة هناك أدلّة على أنّ كلاً من روسيا وأوكرانيا -رغم أنها عضوة في معاهدة أوتاوا- تستخدمان الألغام الأرضيّة أثناء الحرب الدّائرة حاليًّا.

كما اعتمدت أوكرانيا على الطّائرات دون طيّار لتوجيه ضربات المدفعيّة، أو لضرب البنية التّحتيّة الرّوسيّة مؤخرًا في "هجمات الكاميكازي".

مستقبلنا ومستقبل الحروب

لكن ماذا عن الأسلحة المتطوّرة الّتي تدعمها تطبيقات الذّكاء الاصطناعيّ؟ تسرد حملة "أوقفوا الرّوبوتات القاتلة" تسع مشاكل رئيسة مع القوانين، مع التركيز على الافتقار إلى المساءلة، وما يصاحبها من نزع الإنسانيّة عن فعل القتل.

في حين أن هذا النّقد صحيح، فإنّ الحظر الكامل لتلك الأسلحة غير واقعيّ لسببين؛ أولهما أنّ الألغام ستوقع الدّول، ولكنها ستسمح لجيوشها باستخدام الألغام.

كما أنّ الخطوط الفاصلة بين الأسلحة المستقلّة والقوانين والروبوتات القاتلة غير واضحة لدرجة أنّه من الصّعب التّمييز بينها، وسيكون القادة العسكريّون دائمًا قادرين على إيجاد ثغرةٍ في صياغة الحظر.

واستخدام الرّوبوتات القاتلة المتسلّلة في الخدمة كأسلحة دفاعيّة مستقلّة حتّى إنّهم قد يفعلون ذلك دون علمهم، والمؤكّد أنّنا سنرى المزيد من الأسلحة الّتي تدعم الذّكاء الاصطناعيّ في المستقبل، ولكن هذا لا يعني أنّ علينا أن ننظر في الاتّجاه الآخر وكأنّنا لا نرى، أو أنّ الأمر لا يعنينا.