في عصرنا الحالي، تمتلك بعض الأنظمة العسكرية درجات متفاوتة من الاستقلالية، من الدفاعات الجوية التي تستطيع اكتشاف التهديدات وتتبعها والاشتباك معها آليا، إلى الطائرات المسيرة والذخائر الحائمة التي تستخدم الاستشعار الحاسوبي والرؤية الآلية والملاحة الذاتية.
لكن القفزة الكبيرة تحدث عندما تنتقل الاستقلالية من تنفيذ الحركة أو تتبع المسار إلى وظائف الاستهداف نفسها، أي اكتشاف الهدف وتحديده واختيار الاشتباك معه.
قصص مقترحة
list of 2 itemsend of list
وعند تلك النقطة، تظهر المعضلة القانونية والأخلاقية والسياسية بشأن ما قد يحدث عندما تنتقل بعض وظائف اتخاذ القرار من الإنسان إلى منظومة قادرة على التنفيذ بصورة مستقلة.
هذه المعضلة عادت إلى الواجهة، في 5 سبتمبر/أيلول 2026، عندما توصلت 128 دولة طرفا في اتفاقية الأسلحة التقليدية إلى وثيقة توافقية بشأن العناصر الأساسية لتعريف الأسلحة الفتاكة الذاتية التشغيل واستخدامها.
ولا تفرض الوثيقة التزامات قانونية، ولا تنشئ التزامات جديدة، لكنها قد توفر أساسا لبحث خطوات لاحقة، من بينها احتمال الانتقال إلى مفاوضات بشأن أداة دولية، خلال مؤتمر مراجعة الاتفاقية في نوفمبر/تشرين الثاني.
من الأتمتة إلى الاستقلالية.. ما الذي تغير؟
تصنف الأسلحة الحديثة وفق مقدار الاستقلالية الذي تملكه في مراحل مختلفة من سلسلة القتل، وهي الخطوات المرتبطة بالرصد، والتعرف على الهدف، واختياره، واتخاذ قرار الاشتباك، والتنفيذ.
لكن استخدام الذكاء الاصطناعي لا يعني أن المنظومة أصبحت تلقائيا سلاحا فتاكا ذاتي التشغيل، إذ إن هناك فرقا بين نظام يدعم القرار من خلال المساعدة في تحليل الصور أو ترتيب الأهداف، ونظام يستطيع بعد تفعيله اختيار هدف والاشتباك معه من دون تدخل بشري إضافي.
ويشرح فنسنت بوالانين، مدير برنامج حوكمة الذكاء الاصطناعي في معهد ستوكهولم الدولي لأبحاث السلام، أن الفارق التقني يكمن في موقع التدخل البشري بالنسبة إلى قدرة النظام على استخدام القوة.
وفي أنظمة دعم القرار، يقدم الذكاء الاصطناعي توصية يفسرها الإنسان ومن ثم يتخذ قرار الاستهداف المحدد، بينما تستطيع الأنظمة الذاتية التشغيل تنفيذ قرار بشري عام جرى تحديده مسبقا، ومن ثم تخصيصه أثناء الهجوم وفقا للبيئة والمعايير التي تعمل ضمنها المنظومة.
ويؤكد معهد ستوكهولم الدولي لأبحاث السلام وجود اختلاف بين أنظمة الأسلحة الذاتية التشغيل وأنظمة دعم القرار المدعومة بالذكاء الاصطناعي، خصوصا في دور الإنسان ضمن دورة الاستهداف.
وتعود الاستقلالية العسكرية إلى ما قبل الذكاء الاصطناعي بوقت طويل، إذ امتلكت بعض الألغام البحرية والصواريخ المضادة للسفن وظائف مستقلة، كما تستخدم منظومات دفاعية منذ عقود الرادار والحوسبة لاكتشاف تهديدات محددة وتتبعها والاشتباك معها ضمن ظروف مقيدة.
ويعد نظام الدفاع الجوي القريب “فالانكس”، الذي بدأ نشره عام 1980، مثالا بارزا على الاستقلالية المقيدة، إذ يستطيع اكتشاف التهديدات الجوية وتقييمها وتتبعها والاشتباك معها آليا، لكنه يعمل ضد فئات محددة من التهديدات وضمن بيئة تشغيل مقيدة.
أما التطور الأحدث فجاء مع التعلم الآلي والرؤية الحاسوبية وتقنيات الاستشعار والحوسبة، التي وسعت نطاق المهام التي يمكن للأنظمة تنفيذها بصورة مستقلة.
لكن بوالانين يحذر من أن الخط الفاصل بين أنظمة الأسلحة الذاتية التشغيل وأنظمة دعم القرار المدعومة بالذكاء الاصطناعي قد يصبح ضبابيا في ظروف معينة.
وإذا ارتبطت أنظمة دعم القرار المدعومة بالذكاء الاصطناعي بأنظمة التحكم بالنيران التي توجه السلاح تلقائيا، أو أصبحت دورات التوصيات سريعة إلى درجة لا تسمح للمشغل بدراستها، فقد تتحول المنظومة عمليا إلى جزء من سلسلة استهداف ذاتية.
وفي هذه الحالة قد يتبع القائد أو المشغل توصيات المنظومة بصورة شبه عمياء بسبب ضيق الوقت أو غياب الوسائل اللازمة لفحصها نقديا.
أكثر من عقد من الجدل الدولي
اكتسب النقاش الدولي حول هذه الأنظمة زخما واضحا عام 2013، مع تقرير المقرر الخاص للأمم المتحدة كريستوف هينز حول الروبوتات القاتلة، ثم انتقل تدريجيا إلى مسار دبلوماسي رسمي داخل اتفاقية الأسلحة التقليدية.
وفي عام 2014 عقدت الدول أول اجتماع خبراء ضمن الاتفاقية لبحث هذه الأنظمة، بينما عقدت اللجنة الدولية للصليب الأحمر اجتماعا متخصصا جمع خبراء حكوميين وتقنيين وقانونيين وأخلاقيين.
وبحلول عام 2017 أصبحت المسألة جزءا من عمل مجموعة خبراء حكومية داخل الاتفاقية، مع تأكيد انطباق القانون الدولي الإنساني على تطوير هذه الأنظمة واستخدامها.
ومنذ ذلك الحين ظل الخلاف مركزا على حاجة هذه الأنظمة إلى قواعد دولية ملزمة، والحدود الواجب أن توضع أمام الاستقلالية.
وتصف اللجنة الدولية للصليب الأحمر هذه الأنظمة بأنها تختار أهدافها وتستخدم القوة ضدها دون تدخل بشري، مع تأكيد اللجنة وجود أنظمة تعمل ضد أهداف عسكرية بطبيعتها، لكن المخاوف تزداد كلما امتدت الاستقلالية إلى اختيار أهداف بشرية في بيئات معقدة.
وفي 25 أغسطس/آب 2026، حذر الأمين العام للأمم المتحدة أنطونيو غوتيريش ورئيسة اللجنة الدولية للصليب الأحمر ميريانا سبولياريتش من اقتراب العالم بشكل خطير من خط أحمر أخلاقي يتعلق بالاستهداف الذاتي للبشر بواسطة منظومات السلاح.
وفي المفاوضات الأخيرة، أيدت 76 دولة الانتقال إلى مفاوضات بشأن صك دولي، في حين فضلت دول أخرى التركيز على قواعد أو إرشادات وطنية، بما يعكس استمرار الخلاف حول طبيعة القواعد المطلوبة.
من ليبيا إلى أوكرانيا وغزة.. ماذا يحدث داخل أرض المعركة؟
لسنوات، بدت الأسلحة الذاتية التشغيل أقرب إلى سيناريو مستقبلي أو نماذج أولية محدودة، لكن النزاعات الحالية دفعت النقاش إلى ساحة المعركة.
وفي ليبيا، أشار تقرير فريق خبراء الأمم المتحدة إلى استخدام منظومة “كارغو-2” ضد قوات منسحبة، وإلى قدرة الذخيرة الحائمة على العمل من دون اتصال بيانات مستمر بالمشغل، وهو ما جعل القضية واحدة من أبرز الحالات التي استند إليها النقاش حول الاستقلالية القتالية.
وفي الحرب الروسية الأوكرانية، أصبحت القدرة على الاستمرار في العمل رغم انقطاع الاتصال أكثر أهمية مع انتشار الحرب الإلكترونية والطائرات المسيرة.
وأعلنت وزارة الدفاع الأوكرانية أن إحدى منصات الذكاء الاصطناعي المستخدمة في ساحة المعركة تستطيع تحديد نحو 70% من الأهداف العسكرية المعادية اعتمادا على أكثر من 100 ألف بث مصور للمسيرات شهريا.
وفي غزة، كشف تحقيق صحفي عن استخدام الجيش الإسرائيلي منظومة “لافندر” المعتمدة على الذكاء الاصطناعي للمساعدة في تحديد وتوليد أهداف الاغتيال.
وقال التحقيق إن النظام صنف نحو 37 ألف شخص على أنهم مقاتلون مشتبه بهم، كما أشار إلى أن المراجعة البشرية لبعض الأهداف لم تتجاوز 20 ثانية، بطريقة تجعلها أقرب إلى موافقة شكلية، بينما نفى الجيش الإسرائيلي بعض توصيفات التحقيق.
وتتجاوز هذه الحالة دقة الخوارزمية نفسها، وتثير سؤالا عما قد يحدث عندما تصبح كمية مخرجات المنظومة أكبر من قدرة المشغل على فحصها واتخاذ قرار مستقل بشأن كل منها.
وفي هذا الصدد، ترى إنغفيلد بود، مديرة مركز دراسات الحرب في جامعة جنوب الدنمارك والباحثة في حوكمة الذكاء الاصطناعي العسكري، أن الفرق بين الحكم البشري الحقيقي والموافقة الشكلية يرتبط بقدرة المشغل على ممارسة فاعليته والتأثير في النتيجة.
وإذا لم يملك المشغل الوقت أو المعلومات أو القدرة المعرفية الكافية، فقد يعتمد بصورة مفرطة على مخرجات المنظومة، فيما يعرف بانحياز الأتمتة، ويصبح اكتشاف الأخطاء أكثر صعوبة.
عندما تخطئ المنظومة.. من يتحمل المسؤولية؟
عندما تصيب المنظومة هدفا خاطئا، فإنه لا يوجد قانون يضع المسؤولية تلقائيا على عاتق الخوارزمية، إذ تظل المسؤولية القانونية مرتبطة بالدولة والأفراد والجهات المشاركة في تصميم المنظومة وتطويرها واختبارها ونشرها واستخدامها.
ويرى الباحث في القانون الدولي بمعهد آسر، جوناثان كويك، أنه لا ينبغي النظر إلى المسألة باعتبارها عبئا يقسم بين الدولة والقائد والمشغل والمطور، إنما بصفتها مسؤولية قد تسند إلى جميع الأطراف بحسب الأدوار والظروف التي وقع فيها الحادث، فيما تبقى الدولة صاحبة المسؤولية الأوسع عن القوانين والعقيدة العسكرية والإجراءات والتدريب وشروط الاستخدام والعلاقة مع المطورين.
وتضيف لورا برون، الباحثة في برنامج حوكمة الذكاء الاصطناعي بمعهد ستوكهولم الدولي لأبحاث السلام، أن تحديد المسؤول عن استهداف خاطئ يعتمد على مصدر الفشل، ومدى إمكانية توقعه، وحجم الضرر.
كما تختلف معايير المسؤولية من طرف إلى آخر، إذ قد تنشأ مسؤولية الدولة عن خرق للقانون الدولي الإنساني من دون الحاجة إلى إثبات نية إجرامية، بينما تتطلب مساءلة الفرد جنائيا عن جريمة حرب إثبات عناصر الجريمة، بما فيها ما يتصل بالعلم والقصد بحسب الحالة.
ولا يعني تحميل طرف المسؤولية إعفاء الأطراف الأخرى، فقد تتحمل الدولة والقائد والمشغل والمطور مسؤوليات متزامنة إذا أثبت التحقيق أن أفعال كل منهم أو إهماله أسهمت في وقوع الانتهاك.
وفي هذه الحالة، هناك المبرمج أو المهندس الذي صمم الخوارزمية ودرب النموذج على بيانات معينة، والمشغل الذي يفعل المنظومة أو يشرف عليها، والقائد الذي يأمر بنشر المنظومة، إلى جانب الدولة نفسها التي تستخدمها.
وتوصف هذه المشكلة بأنها فجوة المسؤولية، أي صعوبة تحديد الجاني لأن المسؤولية تتوزع بين أطراف متعددة، وتزداد صعوبة الإسناد مع إدخال التعلم الآلي في أنظمة الاستهداف، خصوصا عندما يصبح سلوك المنظومة أقل قابلية للتنبؤ.
وترى برون أن ذلك قد يعقد إثبات المسؤولية الفردية، لأن إثباتها يتطلب ربط المعرفة والقصد بشخص محدد، بينما قد ينتج سلوك المنظومة عن تفاعلات لم يكن من السهل توقعها مسبقا.
ولهذا، يحتاج التحقيق في حادثة استهداف خاطئ إلى مراجعة القرار النهائي للهجوم، إلى جانب تتبع دورة حياة المنظومة بأكملها، من التصميم والبرمجة والتدريب إلى الاختبار والمراجعة القانونية والاقتناء والنشر والتشغيل.
وتشير برون إلى أهمية توثيق القرارات المتخذة خلال هذه الدورة، والاحتفاظ بالمعلومات عن بيانات التدريب، ونتائج الاختبارات، ومعدلات الفشل المعروفة وأنماطه، لأن هذه الأدلة قد تساعد في تحديد إذا كان الخلل مرتبطا بتصميم المنظومة أو تدريبها أو اختبارها، أو بقرار استخدامها رغم معرفة حدودها.
السيطرة البشرية الفعالة.. أين يبقى الإنسان؟
في قلب النقاش الدولي، برز مفهوم السيطرة البشرية الفعالة بوصفه أحد المفاهيم الرئيسية لتحديد الحد الأدنى من الدور الذي ينبغي أن يحتفظ به الإنسان في استخدام القوة.
لكن وجود الإنسان داخل سلسلة القرار لا يعني تلقائيا وجود سيطرة بشرية حقيقية، إذ تعتمد قيمة هذه السيطرة على قدرة الإنسان على فهم الهدف والسياق، ومعرفة حدود المنظومة، والتدخل في الوقت المناسب، وامتلاك إمكانية رفض الهجوم أو إيقافه.
وترى بود أن لحظة اتخاذ قرار الاستهداف تظل مهمة، لكنها ليست المعيار الوحيد، إذ تتشكل درجة السيطرة البشرية منذ مراحل التصميم والاختبار، وتتأثر بأنواع الأهداف المسموح بها، والقيود المكانية والزمنية، وآليات الأمان، ومناطق الاستبعاد، وطريقة استخدام المنظومة.
وتشير بياتريس فين، مديرة صندوق ليكس إنترناشونال الخيري والناشطة في مجال نزع الأسلحة الذاتية التشغيل، إلى أن موافقة القائد على عدد كبير من الأهداف التي تولدها المنظومة خلال ثوان قد تتحول إلى مجرد ختم شكلي يحمل اسم الإنسان.
ولذلك، في رأيها، لا معنى للسيطرة البشرية الفعالة إذا لم ترتبط بفهم مشترك لمبادئ الموثوقية وقابلية التنبؤ وقابلية التتبع، وبقدرة فعلية على رفض مخرجات المنظومة أو تعديلها أو إيقافها.
ولا تعد هذه السيطرة مسألة قانونية أو تنظيمية فقط، إنما ترتبط أيضا بكيفية تصميم الشاشة التي يرى فيها المشغل التوصية.
ويقترح بوالانين أن تكون واجهة المستخدم جزءا من آلية السيطرة نفسها، فقد تعرض الأنظمة درجات الثقة في توصياتها، أو معلومات عن كيفية وصولها إلى النتيجة، كما يمكن لطريقة تقديم التوصية أن تؤثر في مدى نقد المشغل لها.
ويشير بوالانين إلى أن صياغة التوصية في صورة سؤال قد تشجع المراجعة النقدية أكثر من تقديمها على شكل قرار جاهز، إذ من الممكن أن تراقب المنظومة نفسها طريقة تفاعل الإنسان معها، وقد تفعل إجراء أمان يطلب من المشغل تأكيد قراره أو توضيح مبرراته، إذا لاحظت أنه يقبل التوصيات بسرعة غير معتادة أو يتجاوز خطوات معينة، وذلك للحد من خطر انحياز الأتمتة.
وأظهرت بعض الأبحاث أن المشغل يمارس حكما نقديا أكثر إذا صيغت التوصيات على شكل أسئلة تفاعلية بدلا من عبارات تقريرية، لكن هذا المجال لا يزال قيد البحث على نطاق واسع، وليس معيارا مطبقا بصورة موحدة في الأنظمة العسكرية.
ويرى كويك أن السيطرة البشرية ينبغي أن تتحول إلى متطلبات تشغيلية قابلة للاختبار، مثل تحديد نطاق النتائج المحتملة، وتضييق حدود الاستخدام جغرافيا وزمنيا، وتوفير نتائج الاختبارات والمعلومات اللازمة لفهم السلوك، وتدريب المستخدمين على نقاط الضعف، وتصميم واجهات استخدام توفر المعلومات الضرورية من دون إغراقهم بكمية تعوق اتخاذ القرار.
الخطوط الحمراء.. ما الذي يجب حظره؟
بعد أكثر من عقد من النقاش، لم يعد الخلاف يدور حول إمكان تطوير هذه الأنظمة، إنما حول الفئات التي يمكن قبولها وتلك التي ينبغي حظرها.
وتدفع دول ومنظمات إنسانية نحو حظر فئات معينة، خصوصا عندما تستهدف البشر من دون سيطرة بشرية كافية أو عندما لا يمكن استخدامها بصورة متوافقة مع القانون الدولي الإنساني، في حين تميل مواقف أخرى إلى التركيز على التنظيم والقيود التشغيلية. أما ما دون ذلك من منظومات تحتفظ بدرجة من الإشراف البشري لكنها تتضمن عناصر أتمتة متقدمة، فإن كثيرا من الدول ترى أنها بحاجة إلى تنظيم، وليس حظرا.
وتتبنى فين موقفا واضحا في هذا الجانب، إذ ترى أن أي منظومة ذاتية التشغيل بالكامل تستطيع اختيار هدف بشري والاشتباك معه دون تدخل بشري فعلي ينبغي أن تحظر بصورة صريحة، حتى لو أمكن تحسين أدائها أو تضييق نطاق عملها، لأن الأمر يتعلق بعدم تفويض قرار قتل الإنسان إلى منظومة، وليس بتحسين الخوارزمية أو إضافة قيد برمجي.
وفي المقابل، قد تخضع الأنظمة التي تحتفظ بدور بشري فعلي لتنظيم صارم يحدد البيئة والأهداف والزمن ونطاق الاستخدام ووسائل التدخل.
وتلفت بود النظر إلى أن ضمان السيطرة البشرية يبدأ في المراحل المبكرة من دورة حياة المنظومة، إذ يحدد التطوير والاختبار والتقييم والتصديق, إلى جانب قرارات الاقتناء، مقدار ما يعرفه المشغل عن موثوقية المنظومة وقدرته على التنبؤ بسلوكها.
ومن جانبها، تؤكد برون أن المسؤولية تمتد إلى دورة حياة المنظومة، بما يشمل التصميم والاقتناء والتدريب والاختبار، لأن التزامات الدول باحترام القانون الدولي الإنساني لا تتوقف عند لحظة الهجوم.
ومن زاوية أخرى، يقترح كويك أن معيار الحظر لا ينبغي أن يرتبط بكون المنظومة مصممة لقتل البشر فقط، إنما بمدى قدرة المشغل على توقع سلوكها والسيطرة عليها، مع تحذيره من أن الأنظمة التي يتغير سلوكها أثناء التشغيل، أو التي تعمل في بيئات مفتوحة النتائج، قد تجعل السيطرة والتنبؤ أكثر صعوبة.
ويتقاطع هنا الخط الأحمر الأخلاقي المتعلق بالسماح للمنظومة باتخاذ قرار قتل الإنسان مع المعيار التقني والقانوني المتعلق بقدرة المشغل على التنبؤ بالمنظومة والسيطرة عليها.
وتفرض المادة 36 من البروتوكول الإضافي الأول لعام 1977 الملحق باتفاقيات جنيف على الدولة عند دراسة أو تطوير أو اقتناء أو اعتماد سلاح أو وسيلة أو طريقة حرب جديدة أن تحدد إذا كان استخدامها قد يحظر في بعض الظروف أو كلها بموجب القانون الدولي المنطبق.
ولا ينتهي الأمر عند المراجعة القانونية، إذ تبرز أيضا الحاجة إلى قابلية تتبع قرارات المنظومة، والمعلومات الكافية التي تتيح للمشغل التدخل، والقيود الواضحة على البيئة والزمن ونوع الأهداف وعدد الاشتباكات التي تستطيع المنظومة تنفيذها.
ويضيف بوالانين أن السجلات الرقمية ووسائل التتبع تملك قدرة كبيرة على إعادة بناء تسلسل الأحداث بعد الحادث، لكنها لا تضمن وحدها إعادة بناء كاملة للحادث، إذ إن تعقيد الأنظمة العسكرية والغموض التقني والظروف العملياتية قد يترك فجوات لا يمكن سدها من خلال الاحتفاظ بالبيانات.
ولذلك تحتاج قابلية التتبع إلى تصميم مسبق وآليات تنظيمية تضمن تسجيل الأحداث المهمة وإمكانية الوصول إليها عند التحقيق.
وفي بيئات القتال الشديدة السرعة، يرى بوالانين أن الإشراف البشري قد يصبح صعبا، وفي هذه الحالات لا يكفي الاعتماد على وجود المشغل، إنما قد تكون هناك حاجة إلى قيود أشد على تصميم المنظومة ومكان استخدامها وطريقة تشغيلها.
وترى فين أن الخطوة التالية ينبغي أن تكون بدء التفاوض على معاهدة دولية ملزمة ضمن جدول زمني قصير، بدلا من استمرار النقاش لسنوات إضافية، إذ ترى أن تأييد 128 دولة للوثيقة يوفر قاعدة سياسية يمكن البناء عليها، لكن المطلوب هو تفويض واضح للانتقال إلى التفاوض.
وإذا تعذر التوصل إلى إجماع على بدء المفاوضات، فإن فين تقترح تحرك الدول الراغبة في وضع قواعد ملزمة مع الدول المستعدة للتفاوض بدلا من انتظار الأطراف الأكثر تحفظا.
ختاما، فإن المعضلة الحقيقية لا تتمثل في قدرة الخوارزمية على اكتشاف الهدف وحدها، إنما في اللحظة التي تصبح فيها قادرة على اختيار من يجب أن يموت، بينما يبقى الإنسان الذي يفترض أن يتحمل القرار بعيدا عن تفاصيله.
ومع تسارع تطوير هذه الأنظمة، قد يصبح الاختبار الأهم للقواعد الدولية ليس وجود الإنسان في سلسلة القتل، إنما إذا كان ما يزال يملك المعرفة والوقت والقدرة الفعلية على منع المنظومة من اتخاذ قرار لا يمكن التراجع عنه.
