يستعرض كتاب Legal, Ethical and Technical Dilemmas in Military Artificial Intelligence المعضلات القانونية والأخلاقية والتقنية في الذكاء الاصطناعي العسكري، الصادر عن دار نشر “Springer-Verlag Berlin Heidelberg ” مارس 2025: دمج تقنيات الذكاء الاصطناعي الحديثة، سواء الأنظمة الذاتية أو الأنظمة التوليدية (Generative)، في المجال العسكري، وما يترتب على ذلك من تبعات قانونية وأخلاقية دولية تعكس حالة من الخطر والقلق المستمر بشأن استخدام هذه الأنظمة الحديثة في ميدان المعركة المباشر، وما ينجم عنها من أخطار. كما يناقش ما قد تتسبب به هذه الآلات والأسلحة الذاتية من خسائر بشرية غير مقصودة، وما يترتب على ذلك من تبعات قانونية وإنسانية بالغة الخطورة، بالإضافة إلى دور القادة العالميين والقوى الكبرى في هذا السياق الحساس وتأثيره في الأمن الدولي. ويتناول كذلك انعكاسات مخاطر هذه التكنولوجيا، التي لا تزال في طور التطوير، على صناعة القرار العسكري، وتحديد من يتحمل المسؤولية عند وقوع الأخطاء.
الكتاب مُحرَّر من قِبل كلٍّ منBérénice Boutin وهي باحثة أولى في القانون الدولي في معهد T.M.C. Asser بهولندا، وتركز أبحاثها على العلاقة بين الذكاء الاصطناعي والقانون الدولي، وTaylor Kate Woodcock وهي باحثة في القانون الدولي العام، وتهتم بدراسة التفاعل بين الإنسان والآلة وتأثير الذكاء الاصطناعي على الممارسات القانونية، وSadjad Soltanzadeh، هو باحث في فلسفة التكنولوجيا بجامعة توينتي، وتركز أعماله على فهم العلاقة بين الأنظمة التقنية والقدرة البشرية وتأثيرها على اتخاذ القرار. وهم باحثون متخصصون في مجالات القانون الدولي، وساهم في الكتاب مجموعة من الباحثين في مجال العلاقات الدولية والذكاء الاصطناعي[i]، وأخلاقيات التكنولوجيا، وفلسفة التقنية. ويجمع هؤلاء المؤلفين اهتمام مشترك بدراسة التحديات القانونية والأخلاقية والتقنية المرتبطة باستخدام الذكاء الاصطناعي في المجال العسكري.
وفي ضوء ذلك يتناول الكتاب هذه الاشكاليات في أربعة أقسام، الأول بعنوان “التأسيسات النظرية والمفاهيمية”، والثاني بعنوان “التحديات الأخلاقية والقانونية”، والثالث بعنوان “الأساليب التقنية”، أما الرابع والأخير فهو بعنوان “الحوكمة والمساءلة”، يتضمن كل منها عدة فصول تحتوي على أهم جوانب هذه الاشكاليات مع مقترحات مناسبة لإيجاد حلول لها.
القسم الأول بعنوان: التأسيسات النظرية والمفاهيمية:
وهو يتناول مشروعية وقانونية وأخلاقية استخدام تكنولوجيا الذكاء الاصطناعي، والأنظمة التدميرية العسكرية، والأنظمة ذاتية التشغيل في المجال العسكري، ومدى التزام ذلك بالقانون الدولي الإنساني وقواعد القانون الدولي العامة المتعلقة باحترام الحياة الإنسانية.
ويستعرض الفصل الأول مشروع “DILEMA”، وهو مشروع تضمين القانون الدولي والأخلاقيات في تصميم نماذج الذكاء الاصطناعي العسكري لعام 2020، حيث يتناول إدماج هذه الأنظمة في المجال العسكري وما يترتب عليها من تبعات أخلاقية وإنسانية وقانونية، ومدى استخدامها مع احترام الإرادة والتحكم البشري، خاصةً أن نماذج الذكاء الاصطناعي المستقلة لا تدرك الضمير والمعيارية الإنسانية. لذلك يسعى مشروع DILEMA إلى معالجة التحديات القانونية والأخلاقية من خلال مناقشات حول أنظمة الأسلحة الفتاكة ذاتية التشغيل (AWS)، والانتقال من مفهوم الرقابة البشرية الفعالة إلى الإرادة أو الوكالة البشرية، للحد من الأضرار وضمان الامتثال للقانون الدولي.
ويتناول الفصل الثاني فكرة تضمين القانون والأخلاق داخل وعي أنظمة الذكاء الاصطناعي، والتي رغم عدم تعقيدها تقنيًا، فإنها مرفوضة منطقيًا، إذ يجب الحفاظ على سيادة الإنسان داخل أرض المعركة. ويرتبط ذلك بمعضلتين: المشروعية، أي التمييز بين الصواب والخطأ مع وجود التزامات لا يمكن نقلها إلى الآلة، والقابلية للبرمجة، حيث تعجز الأنظمة عن استيعاب تغير سياقات القانون، وتعتمد على التنبؤ غير الدقيق، ويؤكد الكُتَّاب أن الاستدلال القيمي لا يمكن للذكاء الاصطناعي استيعابه في السياق العسكري.
ثم يناقش الفصل الثالث مغالطة تفوق الآلة على الإنسان، وينتقد عزلهما، مقترحًا التكامل بينهما، مع رفض فكرة أن الأداء الأفضل يعني التزامًا قانونيًا أفضل. ويُستخلص من هذا القسم أهمية مشروع DILEMA في ربط استخدام تقنيات الذكاء الاصطناعي الذاتية بالالتزام بالقواعد القانونية الدولية والاخلاقيات الانسانية العامة، مع رفض تفضيل الآلة على الانسان المخترع لها بل الموازنة بين تفاعل الطرفين مع بعضهما البعض.
القسم الثاني بعنوان: التحديات الأخلاقية والقانونية:
يتناول الفصل الرابع جبهة القتال في الفضاء السيبراني، معرفًا القدرات السيبرانية المستقلة (ACC) بوصفها عملاء برمجيين داخل أنظمة الأسلحة تعمل دون إشراف بشري مباشر. وتتمثل المعضلة في خطورة التفاعل بين هذه النماذج والبيئة السيبرانية غير المستقرة، ورغم ذلك تستمر القوى الكبرى في الاستثمار فيها. وسواء استُخدمت لأهداف محددة أو ديناميكية، فإنها تواجه تحديات قانونية بسبب سرعة العمليات التي تفوق قدرة البشر. وينتهي الفصل إلى مجموعة من شروط الأمان، من بينها: توافر بيئة اختبار مستقرة، وضرورة الرقابة البشرية باعتبارها التزامًا قانونيًا وأخلاقيًا، وإعطاء الأولوية لحماية المدنيين، مع إيقاف النظام فور الشك في دقته.
ثم يتناول الفصل الخامس الجدل حول النماذج اللغوية التوليدية مثل ChatGPT في دعم القرار العسكري، نظرًا لقدرتها على تحليل البيانات، مقابل عيوب مثل “الهلوسة” وضعف الفهم القانوني والأخلاقي. ويرتبط ذلك بالمادة (36) من البروتوكول الإضافي لاتفاقيات جنيف، لتحديد ما إذا كانت هذه النماذج تُعد سلاحًا أم وسيلة من وسائل القتال. ويخلص الفصل إلى أن هذا الأمر لا يزال معقدًا بسبب أخطائها، وأنها ما زالت مجرد أداة مساعدة، مع استمرار إشكالية تحديد المسؤولية عند وقوع الخطأ.
ويأتي الفصل السادس ليتناول دمج الذكاء الاصطناعي داخل الجسد البشري، فيما يُعرف بالجندي الخارق، وإشكالية تصنيفه القانوني: هل يظل إنسانًا أم يصبح سلاحًا؟ مع ما يترتب على ذلك من تناقض في تحميل البشر مسؤولية أخطاء أنظمة مدمجة فيهم. وينتهي الفصل إلى وجود غموض قانوني، والحاجة إلى إعادة تعريف مفهوم الإرادة البشرية.
أما الفصل السابع، فيحلل البعد النفسي لمشغلي الأسلحة المستقلة، موضحًا أنها لا تُخفف الشعور بالذنب، بل تزيده تعقيدًا. وفي الختام، يدعو إلى الاستماع لشهادات الجنود إلى جانب المبادئ النظرية.
ويُستخلَص من هذا القسم التحديات القانونية، الأخلاقية، والنفسية لدمج الذكاء الاصطناعي في الحروب، بدءًا من خطورة “القدرات السيبرانية المستقلة” وسرعتها التي تفوق السيطرة البشرية، مرورًا بجدلية استخدام النماذج اللغوية التوليدية في دعم القرار العسكري رغم عيوبها كالهلوسة وصعوبة تحديد المسؤولية. كما أنه يسلط الضوء على الغموض القانوني المحيط بالجندي الخارق وتصنيفه بين الإنسان والسلاح، لينتهي بتحليل البعد النفسي المعقد لمشغلي هذه الأسلحة وضرورة الاستماع لشهاداتهم الواقعية.
القسم الثالث بعنوان: الأساليب التقنية
يستعرض الفصل الثامن دمج أنظمة الذكاء الاصطناعي في أنظمة دعم القرار، موضحًا اختلافها عن الأسلحة الذاتية (AWS) فالأسلحة الذاتية تحدد الأهداف وتهاجم تلقائيًا، بينما تقتصر أنظمة دعم القرار على جمع البيانات وتحليلها، مع بقاء القرار النهائي بيد الإنسان. ثم يقترح الباحثان منهجية «CAIOM (Contextualized Artificial Intelligence for Operational Military)» بوصفها جسرًا يربط بين الخبراء التقنيين والقانونيين والمستخدمين العسكريين، وتعتمد على فهم سياق الاستخدام والبيئة في أرض المعركة. ويخلص الفصل إلى ضرورة تحقيق فهم مشترك بين جميع الأطراف بحيث يدرك المبرمج سياق العمليات العسكرية، ويعي القائد حدود الخوارزميات، مع التأكيد على أهمية التكيف مع طبيعة المهمة. فكلما زادت خطورة الموقف على المدنيين، أصبح التدخل البشري الفوري أمرًا ضروريًا.
وينتقل الفصل التاسع إلى مناقشة المخاطر وحالة عدم اليقين المرتبطة بتقنيات الذكاء الاصطناعي، خاصة معضلة الحوادث الحتمية، حيث قد تُعد بعض الأخطاء القاتلة أضرارًا لا يمكن تجنبها. ويجادل الكاتبان بأن هذه التقنيات تخلق أنماطًا جديدة من المخاطر لا تُكتشف إلا بعد وقوع الضرر، مما يستلزم تدريب الأنظمة على بيئات تحاكي الواقع، والالتزام بالقانون الدولي الإنساني، مع ضرورة التدخل البشري الفوري عند ظهور مؤشرات خطر. كما يؤكدان أن التقييم التكراري، رغم أنه لا يحل جميع المشكلات، يسهم في تقليل الأخطاء ويعكس نية الحد من الخسائر.
بينما يستعرض الفصل العاشر، كيفية دمج قواعد القانون الدولي الإنساني داخل الآلة من خلال ما يُعرف بهندسة الامتثال القانوني، والتي تشمل: التمييز بين المقاتلين والمدنيين، والتناسب بين الميزة العسكرية والضرر المتوقع، واتخاذ الاحتياطات اللازمة لتقليل الخسائر. كما يقدم الكاتبان نموذجًا لعملية الاستهداف يتضمن مراحل: إدخال البيانات، والتجريد والتصنيف، ثم حساب القيم واتخاذ القرار.
ويُستخلص من هذا القسم تمييزه بين أنظمة دعم القرار والأسلحة الذاتية، مقترحًا منهجية “CAIOM” كجسر يربط بين الخبراء التقنيين والعسكريين لضمان وعي القادة بحدود الخوارزميات ومراعاة سياق المعركة، خاصة عند ارتفاع الخطورة على المدنيين، ومناقشته معضلة “الحوادث الحتمية” الناتجة عن عدم اليقين في تقنيات الذكاء الاصطناعي، مؤكدًا على ضرورة التدريب في بيئات محاكية للواقع، والالتزام بالتقييم التكراري والتدخل البشري الفوري للحد من المخاطر غير المتوقعة.
بالإضافة لعرض مفهوم “هندسة الامتثال القانوني” كضرورة حتمية لتشفير قواعد القانون الدولي الإنساني (كالتمييز والتناسب والاحتياط) داخل الآلة.
القسم الرابع والأخير بالكتاب بعنوان (الحوكمة والمساءلة):
يستعرض الفصل الحادي عشر بالحديث عن سباق التسلح وارتباطه بمعضلة الأمن، نظرًا لتسابق الجيوش والقوى العالمية على دمج تقنيات الذكاء الاصطناعي في ترساناتها، بهدف تسريع دورة “OODA” (الملاحظة – التوجيه – القرار – الفعل) وتحقيق التفوق على الخصوم. ثم ينتقل إلى أزمة الجمود في حوكمة الذكاء الاصطناعي، حيث توقفت النقاشات عند حدود المبادئ العامة دون تحويلها إلى قواعد قانونية ملزمة. ويخلص إلى دعوة المجتمع الدولي لتحقيق هدفين رئيسيين: تجاوز مرحلة التصريحات إلى مرحلة القواعد واللوائح الملزمة، واعتماد مبدأ المسؤولية إطارًا موحدًا يربط مختلف قضايا الحوكمة.
ويستكمل الفصل الثاني عشر تناول الذكاء الاصطناعي بوصفه أداة للهيمنة، مشيرًا إلى استثمارات القوى الكبرى، مثل الولايات المتحدة وحلف الناتو، وطموح الصين لقيادة هذا المجال بحلول عام 2030، واعتبار روسيا له أولوية استراتيجية. كما يناقش فشل المفاوضات الدولية في الحد من هذا التسابق، خاصة في ظل تعقيدات الحرب الروسية الأوكرانية وخروج روسيا من التوافقات الدولية.
ويطرح الكاتبان عددًا من المقترحات بوصفها خط دفاع أخير، من بينها: بناء تحالفات بين الدول المتشابهة، وفرض رقابة وطنية للحد من انتشار هذه التقنيات، ودمج الأخلاق والقانون في تصميم الأنظمة، وسن تشريعات صارمة تضمن الحد الأدنى من التحكم البشري. ويؤكدان أن هذه الإجراءات أصبحت ضرورة لحماية الإنسانية.
ويناقش الفصل الثالث عشر والأخير، مسألة من يتحمل المسؤولية عند أخطاء الذكاء الاصطناعي العسكري؟، موضحًا صعوبة تحديد المسؤول بسبب الطبيعة غير المتوقعة لهذه الأنظمة، وهو ما قد يؤدي إما إلى تحميل المشغل البشري كامل المسؤولية، أو إلى تهرب الدول منها. وأن المسؤولية يجب أن تكون موزعة بين المطورين والقادة والمشغلين، مع التأكيد على أن عدم القدرة على التنبؤ لا يعفي الدولة من المسؤولية، بل يفرض عليها رقابة كاملة، باعتبارها المسؤول الأول عن استخدام هذه الأنظمة.
ويُستخلص من هذا القسم أبعاد سباق التسلح السيبراني وسعي القوى الكبرى لتسريع اتخاذ القرار العسكري، مما تسبب في جمود الحوكمة الدولية وفشل المفاوضات. والحماية الإنسانية، يقترح الكتاب “خطوط دفاع” تشمل تحالفات دولية وتشريعات تضمن التحكم البشري، مؤكدين أن المسؤولية القانونية عن أخطاء هذه الأنظمة غير المتوقعة هي مسؤولية تضامنية وموزعة (بين المطورين، القادة، والمشغلين) ولا تعفي الدول من التزاماتها.
التحليل النقدي:
من الناحية الموضوعية نجد أن الكتاب قدم تحليلًا شاملًا لمختلف جوانب استخدامات الذكاء الاصطناعي العسكري، بما في ذلك الأنظمة ذاتية التشغيل التي أثارت الجدل الأكبر، نظرًا لما تطرحه من إشكاليات متعددة ترتبط بالقانون الدولي الإنساني ومبادئ الأخلاقيات العامة في الحروب. ويعود ذلك إلى ما قد تسببه هذه التقنيات شديدة التدمير من خسائر بشرية كبيرة، باعتبارها أنظمة لا تدرك القيم أو الأخلاق أو القواعد القانونية، ولا تستطيع التمييز بدقة بين المقاتل والمدني، لأن هذه المجالات تعتمد أساسًا على الفهم والإدراك والتقييم البشري للبيئة المحيطة والسياق.
وحتى في حال إمكانية برمجة هذه الأنظمة لاستيعاب بعض هذه الجوانب، يظل التساؤل قائمًا: كيف يمكن إقناع صُناع القرار والمجتمع الدولي بضرورة الحد من التوسع في استخدامها، في ظل تجاهل أو تقليل تبعات ذلك على الأمن الدولي وحماية الأرواح الإنسانية؟
لكن على الناحية الشكلية فإن المؤلفين لم يضعوا خاتمة أو توصيات استراتيجية تجمع استنتاجاتهم المختلفة عبر أجزاء الكتاب الأربعة أو حتى توصيات مقدمة لصناع القرار والمجتمع الدولي حول الصورة الكلية لخطر التوسع في أنظمة الذكاء الاصطناعي العسكري الذاتية وكيفية إيجاد حلول بديلة تحقيقًا وتأكيدًا على أهمية تطبيق القانون الدولي الانساني كعامل أساسي مؤثر في الأمن والاستقرار الدوليين.
[i] Bérénice Boutin, Taylor Kate Woodcock, Sadjad Soltanzadeh, Sadjad Soltanzadeh, Klaudia Klonowska, Taylor Kate Woodcock, Marta Stroppa, Elisabeth Hoffberger-Pippan, Thomas Christian Bächle, Tine Molendijk, Sofie van der Maarel, Lonneke Peperkamp, Iris Cohen, Gregor Pavlin, Rianne Gouman, Jonathan Kwik, Tomasz Zurek, Tom van Engers, Sofia Romansky, Tim Sweijs, Marcel Schliebs, Vanessa Vohs, Bérénice Boutin.
