رسمت الصراعات الأخيرة في الشرق الأوسط صورة متكررة من الأذى غير المتناسب الذي لحق بالمدنيين في فلسطين ولبنان وإيران. وكانت تقنيات الذكاء الاصطناعي (AI) في صدارة التقارير العلنية، مع استخدام الجيش الإسرائيلي للذكاء الاصطناعي لتحديد الأهداف وتوليدها بسرعة غير مسبوقة. وما كان في السابق عملية يقودها البشر لجمع المعلومات الاستخباراتية والتحقق منها، أصبح اليوم يُفوّض، جزئياً، إلى آلات قادرة على إنتاج آلاف التوصيات المتعلقة بالأهداف خلال جزءٍ صغير من الوقت.

بينما يجادل الجيش الإسرائيلي بأن هذه الأنظمة تعزز الدقة، تشير مجموعة متزايدة من الأدلة إلى واقعٍ أكثر إثارةً للقلق: إذ إن تسارع وتيرة الحرب ترافق أيضًا مع تزايد أعداد القتلى المدنيين. ولا يُعدّ استخدام الذكاء الاصطناعي السبب الوحيد لهذه النتيجة؛ بل، كما وصف الصحافي الاستقصائي الإسرائيلي يوفال أبراهام، فإن "ما فعله الذكاء الاصطناعي هو أنه أتاح لإسرائيل تحقيق النتائج الفعلية للقصف المكثف من دون فقدان شرعية الهجوم القائم على البيانات والأهداف المحددة".

تبحث هذه الورقة في كيفية تفاعل أنظمة دعم القرار القائمة على الذكاء الاصطناعي مع العقائد العسكرية القائمة، والممارسات العملياتية، والقانون الإنساني الدولي، ما أدى إلى حصيلة من القتلى المدنيين تجاوزت ما شهدته نزاعات معاصرة أخرى. ولا تتمثل الحجة هنا في أن الذكاء الاصطناعي تسبب بهذه النتيجة، بل في أنه ضاعف الإخفاقات القائمة، وفي الوقت عينه، ضاعف سرعة ترجمة تلك الإخفاقات إلى وفيات بين المدنيين، وحجب المساءلة خلف واجهةٍ من الدقة القائمة على البيانات.

الاستهداف المدعوم بالذكاء الاصطناعي وتآكل حماية المدنيين

في 16 آذار/مارس 1968، قُتل أكثر من 400 مدني فيتنامي أعزل على يد جنود أمريكيين في قرية ماي لاي الصغيرة. وأثارت هذه الحادثة، التي عُرِفت لاحقاً باسم "مذبحة ماي لاي"، موجة إدانة واسعة دفعت إلى تعزيز التركيز على حماية المدنيين بعد انتهاء حرب فيتنام عام 1975.

وبعد نحو ثلاثة عقود، شهد الغزو الأميركي للعراق عام 2003 سقوط أعدادٍ كبيرة وغير متناسبة من الضحايا المدنيين نتيجة استخدام الذخائر العنقودية في مناطق مأهولة بالسكان، ما أعاد تسليط الضوء على العمليات العسكرية الأمريكية. وأدى ذلك لاحقاً، بعد نحو عقدين، إلى تطوير "خطة العمل للتخفيف من الأضرار المدنية والاستجابة لها" (CHMR-AP)، التابعة لوزارة الدفاع الأمريكية، عام 2022. وتهدف هذه الخطة، بحسب ما يُعلن عنها، إلى تحسين كيفية تقليل وزارة الدفاع الأمريكية للأضرار المدنية والاستجابة لها أثناء العمليات العسكرية، عبر استراتيجيات تشمل 11 هدفاً، تراوح بين القيادة التنفيذية وإدارة البيانات.

وتُظهر هذه الخطة الطبيعة المتجذرة والمنهجية للعقائد والاستراتيجيات والعمليات العسكرية، إلى حد أن استراتيجية الحدّ من الأضرار المدنية تتطلب عشرات الأهداف، لكلّ منها خطط عمل متعددة المراحل. فواقع الحد من الأضرار المدنية في الحروب يقوم على شبكة معقدة من بروتوكولات صنع القرار التي تتجاوز ساحة المعركة نفسها. وتتأثر هذه العملية المعقدة بشكلٍ مباشر بالاستخدام المتزايد للأنظمة العسكرية المدعومة بالذكاء الاصطناعي في عمليات الاستهداف.

وساهم استخدام أنظمة دعم القرار المعتمدة على الذكاء الاصطناعي (AI-DSS) في الحرب الإسرائيلية على غزة في ارتفاع هائل في أعداد الضحايا المدنيين، بوتيرةٍ تجاوزت حروباً حديثة أخرى. وتشير بيانات عسكرية إسرائيلية إلى أنه، حتى أيار/مايو 2025، كان خمسة من كل ستة فلسطينيين قتلوا على يد القوات الإسرائيلية في غزة (83 في المئة من القتلى) من المدنيين. ونظرًا لأن الأضرار المدنية تنتج عن كلّ من وسائل الحرب (كالأسلحة أو أنظمة التسليح أو المنصات العسكرية) وأساليبها (كالاستراتيجيات والتكتيكات وحدود "الأضرار الجانبية" وكيفية استخدام الأسلحة في العمليات القتالية)، فإن  الأساليب الإسرائيلية طويلة الأمد في جمع المعلومات الاستخباراتية واتخاذ قرارات الاستهداف لعبت دورًا مهمًا في ارتفاع عدد الضحايا المدنيين.

وفي حين أن استخدام أنظمة دعم القرار المعتمدة على الذكاء الاصطناعي (AI-DSS) ليس السبب الوحيد وراء أزمة الضحايا المدنيين في غزة، إلا أنه سرّع وتيرة عمليات الاستهداف. في عام 2024، نشرت صحيفة واشنطن بوست تقريراً أوضحت فيه كيف أدى استخدام الجيش الإسرائيلي لهذه الأنظمة في غزة إلى تسريع سقوط الضحايا المدنيين، مستندةً إلى ثلاثة عوامل رئيسية: خفض سقف الخسائر المدنية المقبولة، وتسارع تحديد الأهداف نتيجة الأتمتة، ودقة هذه الأنظمة المشكوك فيها.

يبقى تحديد عدد الضحايا المدنيين المقبول في أي عملية استهداف حكماً عسكرياً، إذ لا تنصّ اتفاقيات جنيف أو القانون الإنساني الدولي على أرقام أو حدود دقيقة في هذا المجال. لكن المبدأين الواضحين في هذا السياق هما مبدأ التمييز، الذي يفرّق بين المدنيين والمقاتلين، ومبدأ التناسب، الذي يُلزم الدول باتخاذ جميع التدابير الاحترازية الممكنة لتجنب الأضرار العرضية بحقّ المدنيين.

إن حدود الخسائر المدنية المقبولة لا ترتبط بالتكنولوجيا المُستخدمة؛ سواء كانت ذخائر عنقودية أو أنظمة دعم قرار تعتمد على الذكاء الاصطناعي. غير أن مبدأي التمييز والتناسب ينطبقان بشكلٍ قاطع. إذ إن وسائل وأساليب الحرب لا تغيّر من طبيعة هذين المبدأين.

ومع ذلك، فإن السرعة والنطاق اللذين توفرهما أنظمة الذكاء الاصطناعي للجيوش يفرضان تحدياتٍ على المبادرات الإجرائية والسياساتية، لا سيما تلك المتعلقة بالممارسات العملياتية. فأتاحت هذه الأدوات تسريع تحديد الأهداف، حتى أصبحت قادرة على إنجاز في شهر واحد ما كان يتطلب عامًا كاملًا. ويؤثر هذا التسارع في الممارسات العملياتية عبر عوامل مثل «التحيز التأكيدي» و«سوء تحديد الأهداف». يشير التحيز التأكيدي إلى الميل إلى تفسير المعلومات بطرق تعزز الافتراضات المسبقة، ما يعني أن المحلل أو القائد قد يمنح وزناً أكبر للبيانات التي تبدو مؤكدة لقناعاته المسبقة حول هدف مشتبه به، بينما يتجاهل المؤشرات المتناقضة.

لا تقتصر مشكلات التحيز التأكيدي وسوء تحديد الأهداف على التقنيات المدعومة بالذكاء الاصطناعي وحدها. فعلى الرغم من أن "خطة العمل للتخفيف من الأضرار المدنية والاستجابة لها" تتضمن إشارات إلى الذكاء الاصطناعي، فإنها تتناول أيضًا مشكلات سبقت ظهور هذه الأنظمة، من ضمنها مخاطر سوء تحديد الأهداف الناتجة عن الإنحيازات الإدراكية، مثل التحيز التأكيدي. وتشمل هذه التدابير تدريبات للتخفيف من الانحيازات المعرفية، ومراجعة التدريب التقني لمحللي الصور والمتخصصين في الاستخبارات. لكن التحدي يكمن في أن السرعة والنطاق اللذين تتيحهما هذه الأنظمة يختصران بشكلٍ حاد فرص تطبيق هذه الإجراءات.

ومن أبرز عوامل الجذب في الذكاء الاصطناعي قدرته على تحليل كميات ضخمة من البيانات خلال فترات زمنية قصيرة للغاية. لكن تقليص مدة تحديد الهدف من عامٍ كامل إلى شهر واحد فقط يعني أيضًا تقيل فرص التحقق من صحة هذه الأهداف، ما يوسع مجال الخطأ وسوء التحديد والتحيز التأكيدي. وتفاقم الدقة المشكوك فيها لهذه الأنظمة اختلال التوازن بين السعي إلى السرعة والنطاق من جهة، وتقليل الأضرار المدنية من جهةٍ أخرى. وتتطلب معالجة هذا الخلل تدخلات على المستويات السياساتية والعملياتية والتقنية، ما يستدعي فهماً عميقاً للأسس التقنية لأنظمة دعم القرار المعتمدة على الذكاء الاصطناعي.

كيف تعمل أنظمة دعم القرار المعتمدة على الذكاء الاصطناعي؟

طوّر الجيش الإسرائيلي واستخدم مجموعة من الأدوات المدعومة بالذكاء الاصطناعي في أنحاء قطاع غزة، ثم نقل استخدامها لاحقاً إلى اجتياحه لجنوب لبنان. وشملت الأدوات المستخدمة في غزة: "هابسورا" أو "الإنجيل"، وهو نظام يحدد المباني والمنشآت التي قد تحتوي على أهداف أو تستخدم لتنفيذ عمليات؛ و"لافندر" الذي يحدد الأشخاص المشتبه بانتمائهم إلى حركة حماس أو جماعات مسلحة أخرى لاستهدافهم؛ و"أين أبي" الذي يتعقب الأفراد ويستهدفهم عبر هواتفهم المحمولة.

تعد هذه الأنظمة أمثلة على أنظمة دعم القرار المعتمدة على الذكاء الاصطناعي (AI-DSS). وفي سياق العمليات العسكرية، يشير هذا المصطلح إلى أدوات تجمع البيانات وتحللها لتقديم توصيات قابلة للتنفيذ تساعد صناع القرار العسكري. ويمكن تصنيف وظائف هذه الأدوات ضمن ثلاث مهام رئيسية:

1. الوصف والتحليل: جمع البيانات وتنظيمها وعرضها.
2. التنبؤ والاستقراء: تحديد الأنماط والاتجاهات في البيانات، بما يشمل توقع النتائج المحتملة واحتمالات حدوثها.
3. التوصيات: تقديم توصيات بشأن أكثر مسارات العمل فعالية.

تعتمد أنظمة دعم القرار هذه على البيانات والبرمجيات. وتُبنى غالباً على نماذج التعلم الآلي، كما أنها ذات طبيعة احتمالية، إذ إن مخرجاتها تستند إلى تنبؤات إحصائية لا إلى منطق حتمي مباشر. وتُعرف هذه الأنظمة بأنها أنظمة تعلّم، وتستخدم عادةً ثلاث فئات رئيسية من أساليب التعلّم لتدريب نماذجها:

1. التعلم المشرف: يصنّف البشر بيانات التدريب ووضع تسميات لها، ثم يُضبط النموذج تلقائيًا لإعادة إنتاج هذه التصنيفات البشرية.
2. التعلم غير المُشرف: لا تُقدّم أي تسميات للبيانات، بل يعمل النموذج على اكتشاف الأنماط فيها، مثل تكوين المجموعات أو التصنيفات. وقد يتطلب الأمر تدخلاً بشرياً لفهم هذه الأنماط وتفسيرها.
3. التعلم المعزز: يعتمد على نظام المكافأة والخسارة لمعالجة البيانات من خلال ما يُعرف بـ"دالة الخسارة" – وهي تعبير كمي عن مقدار الخطأ. وتشير قيم الخسارة المرتفعة إلى أن أداء النموذج غير مرضٍ، ما يدفع إلى إدخال تغييرات كبيرة على استجاباته المستقبلية، بينما تعني القيم المنخفضة أن الأداء يسير في الاتجاه الصحيح. يمكن أيضًا استخدام المدخلات البشرية لتحسين الأداء.

يعتمد أداء هذه الأنظمة بدرجة كبيرة على مجموعات البيانات التي دُرّبت عليها، بالإضافة إلى أساليب التعلم المستخدمة داخل النظام. ولا تزال مسألة إعداد مجموعات بيانات دقيقة وفعالة وموثوقةموضع جدلٍ مستمر في كل من القطاعين المدني والعسكري. غير أن ما يميز المخاوف في المجال العسكري هو حجم الضرر المحتمل الناتج عن هذه القيود، ولا سيما الأذى الذي قد يلحق بالمدنيين بسبب أخطاء التعرف أو سوء التحديد.

كان القصف الأخير لمدرسة ميناب في جنوب إيران نتيجة الاعتماد على مجموعة بيانات قديمة. فكانت مدرسة "شجرة طيبة" مصنفة سابقًا كمنشأة عسكرية؛ لكنها فُصلت عن الاستخدام العسكري وحُوّلت إلى مدرسة بحلول عام 2016 على أبعد تقدير. وهذا يعني أن مجموعة البيانات التي كان يستخدمها الجيش الأمريكي لم تُحدّث أو تُراجع بشكلٍ كافٍ طوال عقد كامل. وفي حين أن إعداد مجموعة بيانات تمثل بدقة كل تفاصيل بيئة العمليات العسكرية، لا سيما في بيئة متغيرة وديناميكية، يعدّ أمراً شبه مستحيل، فإن تحويل منشأة عسكرية إلى مدرسة لا يمكن اعتباره تفصيلاً شاذاً يمكن تجاهله أو التغاضي عنه.

وتُكرّس التحيزات الكامنة في البيانات، الناتجة عن تحيزات اجتماعية تاريخية أو قائمة مسبقاً، أخطاء منحازة داخل هذه الأنظمة، ما قد يؤدي في النهاية إلى انتهاك مبدأي التمييز والتناسب في القانون الدولي الإنساني.

ما يبدو ظاهرياً مشكلة تقنية بسيطة – أي تحسين دقة أنظمة دعم القرار المعتمدة على الذكاء الاصطناعي (AI-DSS) وتقليل التحيز – يتبين عملياً أنه قضية شديدة التعقيد ومتعددة الطبقات، تتطلب الجمع بي البنى الرقمية الرياضية من جهة، والمبادئ التي تستلزم حكماً بشرياً ملائماً للسياق من جهة أخرى، وهي قدرة لا يمكن اختزالها في شيفرة برمجية.

هل يمكننا تصميم أنظمة دعم القرار المعتمدة على الذكاء الاصطناعي لحماية المدنيين؟

يمكن اعتبار التمييز مبدأً ثنائياً – فإما أن يكون الشخص مقاتلاً أو لا يكون. لكن لا يمكن تأطير مبدأ التناسب بالطريقة عينها. يمكن تقنياً التعبير عن التناسب رقمياً عبر تحديد عدد الضحايا المدنيين المقبول في عملية عسكرية معينة، إلا أن طبيعة هذا المبدأ تبقى ذاتية، وتعتمد على السياق، وتتوازن مع الضرورة العسكرية، وهي خصائص لا تنسجم مع الطبيعة الكمية لأنظمة دعم القرار المعتمدة على الذكاء الاصطناعي.

قد تشمل الجوانب العملية التقنية لمبدأ التمييز تحسين التعرف إلى العلامات أو الشارات مثل الصليب الأحمر أو الصحافة؛ وتعزيز آليات التحقق والتدقيق في الأهداف المحددة لتقليل احتمالات الخطأ في التعرف إليها؛ وتحسين كيفية إعداد ملفات تعريف الأهداف. غير أن هذه التدابير لا يمكن أن تكون كافية بمفردها، بل تتطلب سياسات وممارسات عملياتية مُكمّلة للحدّ أكثر من الأذى اللاحق بالمدنيين. فقد وردت تقارير متعددة عن قتل القوات الإسرائيلية مسعفين تابعين للصليب الأحمر وصحافيين يرتدون ملابس واضحة تحمل إشارات الصحافة ويستقلون مركبات صحفية مميزة بوضوح. لم تكن الشارات المرئية والمركبات والملابس المميزة كافية لردع هذه الهجمات، لأن التعرف إلى هذه السمات ليس سوى جزء صغير من المشكلة الأساسية. وتشير تقارير إلى أن الجيش الإسرائيلي يخصص نحو 20 ثانية فقط للموافقة البشرية على تحديد الأهداف الآلي. يمكن أن تساعد السياسات والممارسات العملياتية المناسبة في الابتعاد عن الإشراف البشري الشكلي والاستعراضي، الذي لا يتجاوز عملياً دور "الختم المطاطي". مع الإشارة إلى وجود تقارير تفيد بأن بعض هذه الهجمات كانت مُتعمدة، ما يسلط الضوء على إشكاليات أوسع تتعلق بالاستراتيجيات والعمليات العسكرية.

وعلى الرغم من أن مبدأ التناسب ذاتي ويعتمد على السياق، فإن تطبيقه عملياً ينتهي في الواقع إلى مسألة أرقام. خلص تحقيق أجرته صحيفة نيويورك تايمز إلى أن إسرائيل رفعت سقف الخسائر المدنية المقبولة في غزة ضمن الضربة الواحدة من 10 إلى 20 شخصاً، وسمحت في بعض الحالات بإلحاق الأذى بأكثر من 100 مدني وفق كل حالة على حدة.

إن التناسب والضرورة العسكرية يتوازنان بشكلٍ هش عبر عناصر الدقة والذاتية والسياق. وفي حين أن التطبيق العملي للتناسب يتحول في النهاية إلى لعبة أرقام، فإن هذه الأرقام يمكن تعديلها وإعادة تقييمها من خلال حكم بشري ملائم للسياق، وهي خاصية تفتقدها أنظمة دعم القرار المعتمدة على الذكاء الاصطناعي. وبينما تثير الإبادة الجماعية التي يرتكبها الجيش الإسرائيلي في غزة واستمرار قصفه لجنوب لبنان تساؤلات حول قيمة وصلاحية الحكم البشري في العمليات العسكرية، وهو آلية معيبة في حد ذاته، فإن الحل لا يكمن في استبدال هذه الآلية المعيبة بأخرى معيبة أيضاً.

الخلاصة

إن تحسين أداء أنظمة دعم القرار المعتمدة على الذكاء الاصطناعي في الاستهداف العسكري، عبر رفع دقتها وتقليص هامش التحيز فيها، لن يحدّ بالضرورة من الأذى اللاحق بالمدنيين، لأن الذكاء الاصطناعي ليس سوى نصف المشكلة. أما النصف الآخر، فيكمن في العقائد العسكرية الأوسع، والاستراتيجيات وطبيعة العمليات العسكرية.

وتبرز أيضًا المُعضلة الوجودية الأعمق المتمثلة في فكرة أن الغاية تبرر الوسيلة، وهي منطق يختبئ بهدوء خلف الخطاب المستهلك عن "الحرب على الإرهاب". ففي حين تقدّم الحكومة الإسرائيلية عملياتها بوصفها حروباً ضد حماس وحزب الله والنظام الإيراني، تكشف الوقائع على الأرض عن حصيلة هائلة من الضحايا المدنيين، تجاوزت ما شهدته أي حرب حديثة أخرى.

وقد فاقم استخدام الذكاء الاصطناعي في النزاعات الدائرة في فلسطين ولبنان وإيران أوجه القصور القائمة أصلاً في العقائد والاستراتيجيات والعمليات العسكرية، كما سرّع ظهور النتائج الكارثية لتلك الإخفاقات إلى العلن. فلم يكن الذكاء الاصطناعي يوماً سبب المشكلة؛ بل كان الوسيلة التي جعلت هذه المشكلة أكثر وضوحاً أمام العالم.