صانعو القرار "الخوارزميون الجدد" اليوم ليسوا من البشر، وهم بمثابة الحكّام الفعليين الذين يتمتّعون بسيادةٍ شبه مطلقةٍ على حياة البشر، الأمر الذي أصبح يُمهّد الطريق لنشوء نظامٍ إقطاعيّ عالميّ جديد، ولكنّه هذه المرّة تكنولوجيّ وليس زراعيّا.
أيّ دور يتبقّى للبشر عندما يُتّخذ قرار بالقتل من طرف آلة؟
لنفهم ذلك، لنفكّر في خوارزمية تتحكّم في ملايين السيارات ذاتية القيادة؛ أو مجموعة من الخوارزميات التي تعمل على غربلة وترشيح الأخبار التي تؤثر في المعتقدات والتفضيلات السياسية والترفيهية والفنية لملايين الشبكيين حول العالم؛ أو خوارزمية تتوسّط في توزيع الموارد والعمل في اقتصاد كامل؛ أو خوارزميات مبثوثة في الكثير من الأشياء تجمع البيانات وتنظّم المعلومات وتراقب البشر، لتصدر أمرًا لمُسيّرةٍ في الهواء بتصفية أو تصنيف أحدهم كهدف. فأيّ دورٍ يتبقّى للبشر عندما يُتّخذ قرار بالقتل أو التصفية من طرف آلة/خوارزمية؟ هذه العلاقة المعقّدة تُشبه "علاقة حكومةٍ بمحكومين"، أكثر منها "علاقةً بين خوارزمية ومُشغّلها".
لم يكن مفهوم "الخوارزميات القاتلة" مُصطلحًا شائعًا فيما سبق، لكنّه في الفترة الأخيرة حضر بكثافةٍ في التغطيات الإعلامية للنزاعات والحروب حول العالم، وتقارير الهيئات والمنظمات الحقوقيّة، بخاصّة في سياق الحرب بين روسيا وأوكرانيا، وبين الهند وباكستان، وعلى نحوٍ أشدّ كثافة وضراوة فيما يخص الحرب التي تشنّها إسرائيل على غزّة. ومنه أصبح التعريف الأشدّ تداولًا في الفعّاليات الدولية حوله ــ أي الخوارزميات القاتلة ــ والأقرب لتوضيح الظاهرة، ما اقترحته اللجنة الدولية للصليب الأحمر وأشارت فيه إلى أنّ "منظومات الأسلحة ذاتية التشغيل، يُقصد بها منظومات أسلحة مُصمّمة لاختيار هدفٍ واحدٍ أو أكثر ومهاجمته من دون الحاجة إلى تدخلٍ بشريّ بعد تفعيلها". ويشمل ذلك اليوم خوارزميات الذكاء الاصطناعي والمُسيّرات ذاتية القيادة والطائرات الانتحارية والمتفجّرة وما إلى ذلك، والتي تعمل على اختيار الهدف وتصنيفه واعتراضه ومهاجمته باستخدام القوة، وفي غالب الأحيان من دون تلقّي قراراتٍ من البشر.
حرب إسرائيل على غزّة تُمثّل نموذجًا صارخًا لتصاعد مخاطر تكنولوجيا الذكاء الاصطناعي
كان من نتائج هذه التطوّرات، أن اجتمع فريق الخبراء الحكوميين التابع لاتفاقية الأسلحة التقليدية، ما بين 26 و29 أغسطس/آب 2024، لوضع بيان حملةٍ بعنوان "أوقفوا الروبوتات القاتلة"، وهي تحالف عالمي يضمّ أكثر من 250 منظمة مجتمع مدني عبر أكثر من 70 دولة، يجمعها التزام مشترك بضمان وجود تحكّم بشري فعّال في استخدام القوة. وقد كان وراء إطلاق الحملة مجموعة من التقارير التي وردت إلى الفريق، والتي تُفيد باستخدام إسرائيل في غزّة أنظمة دعم قرار تعمل بالذكاء الاصطناعي، تقترح أهدافًا بشريةً لتصفيتها. ووفقًا للتقارير، فإنّ المُتابعة والإشراف البشري على هذه الاقتراحات كانت محدودةً للغاية، ممّا ساهم وبشكل مباشر في إلحاق أضرار هائلة ومدمّرة بالمدنيين. فالحرب الأخيرة التي تشنّها إسرائيل على غزّة باستخدام الروبوتات القاتلة، تُمثّل نموذجًا صارخًا لتصاعد مخاطر تكنولوجيا الذكاء الاصطناعي، التي تقوّض عملية اتخاذ القرار البشري، ومعنى "السيطرة البشرية"، وتؤدّي إلى نزع الطابع الإنساني الرقمي في استخدام القوة، واتخاذ قرارات القتل والتصفية.
وفي مثل عالم اليوم الذي نحيا فيه، شديد التوتّر والاستقطاب والتغالب، فإنّ الحاجة ملحة إلى المزيد من النضال والمقاومة والضغط، ضدّ شركات التكنولوجيا العملاقة، ومتربّحي اقتصاد الإبادة، وصانعي القرار الخوارزمي الجدد، من أجل تبنّي الإشراف الإنساني على الخوارزميات والروبوتات. وبدل أن تراقب خوارزميةٌ خوارزميةً أخرى، وقد تتنكّر لها وتتفلّت منها بسهولة، وجب أن يحضر الإنسان ضمن حلقات الروبوتات القاتلة، مخافة انفلات لفياثان التكنولوجيا من عقاله.
الحاجة ماسة لبناء مؤسّسات وأدوات تسمح ببرمجة وتصحيح ومراقبة العقد الاجتماعي الخوارزمي بين البشر والروبوتات
إنّ وجود الإنسان المُراقِب بدل المُراقَب، سيُحقّق وظيفتَيْن أساسيتَيْن في نظام الذكاء الاصطناعي، الفارِّ على نحوٍ متسارعٍ من رقابة البشر (الحلقات الآلية المحضة): أولًا التعرف إلى السلوك الخاطئ، وثانيًا اتخاذ الإجراء التصحيحي. بمعنى آخر، فإنّ الحرب على غزّة باستخدام الروبوتات القاتلة، قد أوجدت حاجةً ماسةً، لبناء مؤسّسات وأدوات تسمح للبشر ببرمجة، وتصحيح، ومراقبة العقد الاجتماعي الخوارزمي بين البشر والروبوتات الحاكمة. وكلّما تمّت برمجة المزيد من وظائف الحكامة والتنظيم في خوارزميات الذكاء الاصطناعي، كلّما كانت الحاجة أشدّ إلى بناء قنوات بين القيم البشرية وخوارزميات التحكّم وصناعة القرار.
