تقنية

مستقبل الحروب يعني المزيد من القتل

يعتقد تقرير لوزارة الدفاع البريطانية أن الروبوتات التي تقتل بلا رحمة سوف تضطلع بصراعات الغد
TW
إعداد Tom Whyman
8.11.18
الذكاء الاصطناعي
من تقرير المستقبل يبدأ اليوم

الروبوتات القاتلة، إذا كانت هذه الكلمات تجعلك تشعر بأي شيء غير الخوف، فمن المؤكد أنك تعمل في مجال التكنولوجيا العسكرية (وفي هذه الحالة: تهانينا على ما نفترض أنه عمل مجزي لك، ولكن أيضًا: لديك واجب أخلاقي عاجل لتدمير كل شيء تفعله شركتك).

جعلت التطورات في الذكاء الاصطناعي أنظمة الأسلحة (الدبابات، والسفن، والبنادق، والطائرات) أن تكون ذاتية التشغيل بشكل كامل وعلى الرغم من بعض الجهود التي تبذلها الأمم المتحدة لحظر استخدامها، من المتوقع أن تلعب هذه الآلات دورًا بارزًا بشكل متزايد في النزاعات العسكرية التي تحدد بشكل دقيق مصير القرن الحادي والعشرين. هذا، على أي حال، هو واحد من بين عدد من التكهنات التي قدمها تقرير وزارة الدفاع البريطانية الذي نشر في وقت سابق من هذا الشهر، والذي أخذ كل الأمور في الاعتبار، تحت عنوان مخيف "المستقبل يبدأ اليوم" "The Future Starts Today".

إعلان

ووفقا لواضعي هذا التقرير فإنه في حين أن "الحرب بطبيعتها نشاط بشري يُحدد شخصيته السياسة والاستراتيجية والمجتمع والتكنولوجيا" فإن الدور المتزايد للإنسان الآلي القاتل في الصراعات المستقبلية يمكن أن "يغير طبيعة الحرب" مع قليل من التركيز على العواطف والمشاعر والاحتمالات." يتبع هذا السياق بشكل مباشر الصورة الموجودة أعلاه لروبوت يقف في حقل لنبات اللافندر، لست متأكدًا كيف يجب علينا أن نفسر هذه الصورة، فمن ناحية: تم تصوير الروبوت نوعا ما في فترة الغروب حيث الشمس تغرب في السماء، مما يلمح للانسجام مع الطبيعة، ومن ثم العالم.

الروبوتات في الصراعات العسكرية جيدة. فهم يساعدوننا، وهو يعني أيضًا أن عدد أقل من الجنود سيموتون. من ناحية أخرى، يبدو أن الروبوت يتطلع إلى شيء بعيدًا عن الصورة، والذي من المفترض أنه على وشك تدميره، قد يكون ما يتم تدميره إرهابيًا شريراً، أو قد يكون قرية كاملة من الناس الأبرياء، أعتقد أن ذلك يعتمد على ما تقرره الخوارزمية. وهذا على ما أظن، هو المشكلة: فمن يعرف ما الذي سيقرر نظام الذكاء الاصطناعي تدميره في النزاع العسكري؟ يمكن أن يكون العدو، أو يمكن أن يكون أنت وكل من تحب.

لا تقوم الخوارزميات دائمًا بما يفترض أن تقوم به، فهي تميل إلى استيعاب الأفكار المُسبقة والانحيازات السابقة والتي يمكن أن تؤدي إلى آثار جانبية غير متوقعة، وهذا يتوقف على مدى الفساد الذي لدينا على مر التاريخ، والذي، إذا كنا نتحدث عن عمل عسكري هنا، فإنها تبدو قذرة وسيئة للغاية بالفعل. وهذا سبب آخر يفسر أن حظر استخدام الخيال العلمي التقليدي أمام الروبوتات القادرة على العنف تجاه البشر هو أمر منطقي للغاية.

يقر واضعو التقرير بأن "الآلة" قد لا تأخذ في الاعتبار المعاناة الإنسانية وقد تلجأ فورا اللجوء إلى العنف

ومع ذلك فإن التقرير لا يبالي تماماً بإمكانية لعب الأسلحة ذاتية التشغيل دوراً مركزياً في النزاعات المستقبلية، مبدئيا على الأقل، يشير واضعو التقرير إلى أنه "من المحتمل استخدام آلات قادرة على القتال في ساحة المعركة تحت إشراف بشري وثيق" ومن المفترض أن هذا سيحد من إمكاناتهم في أن يتخلصوا منّا ويقتلوننا جميعًا (سيتم احتواء القتل بالطريقة العادية، بحيث يقتصر فقط على الأهداف التي حددها البشر).

ولكن "مع نمو الثقة في قدرات الآلات، يمكن توظيفها بعيداً عن الإشراف البشري" ومن المحتمل أن يكون لهذا عواقب أخلاقية "كبيرة" ويقر واضعو التقرير بأن "الآلة" قد لا تأخذ في الاعتبار المعاناة الإنسانية وقد تلجأ فورا إلى العنف. لكن هذا هو فقط سيناريو لأسوأ الاحتمالات. بدلا من ذلك، يتكهن واضعو التقرير أنه: "بمنأى عن الغرور، والغطرسة والنعرات القومية، يمكن أن يقوم الذكاء الاصطناعي بشكل أكثر عقلانية بحساب التكاليف المحتملة للصراع، ومن ثم منع الدول من اتخاذ قرارات متهورة، حيث يمكن للحسابات الهادئة والمنطقية طويلة الأمد المحتملة للآلات إزالة الهوس بالحرب، وقد يصبح العنف جزءًا متراجعا من الصراع." قد يبدو ذلك جيدًا، لكننا نتحدث عن أسلحة ذاتية التشغيل لعينة، فلماذا لا تكون قلقا بشأن هذا؟

إعلان

الروبوتات القاتلة ليست هي المحور الأساسي في تقرير "The Future Starts Today". وبالأحرى، يقدم التقرير مسح استقصائي واسع النطاق للعالم المهدد بأزمات متصاعدة. فيقول التقرير: "أصبح العالم أكثر تعقيدًا وتقلبًا، واليقين الوحيد حول المستقبل هو غموضه الكامن فيه"، وسوف يكون تغير المناخ على وجه الخصوص بمثابة محرك للصراع، مع تزايد خطر الجفاف والمجاعة بسبب أعمال الشغب والصراعات وتشريد الشعوب، حيث ستزداد الفوارق والفقر مع النمو المتزايد في العالم المتقدم إلى حدٍّ بعيد، وربما يكون بمقدور فاحشي الثراء الوصول إلى التكنولوجيا التي تسمح لهم بعكس مسار عملية الشيخوخة وبالتالي العيش بحيوية إلى الأبد. ولكن بالنسبة للآخرين، فإن الفقر وسوء التغذية والأمراض النفسية كلها تنتظره، وسوف تشكل فقاعات وسائل الإعلام الاجتماعي و"غرف الصدى الإعلامية" تهديدًا سياسيًا متناميًا.

"التركيز الأقل على العواطف والمشاعر والاحتمالات" يمكن أن يعني بسهولة عنف أكثر وليس أقل

هذا كله يبدو صحيحًا إلى حد كبير: حسنًا، ما الذي يجب علينا فعله حيال ذلك؟ هل التعرف على مصادر هذه المشاكل في نظامنا الاقتصادي المدمر ذاتيًا؟ أو تطوير نماذج جديدة للمِلْكية تسمح لنا بتفكيكها؟ وما إلى ذلك، حسنا، هذا لن يحدث أبداً، بل أن التقرير يبدو أنه يتصور الدور "الأمني" في إبقاء الأمور، قدر الإمكان، كما هي الآن، و"انتهاز الفرص" مع "تقليل المخاطر".

ما يعنيه هذا من الناحية العملية هو محاولة الحفاظ على نظام عالمي "متعدد الأطراف" يقوده التعاون الذي تحكمه القواعد بين الدول القوية، ويمكن أن يوفر هذا النظام تطوير لحلول خاصة بتغير المناخ - وهو أمر يبدو جيدًا (على الرغم من أنه لم يكن من المفترض أن يقوم بذلك بالفعل في ظل اتفاقية باريس)، ولكنه يعني أيضًا القيام بأشياء مثل الحد من عدد الأشخاص القادرين على الهجرة إلى العالم المتقدم، يبدو هذا، بتعبير بسيط، إشكالية.

يعد تغير المناخ بالفعل أحد أكبر العوامل الدافعة للهجرة، إنها تقود بالفعل إلى سياسة تقوم على حدود صعبة على نحو متزايد بين العالم المتقدم والنامي، وباعتبار أن أسوا هذه الآثار تصل إلينا، فإن البقاء في أجزاء معينة من العالم سيعني الموت. لذا، ما هي المسئولية التي تقع على عاتق نظامنا "المتعدد الأطراف" لكي يفعله؟ هل هي منح هؤلاء الناس المأوى الذي يحتاجونه؟ الإجابة ستكون لا، إذا استمرت الاتجاهات الحالية.

لماذا، في هذا السياق، ترغب حكومات العالم في الاستثمار في الروبوتات القاتلة؟ هناك إجابة واضحة: لجعل عملية مراقبة هذه الروبوتات لهؤلاء النازحين بسبب التغير المناخي أكثر سهولة. يقول الفيلسوف تيودور أدورنو، في مقاله Education After Auschwitz" (التعليم بعد أوشفيتز) إن الهولوكوست لم يكن ليتحقق لو لم تتم ادارته بطريقة "باردة" مستقلة، مع تحصين مرتكبيها إلى حد كبير من الواقع الإنساني لما كانوا يفعلونه من خلال "غطاء تكنولوجي." كل ما فعلوه هو الإشراف على العملية وإدارة آلة، والتي فعلت بدورها كل عمليات القتل. "التركيز الأقل على العواطف والمشاعر والاحتمالات" يمكن أن يعني بسهولة عنف أكثر وليس أقل.

ظهر هذا المقال بالأصل على VICE بريطانيا.