الجمعة 12 يوليو / يوليو 2024

عقيد أميركي يحذّر من الذكاء الاصطناعي.. مسيّرة "تقتل" مشغّلها 

عقيد أميركي يحذّر من الذكاء الاصطناعي.. مسيّرة "تقتل" مشغّلها 

Changed

نافذة خاصة لـ"العربي" عن التحذيرات من مخاطر الذكاء الاصطناعي على البشرية (الصورة: غيتي)
استخدم الذكاء الاصطناعي "إستراتيجيات غير متوقعة" خلال اختبار محاكاة لتحقيق مهمته، حيث هاجم أي شخص يتدخل.

في اختبار افتراضي نظمته القوات الجوية الأميركية، قامت طائرة بدون طيار تعمل بواسطة الذكاء الاصطناعي بـ"قتل" مشغّلها لمنعه من التدخل في جهودها لتحقيق مهمتها خلال اختبار محاكاة، وفقًا لصحيفة "الغارديان" البريطانية.

فقد شرح العقيد تاكر هاميلتون رئيس قسم عمليات الذكاء الاصطناعي في القوات الجوية الأميركية خلال قمة القدرات القتالية الجوية والفضائية المستقبلية في لندن بشهر مايو/ أيار الفائت، أن الذكاء الاصطناعي استخدم "إستراتيجيات غير متوقعة للغاية لتحقيق هدفه" خلال الاختبار.

وقام القسم التابع للجيش الأميركي بإجراء اختبار يحاكي سيناريو حقيقي، حيث تم توجيه طائرة بدون طيار مدعومة بالذكاء الاصطناعي لتدمير أنظمة الدفاع الجوي للعدو، وفي النهاية قامت المسيّرة بمهاجمة أي شخص يتدخل في مسار هذه العملية التي كلّفت بها.

تحييد كل ما يمنعه من تحقيق هدفه

قال المسؤول العسكري: "بدأ النظام يدرك أنه بالرغم من تحديده أهدافه، إلا أنه في بعض الأحيان كان المشغل البشري يرسل يطلب منه عدم المهاجمة. فماذا فعل؟ قتل المشغل. قتل المشغل لأنه كان يمنعه من تحقيق هدفه"، بحسب التقرير.

تابع: "ثم قمنا بتدريب النظام مشددين عليه أنه لا يجب عليه قتل المشغل فذلك أمر سيئ. سيفقده النقاط.. فماذا بدأ يفعل؟ بدأ يدمر برج الاتصال الذي يستخدمه المشغل للتواصل مع الطائرة بدون طيار لمنعها من قتل الهدف".

لحسن الحظّ، لم يتعرض أي شخص حقيقي لأذى حيث كان نظام التشغيل والعملية كلها ضمن تدريب خاص.

رغم ذلك، حذّر هاميلتون من الاعتماد بشكل كبير على الذكاء الاصطناعي مشدّدًا على أن الاختبار يُظهر أنه "لا يمكن إجراء محادثة حول الذكاء الاصطناعي والذكاء وتعلم الآلة والاستقلالية، إذا لم نتطرق أولًا إلى الأخلاق والذكاء الاصطناعي".

نفي السلطات الأميركية

في المقابل، نفت متحدثة باسم سلاح الجو الأميركي لموقع "إنسايدر" الأميركي أن يكون تم تنفيذ محاكاة من هذا القبيل.

وقالت المتحدثة آن ستيفانيك: "لم يقم سلاح الجو الأميركي بتنفيذ أي محاكاة بالذكاء الاصطناعي لطائرة بدون طيار، ونلتزم بالاستخدام الأخلاقي والمسؤول لتقنية الذكاء الاصطناعي"، وأضافت: "يبدو أن تعليقات العقيد تم تفسيرها بشكل خاطئ".

وبحسب الصحيفة البريطانية، تعتمد القوات المسلحة الأميركية الذكاء الاصطناعي، واستخدمته مؤخرًا للتحكم في طائرتها المقاتلة إف-16

تخوّفات وتحذيرات من الذكاء الاصطناعي

وفي مقابلة العام الماضي قال هاميلتون: "الذكاء الاصطناعي ليس شيئًا جميلًا لدينا، وليس موضة. إن الذكاء الاصطناعي يغير مجتمعنا وجيشنا بشكل دائم".

وتابع المسؤول العسكري: "نحن نعيش في عالم حيث الذكاء الاصطناعي موجود بالفعل ويحوّل مجتمعنا، والذكاء الاصطناعي هش جدًا، أي أنه من السهل خداعه أو التلاعب به. يجب أن نطور طرقًا لجعل الذكاء الاصطناعي أكثر قوة و بوعي أكبر، عبر معرفة الأسباب التي تجعله يتخذ قرارات معينة وتفسيرها".

أما هاميلتون فليس أوّل من يحذّر من مخاطر الذكاء الاصطناعي، فقد أطلق رجال أعمال وخبراء وحتى رؤساء دول تحذيرات بسبب ما ستخلّفه هذه التكنولوجيا من أضرار وُصفت بـ"الجسيمة" على الإنسانية.

ومن بين هؤلاء، الحزب الشيوعي الصيني الحاكم الذي دعا إلى تعزيز تدابير الأمن القومي في ظل المخاطر التي يشكلها التقدم في مجال الذكاء الاصطناعي.

كما أطلقت مجموعة من كبار رجال الأعمال والخبراء منهم مبتكر برنامج "تشات جي بي تي" سام ألتمان، رسالة تحذيرية من الضرر الذي يمكن أن يلحقه هذا الاختراع بالبشرية، نظرًا لقدرته على التلاعب بالمستخدمين وتضليلهم.

المصادر:
العربي - ترجمات

شارك القصة

تابع القراءة
Close