تحذير أممي من جموح الذكاء الاصطناعي: "خطر وجودي على البشرية"

حذّر مفوض الأمم المتحدة السامي لحقوق الإنسان فولكر تورك اليوم الإثنين من أن الذكاء الاصطناعي ربما يصبح قويًا بما يكفي لتهديد البشرية، وقال إنه سيحث الشركات خلال الأيام المقبلة على الحد من مخاطره.

وقال تورك في كلمة أمام مجلس حقوق الإنسان التابع للأمم المتحدة في جنيف "أشارك المسؤولين في القطاع مخاوفهم من أن الذكاء الاصطناعي المتقدم ربما يشكل خطرًا وجوديًا على البشرية". 

حاجة لضمانات صارمة بشأن سلامة الذكاء الاصطناعي

وأضاف "أدعو هنا اليوم إلى بذل جهد شامل لوضع ضمانات صارمة لا تقبل المساومة بشأن سلامة وأمن الذكاء الاصطناعي قبل فوات الأوان".

ويأتي هذا التحذير بعيد تقارير تشير إلى سلوكيات غير متوقعة لنماذج الذكاء الاصطناعي.

سلوكيات غير متوقعة لنماذج الذكاء الاصطناعي

فقد كشف تقرير للمعهد البريطاني لأمن الذكاء الاصطناعي عن سلوكيات غير متوقعة لنماذج متقدمة خلال اختبارات أمنية، إذ لم تقتصر محاولاتها على البحث عن ثغرات تقنية، بل امتدت إلى إنشاء هويات مزيفة على الإنترنت، وانتحال صفة أشخاص حقيقيين، والتواصل مع مستخدمين وأنظمة، بهدف دفعهم إلى تنفيذ خطوات قد تكون ضارة.

كما أعلنت شركتا "أوبن إيه آي" و"أنثروبيك" عن حوادث مماثلة، كشفت عن قدرة بعض النماذج الاختبارية على تجاوز بيئات التجارب والوصول إلى أنظمة حقيقية عند منحها صلاحيات واسعة خلال اختبارات الأمن السيبراني.