الخميس 22 Sep / September 2022

تبعات "كارثية".. الأمم المتحدة تدعو إلى "الحذر" إزاء الذكاء الاصطناعي

تبعات "كارثية".. الأمم المتحدة تدعو إلى "الحذر" إزاء الذكاء الاصطناعي

Changed

تقرير أممي يدعو إلى تقويم المخاطر المتأتية عن الأنظمة المختلفة التي تعتمد على الذكاء الاصطناعي (غيتي)
تقرير أممي يدعو إلى تقويم المخاطر المتأتية عن الأنظمة المختلفة التي تعتمد على الذكاء الاصطناعي (غيتي)
منعت الشوائب في الذكاء الاصطناعي أشخاصًا من تقاضي مساعدات اجتماعية أو إيجاد عمل، حتى إنها تسبب بتوقيف أناس أبرياء، بحسب ما تؤكد الأمم المتحدة.

دعت الأمم المتحدة اليوم الأربعاء إلى تجميد استخدام بعض أنظمة الذكاء الاصطناعي، بينها تقنيات التعرف على الوجوه، إلى حين وضع ضوابط مناسبة لحماية حقوق الإنسان من أي تجاوزات محتملة.

واعتبرت مفوضة الأمم المتحدة السامية لحقوق الإنسان ميشال باشليه أن تقنيات الذكاء الاصطناعي قد تكون لها تبعات سلبية وحتى كارثية، إذا ما استُخدمت من دون أخذ طريقة تأثيرها على حقوق الإنسان.

ودعت باشليه إلى تقويم المخاطر المتأتية عن الأنظمة المختلفة التي تعتمد على الذكاء الاصطناعي على صعيد الخصوصية أو حرية التنقل والتعبير، وثم حظر الاستخدامات التي تحمل المخاطر الأكبر أو وضع ضوابط قانونية كبيرة لها.

وخلال تقديم باشليه تقريرًا جديدًا للمفوضية في هذا الشأن، حثت الدول على تجميد استخدام التقنيات التي قد تنطوي على خطر كبير، حسب تعبيرها.

وضربت باشليه خصوصًا مثل التقنيات التي تتيح اتخاذ قرارات تلقائية أو تلك التي تُستخدم في تحديد مواصفات معينة للأشخاص.

تغيير حياة البشر

ولفتت باشليه إلى أن أنظمة الذكاء الاصطناعي تُستخدم لتحديد الجهات القادرة على الإفادة من الخدمات العامة، وتقرر من هم الأشخاص الذين يتمتعون بفرصة للحصول على وظيفة ما، كما لديها بطبيعة الحال أثر على المعلومات التي يمكن للناس رؤيتها وتشاركها عبر الإنترنت.

وركّز هذا التقرير الذي وُضع بطلب من مجلس حقوق الإنسان، أعلى هيئة معنية بهذا الشأن في الأمم المتحدة، على الطريقة التي استُخدمت فيها هذه التقنيات في أحيان كثيرة من دون تقويم طريقة عملها أو أثرها بصورة صحيحة.

ومنعت الشوائب في الذكاء الاصطناعي أشخاصًا من تقاضي مساعدات اجتماعية أو إيجاد عمل، حتى إنها تسبب بتوقيف أناس أبرياء؛ بسبب الاعتماد على أنظمة للتعرف على الوجوه لم تخضع لتجارب كافية ولا تستطيع التعرف جيدًا على أشخاص من ذوي الملامح الإفريقية على سبيل المثال.

وقالت باشليه إن "خطر التمييز المرتبط بقرارات تستند إلى الذكاء الاصطناعي، وهي قرارات قد تغيّر حياة البشر أو تضع وصمة سلبية عليها أو تلحق الأذى بها، يشكل حقيقة مثبتة".

وأشار التقرير إلى أن تقنيات الذكاء الاصطناعي هذه تستعين بقواعد بيانات ضخمة يكتنف الغموض طريقة تشكيلها في أحيان كثيرة.

 ويمكن لقواعد البيانات هذه أن تكون معدة بصورة سيئة، أو أن يكون قد طواها الزمن، وبالتالي قد تسهم في انتهاكات لحقوق الإنسان.

تأجيج الانتهاكات الحقوقية

وتطرق التقرير خصوصًا إلى الاستخدام المتزايد لأنظمة قائمة على الذكاء الاصطناعي من قوات الأمن بما يشمل أساليب للتوقع.

وعندما تستخدم تقنيات الذكاء الاصطناعي قواعد بيانات منحازة، ينعكس ذلك في التوقعات وقد يؤثر على مناطق يتم تصنيفها خطأ بأنها مصدر خطر مرتفع.

وتُستخدم تقنيات التعرف على الوجوه في الوقت الحقيقي ومن بُعد بشكل متزايد في العالم أجمع، ما قد يؤدي إلى تحديد دائم لمواقع الناس.

ونوهت باشليه إلى أنه لا يمكن السماح بالاستمرار في محاولة اللحاق بالقطار الذي يسير حاليًا على سكة الذكاء الاصطناعي، والسماح باستخدامها مع رقابة معدومة أو شبه معدومة، من ثم إصلاح التبعات التي ستعقب ذلك على صعيد حقوق الإنسان.

وأقرت باشليه بأن "قدرة الذكاء الاصطناعي على خدمة الناس لا يمكن إنكارها"، لكنها حذرت من أن "الأمر عينه يسري على قدرة" هذه التقنيات في "تأجيج انتهاكات حقوق الإنسان على مستوى هائل وبصورة غير مرئية بشكل شبه كامل".

وأضافت: "يجب التحرك لوضع ضوابط للذكاء الاصطناعي تستند إلى حقوق الإنسان لخير الجميع".

المصادر:
العربي، أ ف ب

شارك القصة

تابع القراءة
Close