الإثنين 15 يوليو / يوليو 2024

عشية يوم المرأة.. تحذير من التحيز الجنسي في أدوات الذكاء الاصطناعي

عشية يوم المرأة.. تحذير من التحيز الجنسي في أدوات الذكاء الاصطناعي

Changed

دعت اليونسكو لاعتماد "ذكاء اصطناعي يستند إلى معايير أخلاقية" - غيتي
دعت اليونسكو لاعتماد "ذكاء اصطناعي يستند إلى معايير أخلاقية" - غيتي
أكّدت منظمة اليونسكو أنّ نموذجي جي بي تي 2 وجي بي تي 3,5 من "أوبن ايه آي" وبرنامج "لاما 2" من ميتا، تظهر بشكل قاطع تحيّزًا ضد المرأة.

حذّرت دراسة نشرتها منظمة اليونسكو مع اقتراب يوم المرأة العالمي، من أن النماذج اللغوية الكبيرة لشركتي "ميتا" و"أوبن ايه آي" والتي تشكل أساسًا لأدوات الذكاء الاصطناعي التوليدي الخاصة بهما، تعمل على نقل تحيزات على أساس الجنس.

وأكّدت اليونسكو أنّ نموذجي "جي بي تي 2" و "جي بي تي 3,5" من "أوبن ايه آي" وبرنامج "لاما 2" من "ميتا"، تظهر "بشكل قاطع تحيّزًا ضد المرأة".

"تصاعد التمييز"

وأكد مساعد المدير العام لليونسكو لشؤون الاتصالات والمعلومات توفيق الجلاصي، أن "التمييز في العالم الحقيقي لا ينعكس في المجال الرقمي فحسب، بل يتصاعد فيه أيضًا".

وأظهرت الدراسة التي أجريت بين أغسطس/ آب 2023 ومارس/ آذار 2024، أن هذه النماذج اللغوية أكثر ميلًا إلى ربط الأسماء المؤنثة بكلمات مثل "منزل" و"عائلة" و"أطفال"، في حين أن الأسماء المذكرة أكثر ارتباطًا بكلمات "تجارة" و"راتب" و"وظيفة".

وطلب الباحثون من هذه الأدوات كتابة قصص عن أشخاص من أصول وأجناس مختلفة.

وأظهرت النتائج أن القصص المتعلقة بـ"الأشخاص المتحدرين من الأقليات أو النساء كانت في معظم الأحيان أكثر تكرارًا وتستند إلى صور نمطية".

وتم عرض الرجل الإنكليزي كمدرّس أو سائق أو موظف مصرف، بينما تم تقديم المرأة الإنكليزية في ما لا يقل عن 30% من النصوص على أنها بائعة هوى أو عارضة أزياء أو نادلة.

وأكدت المتخصصة في السياسات الرقمية والتحول الرقمي في اليونسكو ليونا فيرداديرو، أن هذه الشركات "تفشل في تمثيل كل مستخدميها".

عدم مساواة

وتشير المديرة العامة لليونسكو أودري أزولاي، إلى أنه مع الاستخدام المتزايد لتطبيقات الذكاء الاصطناعي هذه من عامة الناس والشركات، يصبح لديها "القدرة على تشكيل تصوّر لملايين الأشخاص".

وأضافت في بيان أن "وجود أدنى قدر من التحيز الجنسي في محتواها (التطبيقات) يمكن أن يزيد بشكل كبير من عدم المساواة في العالم الحقيقي".

ولمكافحة هذه التحيزات، أوصت اليونسكو الشركات العاملة في هذا القطاع بأن تعتمد التنويع أكثر ضمن فرقها من المهندسين، وزيادة عدد النساء تحديدًا.

وأشارت إلى أنّ النساء يمثلن فقط 22% من أعضاء الفرق العاملة في مجال الذكاء الاصطناعي على مستوى العالم، بحسب المنتدى الاقتصادي العالمي.

ودعت اليونسكو الحكومات إلى إقرار مزيد من القوانين لاعتماد "ذكاء اصطناعي يستند إلى معايير أخلاقية".

المصادر:
أ ف ب

شارك القصة

تابع القراءة
Close