أثيرت مخاوف بشأن مستقبل الذكاء الاصطناعي بعد أن تبين أن الروبوت قد تعلم "الصور النمطية السامة" من الإنترنت.
وقد أظهرت الآلة تحيزات كبيرة جندرية وعرقية، بما في ذلك تفضيل الرجال على النساء والأشخاص البيض على "السود" أثناء الاختبارات التي أجراها العلماء. كما قفزت إلى استنتاجات حول وظائف الناس بعد إلقاء نظرة على وجوههم، بحسب صحيفة "ديلي ميل".
وقال المؤلف أندرو هوندت، زميل ما بعد الدكتوراه في معهد جورجيا للتكنولوجيا الذي شارك في إدارة العمل كطالب دكتوراه يعمل في مختبر جونز هوبكنز للتفاعل الحسابي والروبوتات في بالتيمور، ماريلاند: "لقد تعلم الروبوت صورًا نمطية سامة من خلال نماذج الشبكة العصبية المعيبة هذه".
وأضاف: "نحن معرضون لخطر إنشاء جيل من الروبوتات العنصرية والمتحيزة جنسيًا، لكن الأشخاص والمؤسسات قرروا أنه لا بأس في إنشاء هذه المنتجات دون معالجة المشكلات".
وقال الباحثون إن أولئك الذين يدربون نماذج الذكاء الاصطناعي للتعرف على البشر غالبًا ما يلجأون إلى مجموعات بيانات ضخمة متاحة مجانًا على الإنترنت.
ولكن نظرًا لأن الشبكة العنكبوتية مليئة بمحتوى غير دقيق ومنحاز بشكل علني، فقد قالوا إن أي خوارزمية مبنية على مجموعات البيانات هذه يمكن أن تُشبع بنفس المشكلات.
وأثير قلق بشأن ما يمكن أن تعنيه مثل هذه التحيزات بالنسبة للآلات المستقلة التي تتخذ قرارات مادية دون توجيه بشري. لذا قرر فريق هوندت اختبار نموذج ذكاء اصطناعي تم إنشاؤه كطريقة لمساعدة الروبوتات على "رؤية" الأشياء وتحديدها بالاسم.
ووجد الباحثون أن الروبوت غير قادر على الأداء دون تحيز جنسي أو عرقي، وغالبًا ما كان ينتج عنه قوالب نمطية.
وقالت المؤلفة المشاركة فيكي زينغ، وهي طالبة دراسات عليا تدرس علوم الكمبيوتر في جامعة جونز هوبكنز: "إن النتائج كانت للأسف غير مفاجئة".
ولمنع الآلات المستقبلية من تبني وإعادة تمثيل الصور النمطية البشرية، لفت فريق الخبراء إلى أن هناك حاجة إلى تغييرات منهجية في ممارسات البحث والأعمال.
وقال المؤلف المشارك ويليام أجنيو من جامعة واشنطن: "بينما لم يتم تضمين العديد من المجموعات المهمشة في دراستنا، يجب أن يكون الافتراض أن أي نظام روبوتات من هذا القبيل سيكون غير آمن للفئات المهمشة حتى يثبت العكس".
وتستمر شركات التكنولوجيا بتطوير الروبوتات التي تدخل أسواق العمل بشكل متزايد. ففي روسيا، تحاول شركة "بروموبوت" الروسية تطوير روبوتات فائقة الدقة تتمتع بصفات بشرية بهدف تلبية الحاجة المتزايدة في الأسواق الروسية والعالمية. وتعتزم السلطات تعويض بعض الموظفين بروبوتات قريبًا.
وتقوم خطة قسم البحث والتطوير على دمج الفن بالتكنولوجيا، للحصول على مظهر واقعي فائق الدقة. وتنتشر روبوتات الخدمة التي تطورها شركة "بروموبوت" في 40 دولة حول العالم، كمسؤولين ومروجين واستشاريين وبوابين، لتحل محلّ الموظفين البشريين، أو لتساعدهم وفقًا للموقع الرسمي للشركة التي تأسست عام 2015 في المدينة السيبيرية.