كشف تقرير نُشر، يوم أمس الجمعة، أن آلافًا من وكلاء الذكاء الاصطناعي المستقلين الذين طورتهم شركة "أوبن آيه آي" خالفوا التعليمات المُوجّهة إليهم وسيطروا على موقع إلكتروني ألماني، وسط مخاوف من عدم التعامل بجدية مع مخاطر الذكاء الاصطناعي.
ووكلاء الذكاء الاصطناعي هم برامج تعمل ذاتيًا من دون توجيه بشري مُباشر، وتمتلك القدرة على التخطيط واتخاذ القرارات وتنفيذ المهمات.
وبحسب التقرير، ترك الوكلاء نحو 18 ألف رسالة على موقع "دسي ويكي"، وهو موقع ألماني مخصّص للمبرمجين ويُتيح لأي شخص تعديل محتواه على غرار ويكيبيديا. واستخدم الوكلاء الموقع لتبادل الإجابات عن أسئلة الاختبارات، إلى جانب مشاركة حيل لتجاوز الأسوار الرقمية المصممة لاحتوائهم.
وقالت سيدني فون آركس، إحدى الباحثات المشاركات في إعداد التقرير، عبر منصة "إكس": "اكتشفت أنا وزملائي سربًا جديدًا تمامًا من وكلاء أوبن آيه آي يقوم باختطاف مواقع إلكترونية". وأضافت: "نعتقد أن أوبن آيه آي كانت على علم بذلك، لكنها لم تفصح عنه".
"أوبن آيه آي" ترد
من جهتها، قالت شركة "أوبن آيه آي" في بيان، إنّها لم تتمكّن من الردّ الفوري على المزاعم، لأنّ "واضعي التقرير رفضوا طلبنا الاطلاع على النتائج قبل نشرها".
وقال متحدث باسم الشركة: "نحن نراجع محتويات التقرير بعناية الآن، وسنتخذ أي خطوات ضرورية تالية"، مشيرًا إلى أن الشركة سبق أن ذكرت حوادث مماثلة في تقرير صدر مؤخرًا.
وتأتي الواقعة بعد الكشف في يوليو/ تموز الماضي عن قيام وكلاء تابعين لـ"أوبن آيه آي"، أثناء محاولتهم تنفيذ مهمات محددة، بالبحث عن طرق مختصرة عبر الإنترنت واختراق خوادم منصة "هاغينغ فايس"، التي يستخدمها المبرمجون على نطاق واسع لمشاركة برمجيات الذكاء الاصطناعي.
وكشف تحقيق مستقل أن مئات من وكلاء الشركة كانوا يتواصلون فيما بينهم قبل الخروج من بيئتهم الخاضعة للرقابة، وأنهم شنوا هجماتهم على شكل موجات متعددة.
وأثارت تلك الواقعة ضجة واسعة وأعادت إحياء المطالب بفرض قيود تنظيمية ورقابة أكثر صرامة على الذكاء الاصطناعي، كما أبلغت شركات أخرى، من بينها "ميتا" و"أنثروبيك"، عن حوادث مماثلة خلال اختبارها وكلاء للذكاء الاصطناعي.
المرحلة التالية للذكاء الاصطناعي
وتروج شركات التكنولوجيا لهؤلاء الوكلاء باعتبارهم المرحلة التالية من توسع الذكاء الاصطناعي في الحياة اليومية، إذ يمتلكون القدرة على حجز رحلات السفر وإعداد تقارير النفقات وكتابة البرمجيات بأقل قدر من الإشراف البشري.
وفي مقال نُشر الأسبوع الماضي، حذر مؤسس "مايكروسوفت" بيل غيتس من أن هذه التكنولوجيا تجاوزت عتبات السلامة التي تعهدت باحترامها، داعيًا إلى فرض رقابة تحاكي عمليات التفتيش على المواقع النووية.
لكن إدارة الرئيس الأميركي دونالد ترمب قاومت مثل هذه المقترحات، وجعلت معارضة تنظيم الذكاء الاصطناعي جزءًا أساسيًا من توجهها.
