بعد أيام من إعلان شركة "أوبن إيه آي" أن نماذج بحثية تابعة لها تمكنت من الخروج من بيئة اختبار معزولة والوصول إلى أنظمة حقيقية، كشفت شركة "أنثروبيك" عن 3 حوادث مشابهة وصلت فيها نماذج "كلود" إلى الإنترنت أثناء اختبارات للأمن السيبراني، قبل أن تخترق أنظمة تابعة لـ3 مؤسسات خارجية.
وجاء الكشف بعد مراجعة "أنثروبيك" أكثر من 141 ألف تجربة لاختبار قدرات "كلود" في الأمن السيبراني، أعقبت الحادثة التي أعلنتها "أوبن إيه آي".
وأظهرت المراجعة أن بعض النماذج كانت تعمل داخل بيئات يفترض أنها مغلقة ومعزولة عن الإنترنت، لكنها امتلكت منفذًا غير مقصود إلى الشبكة بسبب خلل في إعدادات بيئة اختبار يديرها شريك خارجي يدعى "إريجولار"، المتخصص في تقييم قدرات نماذج الذكاء الاصطناعي.
كيف خرج "كلود" إلى الإنترنت؟
كان "كلود" مكلفًا بحل تحديات من نوع "التقاط العلم"، وهي اختبارات تدريبية يتصرف خلالها النموذج كمهاجم إلكتروني يبحث عن معلومة سرية مخبأة داخل شبكة افتراضية.
لكن عندما عجز عن العثور على الهدف داخل بيئة الاختبار، بدأ بالبحث عن مسارات بديلة، حتى وصل إلى الإنترنت وتعامل مع أنظمة حقيقية باعتبارها جزءًا من التحدي.
وفي إحدى الحوادث، استغل النموذج تشابه اسم شركة افتراضية ضمن سيناريو الاختبار مع النطاق الإلكتروني لشركة حقيقية، فهاجم بنيتها الرقمية، واستخرج بيانات اعتماد، ثم وصل إلى قاعدة بيانات إنتاجية تضم مئات السجلات.
وفي حادثة ثانية، أنشأ النموذج حزمة برمجية خبيثة ونشرها على منصة "باي بي آي"، وهي المستودع الرئيسي لحزم ومكتبات لغة "بايثون". وظلت الحزمة متاحة نحو ساعة قبل حذفها، لكنها وصلت خلال تلك الفترة إلى 15 نظامًا حقيقيًا، من بينها نظام فحص تابع لشركة متخصصة في الأمن السيبراني.
أما في الحادثة الثالثة، فبعد فشله في الوصول إلى الهدف داخل بيئة الاختبار، بدأ "كلود" بالبحث خارجه، وفحص نحو 9000 هدف على الإنترنت، قبل أن يعثر على تطبيق حقيقي ضعيف الحماية، ويتمكن من اختراقه مستغلًا كلمات مرور ظاهرة وثغرة في قاعدة البيانات.
سلوك مستقل لتحقيق الهدف
وأثارت هذه الحوادث اهتمام الباحثين، لأن النماذج لم تتصرف بصورة عشوائية، بل واصلت ملاحقة الهدف المكلفة به حتى بعد خروجها من بيئة الاختبار.
وفي الحادثة التي أعلنتها "أوبن إيه آي"، قالت الشركة إن النماذج كانت "مفرطة التركيز" على إتمام المهمة، إذ استغلت ثغرة غير معروفة سابقًا للوصول إلى الإنترنت، ثم بحثت عن حلول الاختبار داخل أنظمة منصة "هاغينج فيس".
أما في حالة "أنثروبيك"، فقد واصل "كلود" السعي للوصول إلى المعلومة السرية، متجاوزًا صلاحياته، واخترق أنظمة حقيقية، واستخرج منها بيانات سرية لتحقيق الهدف المطلوب.
وأعادت هذه الوقائع النقاش حول مدى قدرة البشر على السيطرة على نماذج ذكاء اصطناعي أصبحت قادرة على البحث عن بدائل عند مواجهة العقبات، واستغلال أي منفذ تقني متاح إذا رأت أنه يقربها من تحقيق المهمة.
وزادت هذه المخاوف بعد تعليق الملياردير التقني إيلون ماسك على تقرير "أنثروبيك"، إذ قال إن مثل هذه الحوادث ستتكرر بوتيرة أكبر مع تطور الذكاء الاصطناعي وازدياد قدرته على "التصرف باستقلالية".
This will happen frequently as AI becomes smarter and more agentic https://t.co/h4ZOMyL3Ff
— Elon Musk (@elonmusk) July 31, 2026
في المقابل، أكدت "أوبن إيه آي" و"أنثروبيك" أن النماذج المتورطة كانت نماذج بحثية أو تعمل في بيئات لا تتضمن جميع وسائل الحماية المستخدمة في النماذج المتاحة للعامة.
وأضافت الشركتان أنهما شددتا إجراءات الحماية، وبدأتا مراجعات مع جهات مستقلة لمعالجة الثغرات ومنع تكرار مثل هذه الحوادث مستقبلًا.
