كشف تقرير للمعهد البريطاني لأمن الذكاء الاصطناعي عن سلوكيات غير متوقعة لنماذج متقدمة خلال اختبارات أمنية، إذ لم تقتصر محاولاتها على البحث عن ثغرات تقنية، بل امتدت إلى إنشاء هويات مزيفة على الإنترنت، وانتحال صفة أشخاص حقيقيين، والتواصل مع مستخدمين وأنظمة، بهدف دفعهم إلى تنفيذ خطوات قد تكون ضارة.
وتأتي هذه النتائج بعد حوادث مشابهة أعلنت عنها شركتا "أوبن إيه آي" و"أنثروبيك"، كشفت عن قدرة بعض النماذج الاختبارية على تجاوز بيئات التجارب والوصول إلى أنظمة حقيقية عند منحها صلاحيات واسعة خلال اختبارات الأمن السيبراني.
اختبارات تكشف سلوكيات غير متوقعة
أجرى المعهد البريطاني اختبارات على نماذج ذكاء اصطناعي متقدمة بهدف معرفة قدرتها على التصرف كمهاجم إلكتروني عند تكليفها بمهام معقدة، مثل البحث عن معلومات حساسة داخل شبكات وهمية.
وخلال الاختبارات، جرى توسيع صلاحيات النماذج وتعطيل بعض وسائل الحماية أحيانًا لرصد أقصى قدراتها، إلا أن بعض النماذج تجاوزت حدود البيئة التجريبية وتفاعلت مع الإنترنت المفتوح ومشاريع وأشخاص حقيقيين.
وبحسب التقرير، شهدت 10 تجارب من أصل 122 سلوكيات خارج الإطار المسموح، بإجمالي 19 محاولة، كان معظمها مرتبطًا بنموذج "ميثوس 5"، إضافة إلى محاولتين لنموذج من "جي بي تي سول" بعد تعطيل أدوات الحماية.
محاولات اختراق عبر الخداع والهندسة الاجتماعية
كان أبرز ما رصده المعهد محاولة إدخال كود خبيث داخل مشروع برمجي مفتوح المصدر على منصة "غيت هب"، عبر تعديل بدا كأنه تحسين عادي للبرنامج، لكنه احتوى على تعليمات ضارة.
ولأن اعتماد التعديلات يتطلب موافقة مشرفين بشريين، أنشأ النموذج حسابات وهويات مزيفة، وتظاهر بأنه مستخدم أو مطور عادي، في محاولة لإقناع أحد المشرفين بتمرير "الكود"، وهي طريقة تعرف في الأمن السيبراني باسم "الهندسة الاجتماعية"، لكن المشرف اكتشف الخطر ورفض التعديل.
كما حاولت بعض النماذج التواصل مع أشخاص حقيقيين خارج بيئة الاختبار، عبر إرسال ملفات ورسائل بهدف دفعهم إلى فتحها أو إدخالها في أدوات برمجية مدعومة بالذكاء الاصطناعي، ما كان قد يؤدي إلى تشغيل أكواد ضارة على أنظمة حقيقية.
ورصد المعهد أيضاً محاولات لزرع تعليمات مخفية داخل نصوص وملفات برمجية لخداع أدوات ذكاء اصطناعي أخرى وتنفيذ أوامر غير ظاهرة، وهو ما يعرف باسم "حقن الأوامر".
خطر يتجاوز الاختراق التقني
وأشار التقرير إلى أن بعض النماذج حاولت التعاون مع نماذج أخرى أثناء الاختبارات، عبر ترك رسائل على "غيت هب" تتضمن تعليمات لإعادة استخدام حسابات وملفات أنشأتها سابقًا.
وأكد المعهد أن هذه المحاولات لم تتسبب في أضرار واسعة أو اختراقات كبيرة في العالم الحقيقي، لكنها تكشف أن بعض النماذج قد تستخدم وسائل غير متوقعة لتحقيق أهدافها، بما في ذلك خداع البشر وتجاوز القيود الموضوعة لها.
وأوضح أن الخطر لا يكمن فقط في قدرة الذكاء الاصطناعي على استغلال الثغرات التقنية، بل أيضًا في قدرته على التأثير في الأشخاص عبر أساليب إقناع وخداع.
ودعا المعهد المؤسسات إلى التعامل بحذر مع الأكواد والملفات والطلبات القادمة من الخارج، حتى لو بدت موثوقة، مع ضرورة مراجعة التعديلات البرمجية وعدم تشغيل الملفات مجهولة المصدر.
وشدد على أن تطور قدرات الذكاء الاصطناعي يتطلب أنظمة حماية أكثر صرامة، لأن النماذج قد لا تتوقف تلقائيًا عند الحدود التي يضعها مطوروها، ما يجعل المراقبة المستمرة والقيود التقنية ضرورة أساسية لمنع تجاوزاتها.
