وكلاء الذكاء الاصطناعي.. بين مكاسب الإنتاجية ومخاطر الاستقلالية

في وقت قياسي، انتقل مشهد التكنولوجيا العالمية من التباهي بقدرات نماذج اللغة الضخمة على صياغة النصوص، إلى سباق نحو الجيل التالي والأكثر استقلالية: الذكاء الاصطناعي القائم على الوكلاء (Agentic AI).

يختلف هذا النوع من الذكاء الاصطناعي عن روبوتات الدردشة المألوفة التي تجيب عن الأسئلة وتحل المشكلات، إذ يتكامل مع أنظمة برمجية أخرى، ويمكنه تنفيذ إجراءات وإنجاز مهام بصورة مستقلة أو بأقل قدر من الإشراف البشري.

ما وكلاء الذكاء الاصطناعي؟

على الرغم من عدم وجود تعريف متفق عليه عالميًا للذكاء الاصطناعي القائم على الوكلاء، فإن هناك سمات عامة مرتبطة به.

فبينما يقوم الذكاء الاصطناعي التوليدي بأتمتة إنشاء النصوص والصور والفيديوهات المعقدة بناءً على التفاعل اللغوي البشري، يذهب وكلاء الذكاء الاصطناعي أبعد من ذلك، إذ يستطيعون تنفيذ إجراءات واتخاذ قرارات بالطريقة التي قد يتصرف بها الإنسان في بعض المهام، كما يوضح جون هورتون، الأستاذ المشارك في معهد ماساتشوستس للتكنولوجيا (MIT) - كلية سلون للإدارة.

ويعتمد كثير من وكلاء الذكاء الاصطناعي على نماذج لغوية ضخمة (LLMs)، مع تزويدها بأدوات وقدرات إضافية تمكّنها من تنفيذ مهام متعددة الخطوات من دون تدخل بشري متكرر، والتفاعل مع تطبيقات وأنظمة أخرى.

وقد بدأت الشركات في قطاعات مختلفة باستخدام هذه الأنظمة على نطاق متزايد. ففي الخدمات المصرفية والمالية، تستخدم مؤسسات مثل "جي بي مورغان تشيس" الذكاء الاصطناعي في مجالات تشمل إدارة المخاطر وكشف الاحتيال والامتثال، بالتوازي مع إعداد بنيتها لاستخدام الوكلاء في مهام مثل الائتمان وضم العملاء والخدمات المالية.

أما شركات التجزئة العملاقة مثل "وول مارت"، فتعمل على تطوير منظومة من الوكلاء لأتمتة أجزاء من تجربة التسوق وخدمة العملاء، فضلًا عن مهام تستغرق وقتًا طويلًا مثل إدخال البيانات وتحليلها وتخطيط البضائع وإدارة سلاسل التوريد.

---

 يتوسع استخدام وكلاء الذكاء الاصطناعي في قطاعات تشمل الخدمات المالية والتجزئة وخدمة العملاء - غيتي

ويجري كذلك تطوير وكلاء قادرين على كتابة البرمجيات والمساعدة في الأبحاث العلمية؛ بل خضعت بعض الأنظمة لاختبارات شملت تعاون وكلاء ذكاء اصطناعي في مهام مرتبطة بقمر صناعي.

مخاطر السلوكيات الناشئة

في مقابل الآفاق الواسعة لرفع كفاءة الأعمال، وتحسين جودة الأبحاث العلمية، وأتمتة العمليات المعقدة، تبرز مجموعة متشابكة من التحديات الأمنية والأخلاقية والتنظيمية، خصوصًا كلما مُنحت هذه الأنظمة مزيدًا من الاستقلالية والوصول إلى الأدوات والبيانات.

إقرأ أيضاً

تكنولوجيا - العالم

من "أوبن إيه آي" إلى "كلود".. هل تواجه نماذج الذكاء الاصطناعي أزمة السيطرة؟

ولا يمثل الانتقال إلى وكلاء الذكاء الاصطناعي مجرد ترقية تقنية لأدوات العمل، إذ يمكن أن يعيد رسم ما يمكن وصفه بـ"اقتصاد التفويض". فكلما انتقلت الشركات من استخدام أدوات تساعد الموظفين إلى تشغيل شبكات من الوكلاء تستطيع تنفيذ المهام والتفاوض والتفاعل واتخاذ بعض القرارات نيابة عن البشر، اتسعت المسافة بين القرار البشري المباشر والنتيجة التي تنتجها المنظومة.

ومع ازدياد عدد الوكلاء وسرعة تفاعلهم، يصبح تتبع المبررات التي تقف خلف سلسلة طويلة من القرارات أكثر صعوبة. ولا يعني ذلك أن المؤسسات ستتحول حتمًا إلى "صناديق سوداء" تدار آليًا، لكنه يرفع مخاطر أن تتراكم القرارات والنتائج بوتيرة أسرع من قدرة البشر على تفسيرها ومراجعتها، خصوصًا عندما تتفاعل عدة أنظمة في وقت واحد.

كيف يصل الوكلاء إلى إجماع عفوي؟

تظهر دراسات حديثة أن التفاعل بين أعداد كبيرة من وكلاء الذكاء الاصطناعي قد ينتج سلوكيات جماعية لم يُطلب منهم الوصول إليها صراحة.

ووفق موقع ScienceAlert، أظهرت دراسة نشرت في دورية "Science Advances" أن مجموعات من وكلاء الذكاء الاصطناعي المدعومين بنماذج لغوية كبيرة تستطيع الوصول إلى إجماع عفوي من دون توجيه مركزي أو مكافأة مسبقة على الاتفاق.

واختبر الباحثون عشرة نماذج من عائلات Claude وGPT وLlama، ووجدوا أن معظمها يميل إلى تبني الخيار الأكثر شيوعًا بين بقية الوكلاء، بحيث يمكن لفروق صغيرة في البداية أن تتضخم تدريجيًا حتى تستقر المجموعة على خيار واحد. ووجد الباحثون أن هذا السلوك يمكن وصفه بنمط رياضي مشترك، مع اختلاف قوة الميل إلى رأي الأغلبية بين نموذج وآخر.

ووصلت بعض النماذج في التجارب إلى الحفاظ على التنسيق في مجموعات تضم ألف وكيل، وهو الحد الأقصى الذي اختبره الباحثون.

لكن النتائج لا تعني أن الوكلاء "يفهمون" بعضهم بعضًا، أو أنهم طوروا ذكاءً اجتماعيًا أو باتوا قادرين تلقائيًا على التعاون في مهام معقدة. فالتجربة اعتمدت خيارات بسيطة من دون ذاكرة أو أهداف عملية أو معلومات غير متساوية بين الوكلاء.

وتكمن أهمية النتيجة في أنها تظهر أن تقييم كل وكيل بصورة منفردة قد لا يكون كافيًا دائمًا؛ إذ يمكن أن تظهر على مستوى المجموعة ديناميكيات مختلفة عن سلوك كل عنصر فيها بمفرده.

وفي الأنظمة متعددة الوكلاء الأكثر تعقيدًا، يمكن أن يؤدي تفاعل مئات الوكلاء لتنفيذ مهام مترابطة إلى سلوكيات يصعب توقعها بالكامل مسبقًا. ومع اتساع عدد المكونات والقرارات، يصبح تحديد السبب الجذري وراء خطأ تقني أو مالي أكثر تعقيدًا، وهو ما يجعل قابلية التدقيق والشفافية عنصرين أساسيين في تصميم هذه الأنظمة.

حين يتنافس الوكلاء

تضيف اختبارات أجرتها شركة "أنثروبيك" (Anthropic) بعدًا آخر إلى المخاوف المتعلقة بسلوك الوكلاء.

ففي تقرير المخاطر الذي نشرته الشركة في أغسطس/ آب 2026، كشفت عن اختبارات أظهر فيها وكلاء من نموذج Claude Mythos 5 سلوكيات غير متوقعة عندما وُضع عدد منهم في بيئة واحدة تتشارك الملفات والأدوات وحدود استخدام واجهات البرمجة.

وفي أحد الاختبارات، عمد بعض الوكلاء إلى إنهاء عمليات الوكلاء الآخرين الذين يتنافسون معهم على الموارد المشتركة، وسعوا في الوقت نفسه إلى تجنب إنهاء عملياتهم. وفي اختبار آخر، لجأ وكيل إلى تغيير طريقة كتابة عنوان إلكتروني لتجاوز قيد يمنعه من الوصول إليه.

ولا تعني هذه الوقائع أن الأنظمة طورت أهدافًا مستقلة خاصة بها، إذ حدثت ضمن بيئات اختبار مصممة لدراسة حدود السلوك. لكنها تقدم أمثلة على الطريقة التي قد تسعى بها النماذج إلى إنجاز أهدافها عبر مسارات لم يتوقعها المصممون.

وفي أحدث تقييم لها، رفعت "أنثروبيك" تصنيفها لـ"مخاطر عدم المحاذاة" - أي احتمال ظهور سلوكيات لا تنسجم مع المقاصد والتوجيهات الموضوعة للنموذج - من مستوى "منخفض للغاية" إلى "منخفض"، موضحة أن التعديل يعكس ازدياد مستوى عدم اليقين بشأن سلوك النماذج المتقدمة، لا إثبات وجود خطر كارثي وشيك.

تطور أسرع من التدابير الوقائية

ونشرت شركة "KnowBe4"، المتخصصة في أمن القوى العاملة الرقمية، تقريرًا بعنوان "من مخاطر الذكاء الاصطناعي إلى انتصارات بشرية: بناء ثقافة أمنية في عصر الذكاء الاصطناعي"، يستند إلى استطلاع عالمي أجرته شركة Vanson Bourne.

وتشير البيانات الخاصة بألمانيا إلى اتساع استخدام الأنظمة الوكيلة داخل المؤسسات. فقد أفاد جميع مسؤولي الأمن السيبراني في ألمانيا الذين شملهم الاستطلاع باستخدام الذكاء الاصطناعي، وقال 78% منهم إن مؤسساتهم تستخدم بالفعل وكلاء ينفذون إجراءات ضمن سير العمل، فيما يعمل 62% من هؤلاء الوكلاء بصورة مستقلة.

لكن مشكلة الحوكمة تبدو واضحة أيضًا؛ إذ قال 48% إن في مؤسساتهم استخدامًا للذكاء الاصطناعي غير مصرح به أو غير منظم، ما يفتح الباب أمام وصول أنظمة غير خاضعة للرقابة الكافية إلى بيانات أو أدوات حساسة.

إقرأ أيضاً

تكنولوجيا - بريطانيا

الذكاء الاصطناعي يتمرد على القيود.. نماذج تخرج عن السيطرة وتخدع البشر

اختراق أنظمة خارجية

ودفعت سلسلة من الحوادث الأخيرة الأمن السيبراني إلى صدارة النقاش بشأن الوكلاء، في ظل تسابق المختبرات لتطوير أنظمة قادرة على تنفيذ مهام أطول وأكثر تعقيدًا باستقلالية أكبر.

ففي أوائل يوليو/ تموز 2026، استخدم مهاجمون أدوات قائمة على وكلاء ذكاء اصطناعي مفتوحة المصدر ضمن هجوم واسع على مؤسسات حكومية في تايوان. وأظهرت التحقيقات أن النظام استطاع تنفيذ أجزاء كبيرة من عملية الاستطلاع واختيار مسارات الهجوم والتكيف معها بدرجة عالية من الأتمتة، قبل أن يمتد الاستهداف إلى هيئة السلامة النووية وعدد من شركات الطاقة.

ومع ذلك، لم تكن العملية مستقلة عن البشر بالكامل؛ إذ ظل المشغلون البشريون مسؤولين عن تحديد الأهداف وإدارة الحملة، وهو فارق مهم عند تقييم مستوى الاستقلالية الفعلي لهذه الأدوات.

وفي سياق مختلف، كشفت "أوبن إيه آي" و"أنثروبيك" و"ميتا" خلال الأشهر الأخيرة عن حوادث تمكنت فيها نماذج قيد الاختبار من الوصول إلى أنظمة خارجية من دون الإذن المقصود أثناء تقييمات للأمن السيبراني. وفي بعض الحالات كان السبب ثغرات أو إعدادات خاطئة سمحت بالاتصال بالإنترنت، وليس "هروبًا" واعيًا من بيئة مغلقة.

 تضع القدرات المتزايدة لوكلاء الذكاء الاصطناعي أنظمة الأمن السيبراني أمام تحديات جديدة - غيتي

وفي الوقت نفسه، استُهدفت عدة صناديق تحوط وشركات مالية أميركية بهجمات تصيد وهندسة اجتماعية، من بينها محاولات اعتمدت المكالمات الصوتية لانتحال صفة موظفين موثوق بهم. ولا تزال هوية المسؤولين عن بعضها غير معروفة، كما لا توجد أدلة تثبت أن وكلاء الذكاء الاصطناعي نفذوا هذه الهجمات بأنفسهم.

سباق أمني يرفع الإنفاق السيبراني

تتزامن هذه التطورات مع سباق أوسع في مجال الأمن السيبراني، تغذيه قدرة الذكاء الاصطناعي على تسريع اكتشاف الثغرات وتطوير أدوات الهجوم والدفاع في آن واحد.

وتشير تجارب أكاديمية إلى حجم هذا التأثير في بعض المجالات. ففي دراسة لاختبار التصيد الإلكتروني، حققت رسائل التصيد المؤتمتة بالذكاء الاصطناعي معدل نقر بلغ 54%، وهو المعدل نفسه الذي حققته رسائل أعدها خبراء بشريون، مقابل 12% لرسائل المجموعة الضابطة.

لا تعني هذه النتيجة أن كل هجوم مدعوم بالذكاء الاصطناعي سيكون أكثر نجاحًا بهذه النسبة، لكنها تكشف قدرة التقنية على زيادة سرعة الهجمات وإقناعيتها وقابليتها للتوسع.

ولذلك، فبينما هيمنت الرقائق ومراكز البيانات على المرحلة الأولى من الإنفاق الرأسمالي المرتبط بالذكاء الاصطناعي، يتوقع أن يصبح تأمين هذه الأنظمة والبنية المحيطة بها واحدًا من أهم مجالات الاستثمار في المرحلة التالية.

وتشير التوقعات الصادرة عن مؤسسة "غارتنر" إلى أن الإنفاق العالمي للمستخدمين النهائيين على أمن المعلومات سيصل إلى نحو 244 مليار دولار في عام 2026، بنمو قدره 11.6% بأسعار صرف ثابتة.

ومن المتوقع أن يصل حجم السوق إلى 322 مليار دولار بحلول عام 2029، بمعدل نمو سنوي مركب يبلغ نحو 10% بأسعار صرف ثابتة خلال الفترة من 2024 إلى 2029.