دعت شركة أنثروبيك، المطوّرة لنموذج الذكاء الاصطناعي "كلود"، إلى بحث إمكانية إبطاء تطوير أكثر أنظمة الذكاء الاصطناعي تقدمًا، محذّرة من مؤشرات متزايدة على أن النماذج الحديثة قد تقترب من مستويات يصعب معها ضمان السيطرة البشرية الكاملة عليها.
وقالت الشركة، التي تتخذ من سان فرانسيسكو مقرًا لها، في تقرير نشرته الخميس، إن تباطؤًا عالميًا منسقًا في تطوير الذكاء الاصطناعي المتقدم قد يكون خطوة إيجابية، لكنها أشارت إلى أن توقّف شركة واحدة فقط عن التطوير سيمنح منافسيها فرصة لتجاوزها، ما يجعل أي تجميد فعّال مشروطًا بتوافق عدد من الشركات الكبرى والحكومات، خصوصًا في الولايات المتحدة والصين، ضمن آليات رقابة يمكن التحقق منها.
ويُواجه هذا الطرح معارضة داخل قطاع التكنولوجيا وفي أوساط الإدارة الأميركية، إذ يرى منتقدوه أنّ التركيز على السيناريوهات القصوى يبالغ في تقدير المخاطر، بينما يتهم بعضهم أنثروبيك بمحاولة إبطاء المنافسة تحت غطاء التحذير من مخاطر الذكاء الاصطناعي.
ورغم ذلك، حظي نموذج "ميثوس" الذي تطوّره الشركة باهتمام داخل البيت الأبيض بسبب قدراته المتقدمة في مجال الأمن السيبراني واختبار الأنظمة الإلكترونية، علمًا أنه لا يزال محصوراً في نطاق مؤسسات محدودة ولم يُطرح للاستخدام العام.
مخاوف من تفوق الصين
وتزداد صعوبة تطبيق أي تباطؤ جماعي في ظل مخاوف أميركية من أن يؤدي ذلك إلى منح الصين أفضلية في سباق الذكاء الاصطناعي. وشبّهت أنثروبيك التحدي بمعاهدات الحد من التسلح النووي، لكنها أشارت إلى أن تطوير نماذج الذكاء الاصطناعي يمكن أن يتم بسرية أكبر بكثير من تطوير الصواريخ، ما يجعل الالتزام الجماعي أكثر تعقيدًا.
وأعلنت الشركة أنّها تعتزم جمع مسؤولين حكوميين وباحثين وشركات منافسة خلال الأشهر المقبلة لمناقشة آليات إنشاء إطار دولي للتنسيق في هذا المجال.
كما حذّرت أنثروبيك من أن الذكاء الاصطناعي بات يساهم بصورة متزايدة في تطوير أنظمة ذكاء اصطناعي جديدة، ما قد يقود مستقبلًا إلى ما يعرف بـ"التحسين الذاتي المتكرر"، حيث تصبح الأنظمة قادرة على تحسين نفسها ذاتيًا مع تدخل بشري محدود للغاية.
وأكد التقرير أن هذا السيناريو لم يتحقق بعد وليس حتميًا، لكنه قد يحدث بوتيرة أسرع مما تتوقعه الحكومات والمؤسسات. وأضاف أن الأدلة الحالية تشير إلى تراجع الدور البشري تدريجيًا في مختلف مراحل تطوير أنظمة الذكاء الاصطناعي.
