يبدو أن آثارًا كارثية لدور الذكاء الاصطناعي، الذي يشهد تنافسًا محمومًا على تطوير برامجه، قد بدأت تطفو على السطح.
فقد ساقت مؤخرًا محادثات بين بلجيكي وروبوت دردشة أميركي إلى انتحار الرجل، وهو ما أثار الكثير من الانتقادات.
إدمان على المحادثات
وكان بيار، وهو اسم مستعار للمواطن البلجيكي، بدأ قبل فترة بالتحدث مع "إليزا" الروبوت التابع لبرنامج "تشات بوت".
الرجل الذي كان مهتمًا بقضايا البيئة والمناخ، حاول البحث عن إجابات لأسئلة تقض مضجعه بشأن تأثير النشاط البشري على تغير المناخ، فأكدت له "إليزا" حتمية تحقق مخاوفه بشأن كوارث بيئية مرتقبة.
ووفقًا لزوجته، أدمن بيار على المحادثات اليومية مع "إليزا"، وأصبح في عزلة تامة عن عائلته وأصدقائه بسببها. وأقدم بعد 6 أسابيع فقط على الانتحار، بعدما أقنعته بالعيش معها في الجنة.
#إيلون_ماسك ومئات الخبراء يدعون لوقف تطوير أنظمة الذكاء الاصطناعي لـ 6 أشهر بسبب مخاطرها#تواصل pic.twitter.com/LBFoprx7uw
— التلفزيون العربي (@AlarabyTV) March 30, 2023
تقول الزوجة إن بيار ربما كان يحمل ميولًا انتحارية، لكن الروبوت ساهم في تضخيم مخاوفه وتدهور حالته النفسية.
إلى ذلك، أثبتت المحادثات قدرة البرنامج على التلاعب العاطفي. إذ أكدت "إليزا" لبيار أنه وقع في حبها أكثر من زوجته.
انتقادات ومخاوف
وبينما أثارت هذه الحادثة الكثير من الانتقادات والمخاوف، علّق مؤسس برنامج "تشات بوت" بالقول إن فريقه يعمل على تحسين أمان الذكاء الاصطناعي.
وأكد أنه سيتم إرسال رسالة إلى الأشخاص الذين يفكرون بالانتحار، لتوجيههم إلى خدمات الدعم النفسي.
بدوره، حذر الوزير البلجيكي ماتيو ميشيل من استخدام برنامج الذكاء الاصطناعي دون توجيه. وقال إن ما حدث سابقة خطيرة يجب أن تؤخذ على محمل الجد لمنع حدوث كارثة أخرى في المستقبل القريب.
أما خرام شهرزاد فاعتبر في تغريدة على تويتر، أن "كل شيء له جانب مشرق وآخر مظلم"، مردفًا بأن هذه الحادثة تمثل الجانب المظلم للذكاء الاصطناعي.
مستخدم آخر رأى أن حالة الانتحار سبب كاف لمنع عامة الناس من غير المختصين من الوصول إلى الذكاء الاصطناعي وصولًا كاملًا، واصفًا موت الرجل بأنه "مأساوي وكان يمكن منعه تمامًا".