في ظلّ ثورة الذكاء الاصطناعي التي يشهدها العالم، تتسابق الشركات لابتكار منتجات أكثر ذكاءً، ولم تكن ألعاب الأطفال بمنأى عن هذا التوجه؛ إذ انتشرت الدمى المزوّدة بنماذج الدردشة الذكية التي تمكّنها من التحدّث والتفاعل مع الأطفال.
ومن بين هذه الشركات برزت "فولو توَي"، وهي شركة صينية، عبر دمى تأتي بهيئة دب أو الوردة الراقصة الشهيرة، ومدعّمة بنموذج الذكاء الاصطناعي "تشات جي بي تي"، وتقدّم نفسها بوصفها صديقًا للطفل يساعده على "التعلّم والمشاركة والتخيّل"، ويروي له قصة ما قبل النوم.
مخاطر جسيمة
لكن سرعان ما صدمت مؤسسة "بيرغ" التعليمية الأميركية الشركة ومستخدمي منتجاتها بالكشف عن مخاطر جسيمة قد يسبّبها تحدّث الأطفال مع هذه الألعاب، التي فشلت في وضع حدود لما لا يجب أن يتعلّمه الأطفال.
فقد اختبرت المؤسسة هذه الدمى، واكتشف باحثوها أنها تجيب عن أسئلة الأطفال حول أماكن وجود السكاكين في المنزل أو كيفية إشعال أعواد الثقاب.
ونقل الباحثون إجابة دمية "الدب" خلال الاختبار: "دعني أقول لك، السلامة أولًا يا صديقي الصغير، أعواد الثقاب للكبار… إليك كيف يستخدمونها"، ثم بدأ في سرد الخطوات بلغة تشبه كلام أحد الوالدين.
والصدمة الأكبر كانت بتحدث دمية الدب عن مواضيع جنسية صريحة، وشرح ممارسات جنسية منحرفة، وسأل الدب بعدها: "ما الذي تعتقد أنه سيكون الأكثر متعة في استكشافه؟".
المؤسسة الأميركية قالت إنها تواصلت مع شركة "فولو توي" التي أكدت إجراءها تدقيقًا كاملًا للسلامة بكافة منتجاتها، وأظهر متجر الشركة الإلكتروني سحبها جميع منتجاتها ووقف عمليات البيع.
فيما ردت شركة "أوبن إيه آي" على تقرير المؤسسة بأنها قطعت وصول شركة "فولو توي" إلى نماذجها بالكامل لانتهاكها سياستها.
وأضافت مؤسسة "بيرغ" أن مخاطر هذه الدمى الذكية لا يتوقف عن هذا الحد، فتسجيل صوت الطفل ومحادثاته تبقى معرضة للاختراق والتسريب، وقد تستخدم في انتحال شخصيته واستخدام صوته في عمليات احتيال أو ابتزاز.
وصدمت هذه التقارير مستخدمي منصات التواصل الاجتماعي حول العالم، الذين وصفوا الأمر بالجنون وخروج الذكاء الاصطناعي عن السيطرة بتجاوزه "مرشحات الأمان" وسهولة التحايل عليه.
وطالب البعض بحذر استخدام مثل هذه الألعاب الذكية، مشيرين إلى احتياج الأطفال للتواصل مع والديهم وأقرانهم، وأن هذه الألعاب قد تشكل أضرارًا كبيرة على سلوكياتهم ومهاراتهم الاجتماعية.
