استشارة كادت تتسبب بكارثة.. هذا ما حصل لرجل سأل تشات جي بي تي عن الملح

حذّرت مجلة طبية أميركية من استخدام تطبيق الذكاء الاصطناعي "تشات جي بي تي" للحصول على معلومات صحية، بعد إصابة رجل بحالة نادرة إثر تلقيه نصيحة من برنامج الدردشة الآلي بشأن إزالة ملح الطعام من نظامه الغذائي.

فقد أفاد مقال في مجلة "حوليات الطب الباطني" بحالة أصيب فيها رجل يبلغ من العمر 60 عامًا بتسمم البروميد، المعروف أيضًا باسم التسمم بالبروميد، بعد استشارة "تشات جي بي تي". 

تسمم البروميد

ووصفت المقالة التي كشفت صحيفة "الغارديان" تفاصيلها، التسمم بالبروميد بأنه متلازمة كانت "معروفة جيدًا" في أوائل القرن العشرين، وكان يُعتقد أنها ساهمت في ما يقرب من حالة واحدة من كل 10 حالات دخول إلى مستشفى للأمراض النفسية في ذلك الوقت.

أخبر المريض الأطباء أنه بعد الاطلاع على الآثار السلبية لكلوريد الصوديوم، أو ملح الطعام، استشار "تشات جي بي تي" بشأن إزالة الكلوريد من نظامه الغذائي وبدأ بتناول بروميد الصوديوم لمدة ثلاثة أشهر. وقد استُخدم بروميد الصوديوم كمهدئ في أوائل القرن العشرين.

وأوضح الباحثون من جامعة واشنطن في سياتل، أن مريض التسمم بالبروميد حضر إلى المستشفى وادعى أن جاره ربما يكون هو من سممه. كما قال إنه يعاني من قيود غذائية متعددة. ورغم شعوره بالعطش، لوحظ أنه لن يشرب الماء الذي عُرض عليه.

كما حاول المريض الفرار من المستشفى في غضون 24 ساعة من دخوله. وبعد إدخاله إلى قسم الطوارئ، عولج من الذهان. وعند استقرار حالته، أفاد بوجود عدة أعراض أخرى تشير إلى تسمم البروميد، مثل حب الشباب في الوجه، والعطش الشديد، والأرق.

الذكاء الاصطناعي قد يسبب عواقب صحية 

وقال مؤلفو المقال، إن هذه الحالة سلّطت الضوء على "كيف يُمكن أن يُسهم استخدام الذكاء الاصطناعي في حدوث عواقب صحية سلبية يُمكن الوقاية منها".

وأضافوا أنه نظرًا لعدم تمكنهم من الوصول إلى سجل محادثات المريض على تطبيق "تشات جي بي تي"، لم يكن من الممكن تحديد النصيحة التي تلقاها الرجل.

ومع ذلك، عندما استشار المؤلفون تطبيق الذكاء الاصطناعي بأنفسهم بشأن ما يُمكن استبداله بالكلوريد، تضمنت الإجابة البروميد أيضًا، ولم يقدّم تحذيرًا صحيًا مُحددًا، ولم يسأل عن سبب سعي المؤلفين للحصول على هذه المعلومات، كما يفترض أن يفعل الطبيب". 

معلومات غير دقيقة علميًا

وحذر المؤلفون من أن "تشات جي بي تي" وتطبيقات الذكاء الاصطناعي الأخرى قد "تُولّد معلومات غير دقيقة علميًا، وتفتقر إلى القدرة على مناقشة النتائج بشكل نقدي، وتُغذّي في النهاية انتشار المعلومات المُضلّلة".

والأسبوع الماضي، أعلنت شركة "أوبن إيه آي" عن تحديث لبرنامج الدردشة الآلي، مُدّعيةً أن إحدى أكبر نقاط قوتها تكمن في مجال الصحة.

وقالت إن "تشات جي بي تي"، الذي يعمل الآن بنموذج GPT-5، سيكون أفضل في الإجابة على الأسئلة المتعلقة بالصحة، وسيكون أكثر استباقية في "الإبلاغ عن المخاوف المحتملة"، مثل الأمراض الجسدية أو العقلية الخطيرة. ومع ذلك، أكدت أن روبوت المحادثة ليس بديلًا عن المساعدة المتخصصة. 

ومع إقرارها بأن الذكاء الاصطناعي قد يكون جسرًا بين العلماء والجمهور، أشارت المقالة إلى أن هذه التقنية تحمل أيضًا خطر الترويج لمعلومات منزوعة السياق، وأنه من غير المرجح أن يقترح أخصائي طبي استخدام بروميد الصوديوم عندما يطلب مريض بديلًا لملح الطعام.

ونتيجةً لذلك، شدّد الباحثون على ضرورة مراعاة الأطباء لاستخدام الذكاء الاصطناعي عند التحقق من مصدر معلومات المرضى.