تكشف الإرشادات الصحية المتغيرة نقطة ضعف جوهرية في ChatGPT، وهي أن المعلومة قد تكون قديمة أو قد ينتج النموذج معلومة مختلقة تبدو صحيحة بسبب الهلوسة، خصوصًا عند التعامل مع الأدوية والجرعات والبروتوكولات العلاجية. وتختلف المعلومات القديمة عن الهلوسة في أن الأولى كانت صحيحة ثم تغيرت، بينما الثانية قد تكون غير موجودة أصلًا، لذلك لا ينبغي الاعتماد على إجابات النموذج للتشخيص أو وصف العلاج، بل يجب التحقق من الإرشادات الطبية الحديثة والرجوع إلى مختص صحي.
وفي هذا المقال نوضح لك كيف تكشف الإرشادات الصحية المتغيرة أخطر نقطة ضعف في ChatGPT، وما الفرق بين الهلوسة وتقديم معلومات صحية قديمة في نماذج الذكاء الاصطناعي، ومن يتحمل المسؤولية القانونية والأخلاقية عن الأضرار الصحية الناتجة عن إرشادات النماذج؟
ما التحديات القاتلة التي تواجه ChatGPT في تقديم الإرشادات الصحية؟
هناك خطورة كبيرة في الاعتماد على النماذج اللغوية مثل شات جي بي تي في تقديم النصائح الطبية والصحية، تكمن في طبيعة المخرجات التي تبدو مقنعة ودقيقة بينما تخفي تحتها آليات عمل غير مخصصة للتشخيص أو العلاج. ومن أبرز سلبيات Chat GPT التي تتحول إلى تحديات قاتلة ما يلي:
- الهلوسة والجرعات والنصائح الوهمية: الخطر الأكبر يكمن في اختلاق النموذج أسماء أدوية أو دمج تفاعلات دوائية غير موجودة، أو تقديم توصيات بجرعات خاطئة بثقة لغوية فائقة ومقنعة قد تودي بحياة المريض.
- الانحياز لشيوع المعلومة: تعتمد النماذج على الأنماط الأكثر تكرارًا في بيانات التدريب، وبالتالي قد يقدم النموذج المعلومة الخرافية باعتبارها حقيقة طبية، وينحاز للمفاهيم الشائعة الخاطئة لمجرد انتشارها على الإنترنت، مع إغفال أحدث الأبحاث العلمية التي لم تنل حجمًا كبيرًا من التكرار.
- غياب التفكير السياقي والفحص العلمي: هناك متطلبات طبية لا يستطيع أي نموذج أن يفي بها، مثل تقييم العلامات الحيوية والتاريخ العائلي المعقد أو دراسة الأعراض غير اللفظية التي يلاحظها الطبيب البشري. وبالتالي، فإن أي توصيات أو تشخيصات قد تكون خاطئة.
- فجوة تحديث البيانات: خطر آخر يكمن في تغيير البروتوكولات الصحية والإرشادات العلاجية باستمرار، بينما يظل النموذج مقيدًا ببيانات التدريب المحددة بزمن معين، مما يجعله يقدم ممارسات طبية قديمة أثبت العلم الحديث خطورتها أو عدم جدواها.
- الاعتماد الكاذب والإحساس المزيف: عندما يعتمد المريض على الإجابة السريعة للنموذج، فإنه بذلك قد يتأخر عن اللجوء إلى الطبيب أو عمل التحاليل المطلوبة أو الحصول على خدمة طبية حقيقية، وهو ما يمكن أن يكون خطيرًا في بعض الحالات الحادة.
- تجاهل التباين الفردي: يوجد اختلاف كبير بين الأجسام ومستوى الاستجابة للأدوية والعلاجات المختلفة، وهو الأمر الذي يحتاج إلى الطبيب لوصف الدواء المناسب والعلاج الأفضل، بينما النموذج لا يستطيع مراعاة هذه الفروق الفردية بأسلوب دقيق وآمن.
ما الفرق بين هلوسة النماذج وتقديم معلومات صحية قديمة؟
الفرق الأساسي بينهما يكمن في مصدر المعلومة ومدى وجودها في الواقع الطبي، وهو ما يمكن توضيحه كالتالي:
- الهلوسة الطبية: هي اختلاق كامل للمعلومات غير الموجودة على أرض الواقع أو في أي مصدر علمي نتيجة خلل في طريقة توليد اللغة، حيث يربط النموذج بين الكلمات لينتج إجابة تبدو منطقية إلا أنها خيالية تمامًا، مثل اختراع اسم دواء أو ابتكار طريقة علاجية وهمية.
- تقديم معلومات قديمة: المعلومات الصحية القديمة كانت صحيحة ومعتمدة في الماضي، إلا أنها أُلغيت نتيجة التحديثات والدراسات الحديثة التي أثبتت عدم فعاليتها أو خطورتها، مثل التوصية ببروتوكول علاجي لجائحة ما تم إيقافه عالميًا لآثاره الجانبية.
- أيهما أخطر؟: الهلوسة الطبية أكثر خطورة وتدميرًا بشكل عام، وإن كان كلاهما يحمل مخاطر جسيمة على حياة الإنسان؛ حيث كانت المعلومة القديمة مجربة على البشر ولها آثار معروفة، أما الهلوسة فهي تأليف لحظي قد ينتج عنه تركيبات دوائية أو نصائح لم يتم تجربتها مطلقًا، وبالتالي تأثيرها غير متوقع كليًا.
من يتحمل المسؤولية عند حدوث ضرر صحي ناتج عن إرشادات ChatGPT؟
عند حدوث ضرر نتيجة الإرشادات الصحية الخاطئة من أحد نماذج الذكاء الاصطناعي، فإن المسؤولية القانونية والأخلاقية تتوزع على أطراف متعددة، ليخلق ما يُعرف بـ«فجوة المسؤولية» لعدم وجود إطار تشريعي موحد حتى الآن.
- أولًا: المستخدم: يتحمل المستخدم جزءًا كبيرًا من المسؤولية؛ حيث يتم التعامل مع نماذج الذكاء الاصطناعي كأدوات مساعدة وليست أطباء مرخصين، وهو الأمر الذي يوافق عليه المستخدم عندما يوافق على شروط الاستخدام كمسؤولية وإقرار منه عن قراراته الطبية.
- ثانيًا: الشركة المالكة: في هذه الحالة تُعد شركة OpenAI، والتي تحمي نفسها قانونيًا عبر إخلاء المسؤولية الصريح الموجود في أسفل الشاشة، والذي ينص على أن النموذج لا يقدم نصائح طبية ويجب استشارة الطبيب. أما إذا ثبت وجود إهمال في تصميم النموذج، فتتحمل الشركة المسؤولية القانونية.
- ثالثًا: الطبيب أو الممارس الصحي: إذا استخدم الطبيب أو الممارس الصحي أحد النماذج كمساعد في التشخيص أو وصف العلاج، فإن أي خطأ يتحمله الطبيب كمسؤولية كاملة عن الإهمال الطبي؛ لأن الذكاء الاصطناعي مجرد أداة ولا يلغي التزام الطبيب بالتحقق والمسؤولية المهنية.
- رابعًا: الجهات التنظيمية والرقابية: بعض الهيئات التشريعية والتنظيمية تقع عليها المسؤولية لأنها لم تضع أطرًا قانونية صريحة تجبر شركات التقنية على وضع حواجز حماية صارمة على الأسئلة الطبية الحساسة، وعلى تقديم النماذج لنصائح في أمور طبية تحتاج إلى طبيب متخصص.
كيف يمكن حماية الفئات الأكثر هشاشة من الاقتناع التام بإجابات النموذج؟
بالطبع توجد فئات أكثر هشاشة مثل كبار السن وقليلي الخبرة التقنية، بالإضافة إلى المرضى الذين يعانون من ظروف صحية حادة أو توتر نفسي، وهو ما يتطلب استراتيجية فعالة لحمايتهم من القناعة التامة بإجابات نماذج الذكاء الاصطناعي عن طريق المستويات الأربعة التالية:
حواجز حماية تقنية وتصميمية
- يجب إعادة تصميم الواجهة ليكون شريط التنبيه بارزًا وملونًا ومباشرًا عندما يتعرف النظام على سؤال طبي حساس، بدلاً من عبارة إخلاء المسؤولية المعتادة التي تُكتب بخط صغير.
- يجب إخبار النموذج برفض تقديم تشخيصات حاسمة أو جرعات دوائية، وتوجيه المستخدم لمشاركة أرقام الخطوط الساخنة للمستشفيات أو الطوارئ المحلية.
- أيضًا لا بد من تعديل نبرة الثقة في الإجابات التي تنقل حالة اليقين للمستخدم، فتؤدي إلى خداع كبار السن أو غير المتخصصين.
التوعية والتعليم الرقمي
- الأهم من كل ذلك هو وجود حملات توعية صحية رقمية تقودها وزارات الصحة والهيئات الطبية لتوضيح الفرق بين محرك البحث اللغوي والطبيب المعالج.
- كذلك يجب تبسيط المفاهيم وشرح مصطلح الهلوسة الطبية بلغة بسيطة ومباشرة للجمهور للحد من الفكرة السائدة بأن الكمبيوتر لا يخطئ.
دور الأسرة والمحيط الاجتماعي
- يجب تقديم الدعم لكبار السن وتوجيههم أثناء بحثهم عن المعلومات الصحية عبر الإنترنت من خلال أفراد الأسرة والعائلة ومساعدتهم في التحقق من المصادر.
- كما توفير البدائل الموثوقة وإتاحة منصات استشارات طبية رسمية ومبسطة لتكون بديلاً مباشرًا ومتاحًا على الهواتف أو الحواسيب.
الأطر التنظيمية والرقابية
- من المهم فرض معايير سلامة صارمة من خلال إجبار شركات التقنية على وضع قيود صارمة على الأسئلة الطبية المتعلقة بالفئات الحساسة مثل حالات الحمل والأمراض المزمنة والأطفال.
- كذلك يجب إلزام النماذج بوضع علامة واضحة على أي نصيحة تتعلق بالصحة العامة توضح للمستخدم أنها محتوى مولد بالذكاء الاصطناعي وأنها غير معتمدة طبيًا.
أسئلة شائعة حول الإرشادات الصحية في ChatGPT
إليك إجابات مباشرة وموجزة عن أبرز الأسئلة المتداولة حول مدى صحة وأمان ومخاطر استخدام ChatGPT:
هل إجابات شات جي بي تي صحيحة؟
ليست صحيحة دائمًا؛ فالنموذج يعتمد على التنبؤ بالكلمات بناءً على بيانات التدريب السابقة، مما قد يؤدي لتوليد إجابات غير دقيقة أو اختلاق معلومات خاطئة بثقة فائقة تُعرف بـ«الهلوسة».
هل معلومات chatgpt الطبية صحيحة؟
لا يمكن الاعتماد عليها كمرجع طبي؛ فقد يخلط بين الأعراض، أو يقدم جرعات خاطئة، أو يعتمد بروتوكولات قديمة، وتظل استشارة الطبيب المختص هي الوسيلة الآمنة الوحيدة للتشخيص والعلاج.
ما هي عيوب تطبيق ChatGPT؟
تتلخص عيوبه في الهلوسة واختلاق الحقائق، والفتور في تحديث المعرفة اللحظية، وغياب الفهم السياقي والبشري، والانحياز للمعلومات الشائعة على الإنترنت حتى إن كانت غير دقيقة.
ما هي مخاطر استخدام الشات جي بي تي؟
تكمن مخاطره في الاعتماد الأعمى على نصائحه الطبية أو القانونية أو المالية، وإمكانية انتهاك الخصوصية وتسريب البيانات عند مشاركة معلومات حساسة، وتراجع مهارات التفكير النقدي لدى المستخدمين.
هل شات جي بي تي آمن؟
يُعد آمنًا للاستخدام اليومي والتثقيفي بشرط عدم إدخال كلمة سر، أو بيانات شخصية، أو معلومات مالية وحساسة، مع التحقق المستمر من صحة المخرجات التي يقدمها.
ختامًا، تظل التحديثات المستمرة للإرشادات الصحية تذكيرًا دائمًا بأن نماذج الذكاء الاصطناعي مهما بلغت قدرتها اللغوية ليست سوى أدوات معالجة للبيانات وليست بديلًا عن المعرفة الطبية المتجددة والخبرة البشرية المباشرة، كما تتطلب حماية السلامة العامة نهجًا واعيًا يوازن بين الاستفادة من التقنية والالتزام الصارم بالرجوع إلى المتخصصين.
نأمل أن نكون قد قدمنا لك تحليلًا مفيدًا وشاملًا لطبيعة هذه المخاطر وكيفية تفاديها. يسعدنا جدًا أن تشاركنا رأيك وتجربتك في التعامل مع المعلومات الطبية الرقمية عبر التعليقات، ولا تتردد في مشاركة المقال عبر منصات التواصل الاجتماعي لتثقيف المجتمع وتعميم الفائدة.
يجب عليك تسجيل الدخول أولاً لإضافة تعليق.