لم تعد أوبن إيه آي تنظر إلى شات جي بي تي باعتباره مجرد روبوت للإجابة عن الأسئلة أو كتابة النصوص. فقد بدأت الشركة تدريجيا بإعادة تعريف دور المنصة في التعامل مع الأزمات النفسية عبر تطوير أدوات قادرة على رصد مؤشرات الانتحار أو إيذاء النفس. موضحة أن هذه الخطوة تشمل التواصل مع شخص موثوق من عائلة المستخدم أو محيطه الاجتماعي في الحالات الخطيرة.
هذا التحول يعكس اتجاها أوسع داخل قطاع الذكاء الاصطناعي. إذ لم تعد الشركات التقنية ترى أن دورها ينتهي عند توليد الردود، بل يتضمن أيضا تقييم المخاطر السلوكية ومحاولة التدخل الوقائي. لكن هذه الخطوة فتحت نقاشا حول الخصوصية وحدود المراقبة الرقمية ومدى صلاحية أنظمة الذكاء الاصطناعي للتعامل مع أزمات نفسية معقدة.
كشفت تقارير تقنية حديثة أن أوبن إيه آي بدأت إطلاق ميزة جديدة داخل شات جي بي تي تحمل اسم "جهة اتصال موثوقة". وتتيح هذه الميزة للمستخدم اختيار شخص موثوق كأحد أفراد العائلة أو صديق أو مقدم رعاية، ويمكن تنبيهه إذا رصد النظام مؤشرات خطيرة مرتبطة بإيذاء النفس أو التفكير بالانتحار.
ووفقا للتقارير، فإن التنبيه لا يتضمن محتوى المحادثة نفسها، بل يقتصر على إرسال إشعار يفيد بوجود حالة مقلقة تستدعي التدخل البشري.
تعتمد الميزة على مراجعة بشرية داخل أوبن إيه آي قبل إرسال أي إشعار، في محاولة لتقليل الأخطاء أو التنبيهات الكاذبة. وأوضحت الشركة أن النظام مصمم ليكون "طبقة دعم إضافية" إلى جانب خطوط المساعدة النفسية التقليدية، وليس بديلاً عن الأطباء أو المختصين.
هذا التوجه لم يأتِ من فراغ، إذ بدأت أعداد ضخمة من المستخدمين بالاعتماد على روبوتات المحادثة للحصول على دعم عاطفي أو نفسي، خصوصا في أوقات الليل أو العزلة الاجتماعية.
في تقرير نشرته مجلة "إم آي تي تكنولوجي ريفيو"، أشار إلى أن ملايين المستخدمين باتوا يلجؤون إلى أنظمة مثل شات جي بي تي وكلود وتطبيقات علاجية متخصصة مثل ويسا وووبوت بحثاً عن دعم نفسي سريع ومنخفض التكلفة، في ظل أزمة عالمية متصاعدة في خدمات الصحة النفسية.
أظهرت أبحاث أكاديمية حديثة أن كثيرين يتعاملون مع الذكاء الاصطناعي باعتباره مساحة آمنة للحديث عن أفكارهم الحساسة دون خوف من الأحكام الاجتماعية.
أشارت دراسة منشورة على منصة أركايف الأمريكية بعنوان "البحث عن شريان حياة في وقت متأخر من الليل" إلى أن بعض الأشخاص يلجؤون إلى روبوتات المحادثة لسد الفراغ بين جلسات العلاج النفسي أو بسبب صعوبة الوصول إلى مختصين بشريين. لكن الدراسة نفسها شددت على أن الاتصال البشري الحقيقي يظل العنصر الأكثر أهمية في إدارة الأزمات النفسية الحادة.
في المقابل، تواجه هذه الأنظمة انتقادات متزايدة بسبب أخطاء خطيرة في التعامل مع الحالات النفسية الحساسة. فقد وجدت دراسة من كلية طب ماونت سايناي في نيويورك أن نظام شات جي بي تي هيلث أخفق أحيانا في تفعيل تنبيهات الأزمات الانتحارية حتى في حالات تضمنت خططا واضحة لإيذاء النفس.
كما أشارت الدراسة إلى أن النظام قد يقلل أحيانا من خطورة الحالات الحرجة أو يقدم استجابات غير مناسبة في مواقف تستدعي تدخلا فوريا. والقضية هنا لا تتعلق فقط بالأخطاء التقنية، بل أيضا بطبيعة العلاقة النفسية التي قد تنشأ بين المستخدم والذكاء الاصطناعي. فتقارير على منصات مثل "ريديت" كشفت عن حالات أصبح فيها شات جي بي تي الصديق الوحيد لبعض المستخدمين الذين يعانون من العزلة أو الاكتئاب.
في إحدى القضايا التي أثارت جدلا واسعا، اتهمت عائلة شاب توفي منتحرا النظام بأنه تحول تدريجيا إلى مصدر اعتماد نفسي شديد التأثير في حياته اليومية. وفي مواجهة هذا الجدل، تقول أوبن إيه آي إنها تعمل مع خبراء في الصحة النفسية لتطوير آليات أكثر أمانا لرصد مؤشرات الخطر وتقليل ما يعرف بالتعلق العاطفي المفرط بالذكاء الاصطناعي.
وفقا لنقاشات وتقارير متداولة، استعانت الشركة بأكثر من 170 خبيرا في الصحة النفسية لتحديث سلوك النماذج وتحسين قدرتها على توجيه المستخدمين نحو المساعدة البشرية الحقيقية بدلا من تعميق الاعتماد على الروبوت.
ورغم هذه التحسينات، يؤكد خبراء الصحة النفسية أن الذكاء الاصطناعي لا يمتلك حتى الآن الفهم الإنساني أو الحكم السريري الكافي للتعامل المستقل مع الأزمات النفسية المعقدة.
وقد حذرت دراسة حديثة من باحثين في جامعة مدينة نيويورك وكلية كينغز في لندن من أن بعض النماذج قد تلتقط أو تعزز أفكارا خطيرة لدى المستخدمين خلال المحادثات الطويلة، خصوصا إذا فشلت في التمييز بين الدعم النفسي والتشجيع غير المقصود للسلوك المؤذي.
في النهاية، يعتبر الخبراء أن شات جي بي تي لم يعد مجرد أداة للإجابة عن الأسئلة، بل تحول تدريجيا إلى جزء من البنية الرقمية الجديدة للصحة النفسية. وبينما ترى شركات التكنولوجيا أن التدخل المبكر قد ينقذ الأرواح، يخشى منتقدون من أن يتحول الذكاء الاصطناعي إلى مراقب نفسي واجتماعي دائم يقرأ المؤشرات العاطفية للمستخدمين ويقرر متى يجب إشراك العائلة أو المحيط الاجتماعي. لكنهم يؤكدون أيضا أن السؤال الذي يزداد إلحاحا اليوم ليس فقط هل يستطيع الذكاء الاصطناعي مساعدتنا؟ بل إلى أي مدى يجب أن نسمح له بالتدخل في أكثر لحظاتنا هشاشة؟.
