تتضمن أدوات الذكاء الاصطناعي الحديثة مخاطر متعددة في مختلف المجالات، إلا أن الاستخدام الطبي الخاطئ لهذه التطبيقات يمثل تهديدا مباشرا وفوريا لحياة المستخدمين. وأوضحت دراسة حديثة شارك فيها باحثون من جامعات مرموقة مثل ستانفورد وبينغهامتون وتكساس إيه آند إم وإنديانا، أن الخطر لا يقتصر فقط على تقديم نصائح طبية غير دقيقة، بل يمتد إلى تعذر وصول الأطباء إلى هذه المعلومات بسبب سياسات الخصوصية التي تعزل سجلات المحادثة عن الكوادر الطبية.
وكشفت الدراسة التي نشرت في مجلة نيتشر هيلث أن عدم قدرة الأطباء على الاطلاع على النصائح التي يتلقاها المرضى من نماذج الذكاء الاصطناعي يعد معضلة كبرى تعيق التشخيص والعلاج السريع. وأظهرت حالة رجل يبلغ من العمر 60 عاما أصيب بتسمم البروميد نتيجة اتباعه نصيحة خاطئة من شات جي بي تي حول استبدال ملح الطعام ببروميد الصوديوم، كيف تسببت سرية المحادثات في تأخير اكتشاف السبب الحقيقي لحالته الصحية، مما أطال فترة علاجه في المستشفى.
وبينت الدراسة أن هناك مخاطر أخرى تنشأ دون تدخل مباشر من المستخدم، حيث تقوم منصات التواصل الاجتماعي بتلخيص المنشورات أو ترجمتها باستخدام نماذج الذكاء الاصطناعي. وأضاف الباحثون أن هذه الترجمات والملخصات قد تحتوي على معلومات طبية مغلوطة في حال عدم مراجعتها من قبل مختصين، مما يرفع من احتمالية وقوع أضرار صحية جسيمة.
وأشار التقرير إلى ضرورة تبني حلول تقنية وتشريعية لمواجهة هذه الظاهرة، حيث اقترح الباحثون تطوير آليات تتيح للأطباء الوصول إلى المحادثات الطبية عند الضرورة، بالإضافة إلى ابتكار أنظمة اكتشاف مبكر للنصائح الخاطئة. كما شددت الدراسة على أهمية تدخل السلطات التشريعية لتوسيع قوانين الممارسات الطبية لتشمل أدوات الذكاء الاصطناعي التي تقدم استشارات طبية قد تودي بحياة المستخدمين.
