أصبح الذكاء الاصطناعي التوليدي وسيلة سريعة للحصول على المعلومات وتحليل البيانات، ولكن يوضح الخبراء أن سهولة الحصول على إجابة لا تعني بالضرورة دقتها. وأظهر المعهد الوطني الأمريكي للمعايير والتكنولوجيا أن النماذج اللغوية الكبيرة قد تنتج معلومات مضللة بصياغة واثقة، وهي ظاهرة تعرف بالهلوسة، حيث تتضمن مخرجاتها حقائق أو مراجع مختلقة، مما يجعل التحقق البشري خطوة جوهرية قبل اتخاذ أي قرارات.
كشف المطورون عن 7 قواعد أساسية للتحقق من المعلومات، أولها ضرورة الرجوع إلى المصدر الأصلي، حيث قال الخبراء إنه ينبغي عدم التعامل مع إجابة النموذج كمصدر نهائي، بل كنقطة بداية للبحث. وأضافت شركة أوبن إيه آي أن النماذج قد تختلق اقتباسات أو مراجع، لذا توصي بالوصول إلى الوثيقة الأصلية وقراءة محتواها مباشرة.
مبينا أن المقارنة بين مصادر متعددة تعد خطوة ثانية، أوضح المختصون أن وجود مصدر واحد لا يكفي، خاصة في المواضيع الخلافية. وأشاروا إلى أهمية فحص الروابط والمراجع بدلا من الثقة بها تلقائيا، فظهور المصدر لا يعني دائما أن الإجابة صحيحة، وقد يفوّت النموذج مصدرا استند إليه أو يستشهد بمرجع لا يدعم المعلومة.
أظهرت التوجيهات ضرورة التحقق من الأرقام والتواريخ والأسماء بشكل مستقل، باعتبارها تفاصيل يمكن اختبارها بسهولة عبر قواعد البيانات الرسمية. وأضاف الخبراء أن الانتباه إلى حداثة المعلومات أمر حيوي، موضحين أن النماذج لا تدرك دائما الأحداث التي وقعت بعد نقطة تدريبها، ما يستدعي تحديد تاريخ المعلومة والرجوع لمصادر محدثة.
كشفت التجارب أن إعادة صياغة السؤال واختبار الإجابة بطرق مختلفة يساعد في كشف التناقضات، حيث يمكن مطالبة النموذج بتحديد درجة عدم اليقين في إجابته. وأخيرا، يشدد المتابعون على استخدام أدوات التحقق المناسبة لنوع المحتوى، مثل آلات الحاسبة للحسابات أو أدوات فحص منشأ الصور، مؤكدين أن التحقق يظل مسؤولية المستخدم الأساسية.
موضحا أن التعامل مع الذكاء الاصطناعي يجب أن يكون بصفته مساعدا في البحث وليس مرجعا نهائيا، خلص الخبراء إلى أن بناء عادة التحقق والمقارنة يظل الحلقة الأساسية بين قدرة التقنية على إنتاج المعلومات وبين دقة الاعتماد عليها في العالم الحقيقي.
