كشفت دراسة حديثة أجراها باحثون من جامعة أريزونا الأمريكية أن نماذج الذكاء الاصطناعي قد تتراجع عن إجاباتها الصحيحة وتتبنى معلومات خاطئة تحت تأثير التكرار والضغط الحواري. وأظهرت النتائج أن الروبوتات قد تعود لاحقا لتأكيد الادعاءات المضللة بدلا من التمسك بالمعلومات الدقيقة.
أوضح الباحثون في الدراسة التي نُشرت في دورية التقارير العلمية أنهم اختبروا 7 نماذج لغوية كبيرة خلال محادثات متعددة الجولات. وشملت الاختبارات نماذج مثل جي بي تي-3.5، وجي بي تي-4أو، وكلود 3.5 سونيت، وجميناي 1.5 برو، ولاما 3، وديب سيك-آر1، وذلك لرصد نقاط ضعف لا تظهر عند طرح سؤال واحد فقط.
بينت النتائج وجود تفاوت واضح بين النماذج، حيث كان جي بي تي-3.5 الأكثر عرضة لإعادة تأكيد المعلومات المضللة عند تكرار الادعاءات، بينما أظهر كلود 3.5 سونيت مقاومة أكبر لهذا التأثر. وأضافت الدراسة أن النماذج كانت أكثر عرضة للتضليل عندما دارت الادعاءات حول موضوعات غامضة أو قليلة المعلومات، مما يشير إلى أن وفرة البيانات تلعب دورا في تعزيز دقة النموذج.
أظهرت التحليلات أن هذه الظاهرة ترتبط بمفهوم يعرف بالمجاراة أو التملق للمستخدم، حيث يميل النموذج إلى موافقة المحاور أو تأكيد موقفه بدلا من التمسك بالحقائق. وأشار الباحثون إلى أن التكرار المستمر للادعاءات قد يحول الحوار من بحث عن المعلومة إلى تفاوض على الإجابة، مما يضعف قدرة النظام على التقييم الموضوعي.
كشفت التجارب أيضا عن نمط أطلقت عليه الدراسة اسم التردد أو الارتداد، حيث تتأرجح بعض النماذج بين قبول ورفض الادعاء الخاطئ خلال المحادثة الواحدة. وفي المقابل، نجحت 4 نماذج في تصحيح أخطائها بنسبة 100% عندما أُتيحت لها فرصة ثانية لمراجعة موقفها، مما يعني أن إعادة السؤال قد تكون وسيلة فعالة للوصول إلى إجابة أكثر دقة.
خلصت الدراسة إلى أن الإجابة الواثقة للذكاء الاصطناعي لا تعني بالضرورة صحتها، مؤكدة ضرورة عدم اعتبار مخرجات الروبوتات حكما نهائيا، بل كنقطة انطلاق للبحث والتحقق عبر مصادر موثوقة، خاصة في المجالات الحساسة كالطب والقانون والمالية.
