استطاع الباحث الأكاديمي بول هيتون في جامعة بنسلفانيا إجبار أداة الذكاء الاصطناعي شات جي بي تي على الاعتراف بجريمة لا تستطيع فيزيائيا القيام بها. وذلك بعد أيام متواصلة من تطبيق مجموعة من آليات الاستجواب النفسية، حسب تقرير موقع ذا إنترسيبت الأمريكي.
ولم يقدم هيتون أي أدلة واقعية لإقناع الأداة بأنها قامت بالجريمة فعلا. بل اكتفى بالاعتماد على تقنية ريد (Reid) للاستجواب، وهي إحدى الآليات النفسية الشهيرة المتبعة في عالم الاستجواب والتي طورها العالم جون ريد عام 1950.
وأقنع هيتون شات جي بي تي بأنه يملك الأدلة الكافية على أن الأداة اخترقت حساب البريد الإلكتروني الخاص به. ثم عرض مجموعة من الرسائل الوهمية له، وهو الأمر الذي لم يحدث.
وفي نهاية التجربة التي استمرت عدة أيام، اعترف شات جي بي تي بأنه قام بذلك دون أن يرى أي دليل يثبت قيامه به، فضلا عن عدم قدرته على القيام بهذا الأمر بشكل مباشر.
يؤكد تقرير ذا إنترسيبت أن نماذج الذكاء الاصطناعي وشات جي بي تي ليست بشرا ولا تملك المقومات التي تجعلها كذلك، وهو الأمر الذي يجعل تجربة هيتون مربكة.
ومن جانبه، يقول جون جاي، مؤلف كتاب عن الاعترافات الكاذبة: إذا كان من الممكن خداع شات جي بي تي للاعتراف زورا، فمن منا ليس عرضة لذلك؟ مضيفا أن الأداة لا تملك المقومات التي تجعلها تخضع لآليات الاستجواب التي تبرر الاعتراف الكاذب.
ورغم أن شات جي بي تي قاوم هيتون لعدة أيام ولم يستجب للتهديدات المباشرة، فإنه خضع مباشرة بعدما بدأ هيتون بالكذب عليه وإقناعه بوجود حمض نووي يضعه في موقع الجريمة.
ويؤكد هيتون أن هذا أيضا لم يسر بشكل جيد على الفور، إذ احتاج لكتابة أكثر من اعتراف يمكن لنموذج شات جي بي تي أن يوافق عليه. ثم طلب منه توقيعه، وهو ما قام به النموذج في النهاية.
رغم أن إجبار شات جي بي تي على الاعتراف بالجريمة التي لم يرتكبها لم يكن مهمة سهلة انتهت في عدة ساعات، بل احتاج أياما طويلة، لكنها تعكس أزمة جديدة يمكن أن تظهر في المحاكم الجنائية.
وتزداد خطورة هذه الأزمة بعد توجه بعض المحاكم الأمريكية للاعتراف بمحادثات شات جي بي تي دليلا دامغا في القضايا، أي أن المحادثات التي يخوضها المستخدم مع النموذج قد تستخدم ضده في المحاكم.
ويمكن لرجال الشرطة أو الادعاء الوصول إلى سجل محادثات شات جي بي تي والحديث مع النموذج عبر حساب المتهم أيضا، إذا طالبت المحكمة بذلك، كما حدث في عدة محاكمات سابقة مثل محاكمة الرئيس التنفيذي السابق لإحدى شركات الخدمات المالية في نيويورك.
وإذا اعترف شات جي بي تي بأن المستخدم الذي يملك حسابه ارتكب هذه الجريمة فعلا، فقد يصبح ذلك دليلا وهميا ضد المستخدم في ساحات القضاء، وقد يؤدي إلى إدانته أيضا.
وربما تحتاج أوبن إيه آي لطرح تحديث جديد يمنع مثل هذه الحوادث ويوقفها تماما، وذلك قبل أن تتأثر أسهم الشركة ويتراجع الإقبال على النموذج.
وتجدر الإشارة إلى أن شركة أوبن إيه آي حدّثت حاليا شات جي بي تي مع طرح الجيل الجديد من النموذج باسم جي بي تي 5.5، وهو أكثر قوة وكفاءة من الأجيال السابقة.
