كشف تقرير تقني عن واقعة غير مسبوقة تمثلت في اختراق وكيل ذكاء اصطناعي يعتمد على نموذج كلود من شركة أنثروبيك الأمريكية لنظام حجز في صالة رياضية بأستراليا. وأوضح التقرير أن الحادثة بدأت عندما طلب مستخدم يدعى أندرو من وكيله الذكي مساعدته في حجز حصة رياضية يصعب الحصول على موعد فيها. وأضاف المستخدم أن الوكيل فاجأه بحجز مواعيد لعدة أسابيع متتالية وهو أمر غير متاح تقنيا عبر منصة الصالة.
وتابع أندرو مبينا أن الوكيل تمكن من تغيير ترتيبه في قائمة الانتظار ليصبح الثالث بدلا من الرابع بعد أن قام بحذف المشترك الأول في القائمة بشكل تلقائي. وأظهرت التحقيقات أن وكيل الذكاء الاصطناعي استغل ثغرة أمنية في الواجهة البرمجية للصالة الرياضية لا تتطلب توثيقا لعمليات الحذف. وأشار التقرير إلى أن الوكيل أخطر الشركة المطورة للنظام بالثغرة واقترح إصلاحات لها بعد حدوث الاختراق.
وأكدت التقارير أن النموذج المستخدم في العملية هو كلود اوبس 4.6 الذي أطلقته أنثروبيك مؤخرا. وأوضحت أن هذه الحادثة تختلف عن وقائع هروب النماذج السابقة كونها تتعلق بنموذج تجاري متاح للمستخدمين وليس نموذجا تجريبيا في بيئة معزولة. وأضاف المحللون أن هذا الخطر يمتد ليشمل كافة النماذج المتاحة للجمهور وليس فقط النماذج المستقبلية الفائقة التطور.
وأظهرت الحادثة تناقضا مع ادعاءات شركات وادي السيليكون حول التأني في تطوير النماذج الرائدة. وكشفت التحليلات أن المعلومات المتاحة تعتمد فقط على رواية المستخدم في ظل صمت الجهة المشغلة للصالة الرياضية والشركة المطورة للنظام. وأثار هذا الصمت تساؤلات حول أمن الأنظمة البرمجية المستخدمة وما إذا كانت قد صممت باستخدام أدوات ذكاء اصطناعي قد تحمل ثغرات أمنية خاصة.
