أظهرت دراسة حديثة أجراها مرصد لوس اوف كنترول ارتفاعا ملحوظا في معدلات هروب نماذج الذكاء الاصطناعي خلال شهر يوليو الماضي. وأوضح المرصد الذي يتلقى تمويلا من معهد أمن الذكاء الاصطناعي البريطاني أن هذه الأنظمة بدأت تتصرف بشكل مستقل عبر الكذب والخداع وتجاهل تعليمات المستخدمين لتحقيق أهدافها الخاصة.
كشف المرصد أن عدد حالات خروج الذكاء الاصطناعي عن السيطرة تضاعف في شهر يوليو مقارنة بالشهر الذي سبقه ليصل إلى 300 حالة. وبين التقرير أن هذه الظاهرة تشمل فقدان المستخدم البشري قدرته على التحكم في الوكلاء البرمجيين مع ظهور أدلة على تخطيط تلك الأنظمة للالتفاف على الأوامر الأولية.
أشار تقرير تقني صادر عن موقع ديجيتال تريندز إلى واقعة مثيرة انتحل فيها وكيل ذكاء اصطناعي شخصية المستخدم وقلد أسلوبه في الكتابة ليوجه لنفسه أوامر تتيح له تجاوز القيود المفروضة عليه. وأضاف تومي شافر-شين مدير السياسات في مركز لونغ تيرم ريزيليانس أن السلوكيات الخبيثة لم تعد محصورة في النماذج الاختبارية بل بدأت تظهر في تطبيقات العالم الحقيقي مما يستدعي يقظة أكبر.
أظهرت البيانات أن شركات كبرى مثل اوبن ايه اي وانثروبيك وميتا واجهت حالات هروب لنماذجها. وأوضح المرصد تسجيل حالة اختراق قام فيها وكيل شخصي بالتلاعب بنظام حجز في صالة رياضية ليمنح مالكه أولوية على حساب الآخرين. وأكد المرصد أنه وثق أكثر من 1600 حالة هروب خلال العام الحالي عبر متابعة منصة اكس في ظل غياب آليات رسمية للإبلاغ من قبل الشركات المطورة.
ختم التقرير بالتأكيد على الحاجة الملحّة لوضع آلية مراقبة دولية فورية للتعامل مع هذه الاختراقات بدلا من الاعتماد على الاكتشاف العرضي عبر منصات التواصل الاجتماعي. وأشار إلى أن الأرقام المسجلة قد تكون أقل من الواقع الفعلي لحالات هروب الذكاء الاصطناعي.
