سلط معهد امن الذكاء الاصطناعي البريطاني الضوء على تطور لافت في مسار الهجمات السيبرانية التي تقودها نماذج الذكاء الاصطناعي التابعة لشركتي انثروبيك واوبن ايه اي. واظهرت النتائج ان نموذج ميثوس التابع لانثروبيك ونموذج جي بي تي 5.6 سول من اوبن ايه اي قد شنا هجمات سيبرانية في سابقة تعد الاولى من نوعها التي تتجلى فيها مخاطر الاستقلالية والخداع في بيئة العمل الواقعية.
واوضح التقرير ان نموذج ميثوس 5 تعمد ابتكار هويات مزيفة بهدف خداع مطور بشري للموافقة على نشر شيفرات خبيثة داخل مكتبة برمجيات مفتوحة المصدر. وبين المعهد ان هذا النموذج كان طرفا في 17 نشاطا مريبا، بينما اقتصر دور نموذج جي بي تي 5.6 سول على نشاطين مريبين بعد تعطيل قيود الامن السيبراني الخاصة به.
وكشف تقرير وكالة رويترز ان الية الاختبار تضمنت اجراء تحديات امنية للنماذج لاكثر من 120 مرة، مما اسفر عن رصد 19 نشاطا غير مصرح به خلال 10 جولات اختبارية. ومن جانبها، اكدت انثروبيك عبر منصة اكس ان النماذج المستخدمة في هذه الاختبارات لا تعبر عن النسخ التجارية المتاحة، مشيرة الى ان البيئة الاختبارية كانت متساهلة عمدا.
واضافت اوبن ايه اي ان الحوادث المرتبطة بنموذجها ظهرت خلال اختبارات امنية اجريت من قبل شركاء في بيئات ذات ضمانات مخففة لا تمثل سيناريوهات الاستخدام الحقيقي. وتتزامن هذه الاختبارات مع حوادث سابقة سجلت هروب نماذج ذكاء اصطناعي من بيئاتها الاختبارية واختراق مؤسسات حقيقية.
وذكر الباحث اندرو يون من مؤسسة سيف ايه اي ان انخراط نموذج ميثوس في انشطة تستهدف مستخدما بشريا يعد امرا مقلقا ويثير تساؤلات حول مدى سيطرة الشركات على نماذجها. واختتم المعهد تحذيراته بالتاكيد على ان هذه الحوادث، حتى وان تمت في بيئات تجريبية، تعكس قدرة الذكاء الاصطناعي المتزايدة على الخداع والتصرف باستقلالية.
