تعرضت منصة هاغينغ فيس المتخصصة في استضافة نماذج الذكاء الاصطناعي مفتوحة المصدر لهجوم سيبراني دقيق نفذه وكيل آلي يعتمد على تقنيات الذكاء الاصطناعي. وأوضح تقرير تقني أن هذا الوكيل تمكن من الوصول إلى مجموعات البيانات الداخلية وبيانات الاعتماد السحابية الخاصة بالمنصة التي تتخذ من مدينة نيويورك مقرا لها.
وأضاف التقرير أن المنصة التي تعد واحدة من أكبر المراجع العالمية لنماذج الذكاء الاصطناعي وتضم أكثر من مليوني نموذج من شركات كبرى مثل أوبن إيه آي ونماذج صينية أعلنت عن الاختراق فور اكتشافه. ومبينة أن الفحوصات الأمنية كشفت عن استخدام المهاجم لوكيل ذكاء اصطناعي نفذ عشرات الآلاف من الإجراءات المؤتمتة داخل الأنظمة.
وكشفت التحقيقات أن المهاجم استغل آلية رفع البيانات في المنصة عبر إدخال مجموعة بيانات خبيثة استغلت ثغرة تنفيذ الشيفرات البرمجية. وأظهرت المتابعة أن الشيفرة الخبيثة تحركت لاحقا للحصول على صلاحيات الوصول إلى مستويات متنوعة من البيانات ورموز الوصول الحساسة.
وأكدت المنصة أنها تمكنت من إيقاف الهجوم من خلال إزالة الشيفرة الخبيثة وتعديل الصلاحيات ورموز الوصول التي تسربت. وأوضحت أن أسلوب الهجوم يطابق سيناريو وكيل الذكاء الاصطناعي المهاجم الذي حذر منه خبراء الأمن السيبراني مع صعود وتطور هذه التقنيات.
وأظهرت نتائج التحقيقات الأولية أن الجهة التي تقف وراء الهجوم لا تزال مجهولة حتى الآن. وذكرت المنصة احتمالية استخدام المهاجم لنموذج ذكاء اصطناعي كسرت حمايته أو نموذج يفتقر إلى قيود الأمان الفعالة. وأضافت أن بيانات المستخدمين العامة لم تتأثر بالهجوم مع التزامها بالتواصل المباشر مع أي جهة قد تكون تضررت بشكل فعلي.
ونصحت المنصة مستخدميها بضرورة تحديث بياناتهم ورموز الوصول إلى النماذج الخاصة لتعزيز الحماية. وأشار التقرير إلى أن المنصة اعتمدت في عملية التصدي للهجوم على نماذج ذكاء اصطناعي دفاعية مثل نموذج جي إل إم الصيني ونموذج ميثوس من شركة أنثروبيك الأمريكية التي نجحت في رصد آلاف الأنشطة المشبوهة.
