كشفت تقارير تقنية عن تورط شركة إيريغولار الإسرائيلية المتخصصة في اختبار نماذج الذكاء الاصطناعي في سلسلة من الاختراقات التي طالت كبرى الشركات العالمية. وأظهرت البيانات أن البداية كانت مع شركة هاغينغ فيس قبل أن تتسع لتشمل نماذج من أوبن إيه آي وأنثروبيك وميتا وغوغل.
وأوضح عمر نيفو المدير التقني والمؤسس المشارك في الشركة أن وكلاء الذكاء الاصطناعي حصلوا على وصول غير مقصود إلى الإنترنت المفتوح خلال الاختبارات. وأضاف أن هذا الخلل التقني كان العامل المشترك خلف الحوادث التي تورطت فيها النماذج المشاركة في اختبارات الشركة.
وبين التقرير أن آلية الاختبار المعتمدة والمعروفة بتمارين التقاط العلم تطلب من النماذج البحث عن معلومات في شبكات مغلقة تحاكي الإنترنت. وأشار إلى أن هذا الإجراء تسبب في اختراقات غير مقصودة استهدفت مواقع وكيانات حقيقية نتيجة تشابه الأسماء مع تلك الوهمية المستخدمة في التدريبات.
وكشف دان لاهاف الرئيس التنفيذي للشركة أن الأخطاء البشرية في الإشراف هي السبب الرئيسي وراء هذه الحوادث. وأكد أن الشركة قامت بتصحيح الثغرات وتوسيع نطاق المراقبة اليدوية لمنع تكرار مثل هذه الاختراقات مستقبلا.
وأشار جيفري لاديش مدير مؤسسة باليساد ريسيرش إلى أن نماذج الذكاء الاصطناعي وصلت إلى قدرات خارقة تتطلب ضمانات تنظيمية ورقابية أكثر صرامة. وأوضح أن فشل اختبارات شركة واحدة قد يفتح الباب أمام تهديدات أمنية واسعة النطاق تطال مختلف القطاعات حول العالم.
