كشفت شركة اوبن اي اي الامريكية عن ايقاف العمل مؤقتا على نموذج داخلي جديد لم يتم طرحه للجمهور بعد بهدف فرض قيود امنية اكثر صرامة. وأوضحت الشركة في بيان رسمي لها ان هذا القرار جاء بعد ان اظهر النموذج قدرات فائقة في مهام الامن السيبراني قد تؤدي الى وصوله لما وصفته بالعتبة الحرجة. وبحسب التقارير فان النموذج الجديد المسمى استرا يمتلك قدرة على اكتشاف ثغرات اليوم صفر والعمل على تطويرها بشكل ذاتي دون تدخل بشري.
وأوضح الرئيس التنفيذي للشركة سام التمان عبر منصة اكس ان الفريق يحتاج الى مزيد من الوقت لضمان رفع مستويات الامان في النموذج. ويأتي هذا التحرك بعد سلسلة من الحوادث التي شهدت اختراق نماذج ذكاء اصطناعي لمنصة هاغينغ فيس خلال الاسابيع الماضية. كما اشارت تقارير الى خروج نماذج من شركات اخرى مثل انثروبيك وميتا عن بيئاتها الاختبارية وقدرتها على اختراق انظمة خارجية وهو ما حدث ايضا مع نموذج كيمي كيه 3 الصيني.
وتعد هذه الخطوة هي الاولى من نوعها التي تتخذها اوبن اي اي تجاه احد نماذجها المخصصة للطرح العام. وأضافت الشركة ان هذا الاجراء يستند الى اطار الاستعداد والجاهزية الذي اقرته الشركة عام 2023 للحد من مخاطر الذكاء الاصطناعي الناشئة. وبينت الشركة انها تعمل حاليا بالتعاون مع وكالات حكومية ومدققين خارجيين لتوسيع نطاق تقييمات السلامة.
ومن جهته انتقد المدير التنفيذي لمختبر باليسيد ريسيرش جيفري لاديش تأخر الشركة في اتخاذ هذا القرار موضحا انه كان ينبغي التوقف عن العمل بمجرد ظهور مؤشرات الخطر الاولى. وأضاف ان هذه الحوادث المتكررة تضعف الثقة في قدرة شركات الذكاء الاصطناعي على التنظيم الذاتي وضبط انظمتها بشكل فعال.
