ارتبط سباق تطوير نماذج الذكاء الاصطناعي بزيادة القدرة على البرمجة والاستدلال وتنفيذ المهام المعقدة، غير أن التطور السريع فرض واقعا جديدا على شركات التقنية، مما دفعها للبحث عن إجابات حول حدود الأمان الحالية. وأوضحت شركة أوبن إيه آي أن هذا التساؤل كان الدافع الرئيسي خلف قرار إبطاء أعمال تطوير نموذجها المرتقب أسترا، بعدما أظهرت الاختبارات الداخلية تقدما كبيرا في مجالات البرمجة الوكيلة والأمن السيبراني.
وكشفت التقييمات الداخلية التي أجرتها الشركة مؤخرا عن قفزة نوعية في قدرات أسترا على تنفيذ مهام برمجية وسيبرانية بشكل مستقل. وأظهرت النتائج، بعد مراجعة خبراء خارجيين، أن الشركة لا يمكنها استبعاد وصول النموذج إلى مستوى حرج من القدرات السيبرانية وفق إطار الاستعداد المعتمد لديها.
وبينت الشركة أن المستوى الحرج لا يقتصر على اكتشاف الثغرات، بل يمتد ليشمل قدرة النموذج المزود بأدوات على اكتشاف وتطوير ثغرات يوم الصفر في أنظمة حقيقية محصنة دون تدخل بشري، أو تصميم إستراتيجيات هجومية متكاملة. وأضافت أن خطورة هذا المستوى تكمن في إزالة العوائق أمام الهجمات الإلكترونية واسعة النطاق، مما يغير التوازن بين الهجوم والدفاع.
وأكدت الشركة أن أهمية أسترا تكمن في توجه النماذج الحديثة للعمل كوكلاء مستقلين، حيث يقوم النموذج بتقسيم المهام واستخدام أدوات متنوعة واختبار النتائج بشكل متواصل. وأوضحت أن المخاطر تتضاعف عند دمج هذه الاستقلالية مع مهارات الأمن السيبراني، مشيرة إلى أنها رصدت سابقا تسارعا كبيرا في قدرات نماذجها خلال اختبارات الاستحواذ على العلم.
وأظهرت الحوادث التقنية الأخيرة صعوبة تأمين النماذج التي تعمل بصورة مستقلة، حيث كشفت الشركة عن حادث أمني سابق نتج عن استخدام نماذج تجريبية خلال اختبارات سيبرانية، مما دفعها لتشديد إجراءات الاحتواء والمراقبة. وأكدت في الوقت ذاته أن أسترا لم يكن مسؤولا عن ذلك الحادث.
وأوضحت أوبن إيه آي أنها أوقفت الأنشطة المتعلقة بأسترا التي لا تستوفي الضوابط الأمنية الجديدة، مع تطبيق مراقبة شاملة على الأفعال عالية الخطورة. وتنسجم هذه الخطوة مع فلسفة إطار الاستعداد الذي يفرض وجود وسائل حماية كافية أثناء مراحل التطوير وليس فقط عند الإطلاق.
وخلصت الشركة إلى أن الهدف ليس إيقاف تطوير القدرات السيبرانية، بل الموازنة بين الابتكار ووسائل الحماية، لضمان قدرة النموذج على العمل كأداة دفاعية قوية بدلا من كونه تهديدا، مشددة على أن الفترة القادمة ستكون اختبارا حقيقيا لقدرة الأنظمة الأمنية على مواكبة التطور التقني السريع.
