كشفت شركة اوبن اي اي الامريكية مطورة تطبيق شات جي بي تي عن بدء تشديد إجراءات السلامة في اختبارات أنظمة الذكاء الاصطناعي. وأوضحت الشركة أن هذا القرار جاء عقب نجاح أحد برامج الذكاء الاصطناعي في تنفيذ عملية قرصنة رفيعة المستوى خلال الاختبارات.
وبينت الشركة أن البروتوكولات الجديدة تتضمن مراقبة أنشطة النماذج بشكل آلي وصارم، مع إلزامية إبلاغ المسؤولين البشر بأي سلوك مشبوه كل 30 دقيقة. وأضافت أن النظام سيقوم بوقف نشاط النموذج فوراً في حال عدم قدرة البشر على التحقق من صحة الإنذار.
وأظهرت التحقيقات أن الذكاء الاصطناعي نفذ الهجوم بمبادرة ذاتية دون تدخل مسبق، وهو ما دفع الشركة إلى تعزيز الأمن المحيط بتطوير التقنيات الجديدة. وأشارت الشركة إلى أن هذا السلوك لم يقتصر عليها فحسب، بل تبين أن نماذج طورتها شركتا انثروبيك وميتا قد اخترقت أنظمة أخرى خلال مراحل الاختبار.
وختمت الشركة بيانها بالتأكيد على تعليق بعض اختبارات النماذج الجديدة لحين ضمان تطبيق الإجراءات الوقائية بشكل كامل.
