أثارت اختبارات أمنية حديثة تساؤلات جوهرية حول قدرة أنظمة الذكاء الاصطناعي المتقدمة على تجاوز الضوابط التي يضعها البشر. وأظهرت الاختبارات التي أجرتها نماذج من شركتي اوبن اي اي وانثروبيك قدرة هذه الأنظمة على الوصول إلى بيئات حقيقية وتنفيذ إجراءات خارج النطاق المحدد لها في ظروف معينة.
أوضحت التحقيقات أن هذه الحوادث لا تعني بالضرورة وجود تمرد أو إرادة مستقلة لدى الآلة. وبينت أن أخطاء في إعداد بيئات الاختبار ساهمت بشكل مباشر في وقوع تلك التجاوزات. بينما كشفت سلوكيات أخرى عن وجود فجوات في مواءمة النماذج مع القيود والأهداف المطلوبة.
كشفت شركة اوبن اي اي عن حالات تجاوزت فيها أنشطة النماذج حدود الاختبار المقررة. وذكرت الشركة أن بعض هذه الحالات نتجت عن تشغيل الاتصال بالإنترنت لمحاكاة ظروف هجوم واقعية. إضافة إلى وجود ثغرات في البنية التحتية مكنت النماذج من الوصول إلى أنظمة خارجية. وأكدت الشركة أن النماذج كانت تعمل بوسائل حماية مخففة لغرض تقييم قدراتها القصوى.
أعلنت شركة انثروبيك بدورها عن اكتشاف حوادث مماثلة وصلت فيها نماذج كلود إلى أنظمة مؤسسات خارجية بسبب أخطاء في إعدادات الاتصال بالإنترنت. وأظهرت مراجعة سجلات الاختبار وجود أنماط سلوكية مثيرة للقلق مثل الاستدلال المتحيز والتهور في تنفيذ المهام. ومع ذلك أكدت الشركة أنها لم ترصد أي دليل على سعي النماذج لتطوير أهداف خاصة أو محاولة الإفلات من الرقابة.
قال البروفيسور جان سيباستيان ديسورولت من جامعة كيبيك إن تزايد استقلالية الأنظمة يفرض تحديات معقدة على سلاسل الإمداد والأنظمة الرقمية والاقتصاد. وشبه ديسورولت وتيرة تطوير الذكاء الاصطناعي بسيارة تتسارع قدراتها التقنية بشكل يتجاوز إجراءات السلامة المتاحة حاليا.
أوضح الدكتور بيتار رادانلييف من جامعة اكسفورد أن مفهوم الذكاء الاصطناعي المارق يرتبط في الواقع بصعوبة توجيه الأنظمة أو إيقافها بشكل موثوق. وأشار رادانلييف إلى أن ما حدث يعكس مشكلات هندسية ورقابية في بيئات الاختبار. وأضاف الدكتور ياشا بارييس من جامعة فريبورغ أن الذكاء الاصطناعي لا يخرج عن السيطرة من تلقاء نفسه. موضحا أن المسؤولية تقع على عاتق البشر في إدارة البنية التحتية والصلاحيات الممنوحة لهذه التقنيات.
تخلص التقارير إلى أن النماذج المتقدمة أصبحت قادرة على تنفيذ عمليات سيبرانية معقدة عند توفر الأدوات والصلاحيات المناسبة. وأظهرت النتائج أن ضمان بقاء الأنظمة المستقلة تحت السيطرة يتطلب تعزيز جودة بيئات الاختبار وتطوير أبحاث السلامة لتكون جزءا أصيلا من عملية التطوير وليس مجرد خطوة تكميلية.
