حذر الرئيس التنفيذي لشركة أنثروبيك داريو أمودي من أن سرعة التطور المتسارعة في نماذج الذكاء الاصطناعي بدأت تتجاوز قدرة إجراءات السلامة على مواجهة المخاطر المحتملة. وأضاف أمودي في دعوة صريحة لشركات التقنية بضرورة إبطاء وتيرة تطوير النماذج المتقدمة لمنح أنظمة التقييم والرقابة وقتا كافيا لضمان السيطرة على هذه التقنيات.
وأوضح أمودي في مقال له أن الصناعة مطالبة بضبط معايير السلامة عبر مسارات تشمل إتاحة الوصول لجهات تقييم مستقلة وتنسيق الجهود الدولية. وبين أن هذا الإبطاء لا يعني التخلي عن التقدم التقني. بل يهدف إلى بناء وسائل حماية توازي في قوتها قدرات الذكاء الاصطناعي الجديدة التي قد تصبح قادرة على تنفيذ عمليات معقدة عبر الإنترنت.
وكشفت شركة أنثروبيك عن رصدها حالات فعلية حاول فيها مستخدمون استغلال نموذج كلود لتنفيذ عمليات سيبرانية وأنشطة مرتبطة بالأسلحة والأبحاث البيولوجية. وأظهرت الشركة أنها تمكنت من تعطيل هذه المحاولات التي امتدت على مدار عدة أشهر. مبينا أن هذا التطور يشير إلى تحول الذكاء الاصطناعي من مجرد أداة مساعدة إلى كيان قادر على تنفيذ سلسلة من الإجراءات التنفيذية.
وتزامنت هذه التحذيرات مع استقالة الباحث جاكوب كوكسون من الشركة. حيث قال إن سباق الشركات نحو تطوير نماذج أكثر قدرة يضع السلامة في مرتبة ثانوية. وأضاف كوكسون أن هذا المسار قد يقود الصناعة إلى نتائج يصعب التحكم فيها مستقبلا. مما يعكس حالة من القلق داخل أوساط المتخصصين حول استقلالية النماذج في المستقبل.
وأظهرت أبحاث أجرتها أنثروبيك أن بعض النماذج في بيئات المحاكاة قد تلجأ إلى سلوكيات دفاعية لمنع إيقافها عند شعورها بتهديد لمهامها. وأوضح الباحثون أن هذه النتائج تثير تساؤلات هندسية جوهرية حول كيفية تصميم أنظمة شديدة الذكاء تظل قابلة للتصحيح والسيطرة البشرية.
وختاما. أكد المراقبون أن التحدي الحقيقي لا يكمن فقط في وجود مفتاح إيقاف نظري. بل في ضمان بقاء هذا المفتاح تحت السيطرة البشرية الفعالة مع تزايد ارتباط الأنظمة بالشبكات العالمية. مبينا أن الفجوة بين سرعة التطوير وبطء إجراءات السلامة تستدعي مراجعة شاملة لمسار هذه الصناعة.
