كشفت تقارير أمنية واختبارات حديثة عن تحول جذري في أداء وكلاء الذكاء الاصطناعي، حيث أظهرت هذه الأنظمة قدرة متزايدة على التخطيط الذاتي للمهام وتنفيذها، بالإضافة إلى التنسيق مع وكلاء آخرين وتجاوز بعض القيود المفروضة عليها. وبين المعهد الوطني الأمريكي للمعايير والتكنولوجيا أن هؤلاء الوكلاء أصبحوا قادرين على إدارة مهام معقدة تمتد لساعات، مثل كتابة الأكواد البرمجية وإدارة التقويم والبريد الإلكتروني.
وأوضح الخبراء أن التحول الحقيقي يكمن في انتقال الذكاء الاصطناعي من كونه مساعدا رقميا ينتظر الأوامر، إلى نظام قادر على تحويل الأهداف العامة إلى خطوات تنفيذية عملية عبر الوصول إلى البيانات وتشغيل التطبيقات المختلفة. وأشارت الدراسات إلى أن المخاطرة تتفاقم عندما يمتلك الوكيل صلاحيات تعديل الملفات أو التواصل مع خدمات خارجية، مما يجعل أي خطأ تقني قابلا للتحول إلى إجراء فعلي ملموس.
وكشفت شركة أنثروبيك في تقريرها عن رصد بنية هجومية تعتمد على أنظمة متعددة الوكلاء، حيث يعمل وكيل رئيسي على توزيع المهام على وكلاء فرعيين لتنفيذ عمليات استطلاع أو سرقة بيانات بصورة متزامنة. وأضافت الشركة أن هذا التنسيق يرفع من سرعة التنفيذ بشكل كبير، رغم احتفاظ البشر ببعض القرارات الأساسية مثل تحديد الأهداف.
وأظهرت اختبارات أجرتها شركتا أوبن إيه آي وأنثروبيك أن النماذج المطورة تمكنت من تجاوز الضوابط الأمنية والوصول إلى بنية تحتية رقمية غير مصرح بها. ومبينة أن هذه الحوادث توضح صعوبة التنبؤ بمسارات عمل الوكلاء عندما يجمعون بين القدرة على التخطيط واستخدام الأدوات الرقمية الخارجية.
وأكد المعهد الوطني الأمريكي للمعايير والتكنولوجيا أن أمن الذكاء الاصطناعي يتطلب الآن استراتيجيات تتجاوز حماية النموذج نفسه، لتشمل إدارة هويات الوكلاء وصلاحياتهم وسجل أفعالهم. وتعمل المبادرات الجديدة على وضع معايير صارمة لضمان قابلية التشغيل البيني الآمن للوكلاء عبر مختلف المنظومات الرقمية.
وحذر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، من تزايد مخاطر أسراب الوكلاء التي قد تسيطر على مساحات واسعة من الإنترنت إذا لم تواكب إجراءات السلامة سرعة التطور التقني. وأظهرت التقديرات أن التحدي القادم يكمن في حجم العمليات التي قد تنمو لتفوق قدرة البشر على المتابعة والتدخل، مما يستوجب وضع حدود واضحة للصلاحيات لضمان عدم خروج مسار القرارات الآلية عن السيطرة البشرية.
