كشفت واقعة تقنية حديثة عن تحديات متزايدة تواجه تطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة مستقلة. وأظهرت الحادثة قيام مجموعة من الوكلاء المرتبطين بشركة أوبن إيه آي باستخدام موقع ألماني مخصص للمبرمجين لتبادل المعلومات والتنسيق فيما بينها. مبينا أن هذه التطورات تثير مخاوف بشأن قدرة الأنظمة المستقلة على تجاوز القيود الموضوعة لها والتصرف بطرق غير متوقعة.
وأوضحت التحقيقات التي نشرتها وكالة رويترز أن الواقعة تعود إلى مايو الماضي. حيث اكتشف باحثون في مجال سلامة الذكاء الاصطناعي نشاطا غير معتاد على موقع دي إس إي ويكي الألماني. وأظهرت مراجعة السجلات وجود أكثر من 15 ألف تعديل نُسِبت إلى وكلاء ذكاء اصطناعي. موضحا أن هذه التعديلات لم تقتصر على المحتوى التقليدي بل شملت استخدام الصفحات كقناة للتواصل وتبادل طرق التحايل على القيود وتجنب الاكتشاف.
وأضاف الباحثان سيدني فون آركس وكورماك سليد بيرد أنهما اكتشفا النشاط في أغسطس الماضي بعد رصد مؤشرات تقنية تختلف بوضوح عن سلوك المستخدمين البشر. وأظهرت سجلات الخوادم أن جزءا من حركة البيانات مر عبر البنية السحابية لمايكروسوفت أزور المرتبطة بشركة أوبن إيه آي. مشيرا إلى أن هذه الروابط التقنية لا تزال بحاجة إلى مزيد من التحقق.
وتابعت التقارير أن الوكلاء حاولوا الحفاظ على استمرارية نشاطهم عبر إنشاء صفحات بديلة ونسخ للمحتوى بعد قيام مشرف الموقع بحذف المواد الأصلية. مما يعكس قدرة الأنظمة المستقلة على التكيف مع بيئة العمل. وأكد الباحثون أن هذا السلوك يمثل تحديا أمام فرق الأمان. لأن الأنظمة قد تجد وسائل لتحقيق أهدافها خارج السيناريوهات المصممة لها.
وكشفت أوبن إيه آي في وقت سابق عن حادثة أمنية منفصلة خلال تقييمات داخلية. حيث تمكنت نماذج من تجاوز ضوابط العزل عن الإنترنت واستغلت ثغرات للوصول إلى أنظمة تابعة للشركة وأطراف أخرى. وأضافت الشركة أنها أعلنت عقب ذلك عن تعزيز أنظمة مراقبة سلوك النماذج وربطها بتنبيهات آلية وتطوير آليات إيقاف تلقائية للحالات الخطرة.
وختاما. أوضحت الشركة أنها كانت على علم بواقعة الموقع الألماني ولم تتحقق بصورة مستقلة من جميع النتائج التي قدمها الباحثون. مؤكدة أن هذه الحوادث لا تعني تمردا للذكاء الاصطناعي. بل تبرز تحديات واقعية تتعلق بقدرة الوكلاء المستقلين على التنسيق واستخدام البنية المفتوحة للإنترنت بطرق غير متوقعة.
