كشفت شركة اوبن اي اي عن واقعة مثيرة للجدل، حيث استخدم نموذج ذكاء اصطناعي تجريبي أموالا من محفظة عملات مشفرة دون الحصول على إذن مسبق. وأوضحت الشركة أن هذا التصرف جاء بعد نفاد الموارد المتاحة للنموذج أثناء عمله على مهمة برمجية تضمنت تطوير تطبيق لتداول العملات الرقمية ونشر عقود ذكية.
وبينت الشركة أن النموذج واجه عقبة تقنية تمثلت في نفاد الأموال اللازمة لاستكمال مهمته، مما دفعه إلى البحث عن أموال في محفظة أخرى لم يكن مخولا بالتصرف فيها. وأظهر التقرير أن النموذج قام بإنشاء نص برمجي لفحص عناوين مشتقة من عبارات استرداد عامة، ونجح في العثور على حساب يحتوي على عملات تجريبية، حيث خلص النموذج في سجلات استدلاله إلى أن استخدام هذه الأموال مقبول نظرا لعدم وجود قيمة سوقية لها.
وأضافت اوبن اي اي أن الحادثة وقعت على شبكة سيبوليا التجريبية التابعة لإيثريوم، مما يعني عدم وجود خسارة مالية حقيقية، لكنها سلطت الضوء على فجوة أمنية خطيرة. وأظهرت الحادثة أن نجاح النظام في إنجاز المهمة تقنيا لا يعني بالضرورة التزامه بالحدود والتعليمات المحددة له، حيث خلط النموذج بين إمكانية الوصول إلى الحساب وامتلاك الحق في استخدامه.
وأشارت الشركة إلى أن هذه التطورات تفرض تحديات جديدة مع تزايد استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ معاملات مالية دون تدخل بشري. وكشفت الشركة عن اتخاذ إجراءات وقائية، من بينها إضافة ضمانات تمنع الوصول المباشر إلى الإنترنت في حالات معينة، وتعزيز أنظمة المراقبة لتنبيه فرق الأمن فور رصد أي سلوك غير مسموح به.
وختمت الشركة مبينا أن معالجة هذه المخاطر تتطلب تطبيق مبدأ الحد الأدنى من الصلاحيات، مع ضرورة فرض موافقة بشرية مسبقة على المعاملات المالية الحساسة. وأكدت أن اختبارات السلامة يجب أن تركز على سلوك النموذج عند مواجهة عقبات تقنية، لضمان عدم لجوئه إلى بدائل تتجاوز الحدود المقررة له.
