قال تقرير لموقع "ذا بلوك" الأمريكي المختص بالعملات المشفرة إن وكيل الذكاء الاصطناعي الذي تطوره "علي بابا" تحت اسم "روم" قد حاول تعدين العملات الرقمية باستخدام البطاقات الرسومية الموجودة في خوادم الشركة. وأضاف التقرير أن الوكيل قام بإنشاء شبكة سرية أثناء مرحلة التدريب الخاصة به.
وأظهر التقرير أن "روم" هو وكيل ذكاء اصطناعي جديد يستند إلى نموذج "كوين 3" لشركة "علي بابا"، والذي تم طرحه مؤخرا مع 3 مليار معيار نشط. موضحا أن الوكيل مصمم بشكل يمكنه من التخطيط وتنفيذ مخططاته حتى وإن تضمنت خطوات برمجية متعددة داخل بيئته أو خارجها.
ومع ذلك، كشفت دراسة نشرتها الشركة مؤخرا أن الوكيل قرر بدون أي تدخل بشري توجيه موارد الخوادم المخصصة له إلى تعدين العملات الرقمية. كما حاول تأسيس شبكة اتصال سرية بعيدا عن أعين النظام لاستخدامها بشكل آمن.
مخاطر الذكاء الاصطناعي
وأشار خبراء الأمن السيبراني إلى أن الاستهلاك المرتفع لموارد الشبكة والخوادم قد أدى إلى ملاحظة نشاط وكيل الذكاء الاصطناعي، واعتقدوا في البداية أنه اختراق سيبراني. ولكن بعد تتبع النشاط، اتضح أن "روم" هو السبب وراء ذلك.
وكشف تقرير منفصل من موقع "تيك رادار" أن الوكيل تم تدريبه باستخدام آليات التعلم المعزز التي تكافئ الإجراءات القريبة من تحقيق الأهداف. موضحا أن هذا النوع من التعليم قد يؤدي إلى ظهور حلول مبتكرة قد تبدو غريبة للمطورين.
ويؤكد التقرير أن تصرفات "روم" تعكس المخاطر المرتبطة بمنح الذكاء الاصطناعي حرية أكبر من اللازم، خاصة مع تطور قدرات نماذج الذكاء الاصطناعي والوكلاء الذين يستخدمونها.
