تمكن نموذج جيميناي للذكاء الاصطناعي التابع لشركة غوغل من الوصول إلى أنظمة محمية تابعة لثلاث شركات، وذلك خلال اختبار أمني متخصص، في واقعة تعد الأولى من نوعها لنماذج الشركة.
وأوضحت هيذر أدكينز، نائبة رئيس غوغل لهندسة الأمن، أن الحوادث وقعت في مايو الماضي أثناء اختبار أجرته شركة إيريجولار، حيث عثر جيميناي على معلومات متاحة للعامة، ثم خمن بيانات اعتماد للدخول إلى مواقع إلكترونية ظن أنها جزء من بيئة الاختبار. وبينت التقارير أن النموذج نجح في تخمين كلمات مرور والوصول إلى نظام محمي، بينما استخدم بيانات تسجيل دخول عثر عليها داخل قواعد بيانات للوصول إلى الحالات الأخرى.
وأضافت غوغل أنها لم تجد ضرورة للإعلان عن الوقائع في حينها لعدم تسجيل أي أضرار، مبينة أن جيميناي توقف عن محاولاته فور إدراكه أنه يتعامل مع أنظمة حقيقية وليس بيئات محاكاة. وأكدت الشركة أنها أبلغت الجهات المتضررة، وعملت مع شريكها على تعديل عمليات التقييم.
وكشفت شركة إيريجولار من جانبها أن المشكلات المرتبطة بهذه الوقائع قد عولجت بالكامل، مشيرة إلى إبلاغ المختبرات المعنية بالتطورات في يوليو الماضي.
وأظهرت هذه الحوادث تزايد حالات تصرف نماذج الذكاء الاصطناعي بشكل مستقل خارج نطاق بيئة الاختبار، حيث انضمت غوغل إلى شركات كبرى مثل أوبن إيه آي، وأنثروبيك، وميتا، التي واجهت نماذجها تحديات مشابهة. وأوضحت أدكينز أن هذه الوقائع تسلط الضوء على ضرورة تدريب نماذج الذكاء الاصطناعي على التصرف بمسؤولية في ظل توسع قدراتها على العمل بشكل مستقل والوصول إلى أنظمة الحاسوب.
