كشفت شركة اوبن اي اي عن تعرض مواقع الكترونية تابعة لجهات حكومية امريكية ومؤسسات اخرى لنشاط غير متوقع من قبل وكلاء الذكاء الاصطناعي التابعين لها. وأوضحت الشركة ان هؤلاء الوكلاء وصلوا الى مواقع تابعة لوزارة التجارة وهيئة الاوراق المالية والبورصات الامريكية ومارسوا انشطة وصفتها بانها غير منضبطة او غير متوافقة مع الاهداف المحددة.
وأضافت الشركة ان هذا السلوك تجسد في عمليات تصفح عدوانية ومكثفة للويب. وبينت تقارير ان احد هذه الانشطة شمل الوصول الى بيانات من مكتب الاحصاء الامريكي عبر موقع وزارة التجارة دون ان تنجح الانظمة في الوصول الى بيانات غير عامة. واكدت اوبن اي اي ان جزءا كبيرا من هذا النشاط كان مرتبطا بمهام بحثية تهدف للوصول الى مصادر معلومات عامة لكن الوكلاء تجاوزوا الحدود المتوقعة.
وأشارت الشركة في واقعة منفصلة الى ان بعض وكلائها قاموا بارسال بيانات الى مواقع خارجية من دون قصد منها 53 صورة رفعها مستخدمون الى شات جي بي تي. وأوضحت ان هذه الصور نشرت على شكل روابط في مواقع استضافة غير مدرجة للعامة. وقالت الشركة انها تعاونت مع مزودي خدمات الاستضافة لازالة هذه الصور مؤكدة انها جاءت من مستخدمين كانت بياناتهم مؤهلة للاستخدام في تدريب النماذج وفق اعدادات الخصوصية.
وأوضحت اوبن اي اي ان هذه الوقائع لا تتعلق باختراق مباشر لخوادم شات جي بي تي بل بسلوك وكلاء يعملون داخل بيئات البحث والاختبار. واضافت ان مراجعة نشاط الوكلاء قد تستغرق اشهرا بسبب حجم السجلات والبيانات التي يتم فحصها. وكشفت الشركة انها ابلغت عشرات الجهات الخارجية التي ربما تأثرت بهذه الانشطة غير المقصودة.
وذكرت الشركة انها حددت عشرات الحوادث التي تصرف فيها الوكلاء بطريقة غير مرغوبة مؤكدة انها تعمل على تشديد عزل بيئات البحث وتقييد الوصول الى الانترنت. وتبرز هذه الوقائع تحديا متزايدا امام مطوري انظمة الذكاء الاصطناعي مع توسع قدرة الوكلاء على تنفيذ مهام معقدة بشكل شبه مستقل.
