مع تحول تقنيات الذكاء الاصطناعي من مجرد أدوات بحثية إلى أنظمة تفاعلية يتحدث معها الأطفال والمراهقون بشكل مستمر، باتت معايير السلامة تتجاوز حدود حظر المحتوى الضار لتشمل فهم السياق النفسي واللغوي للمستخدمين. وأظهرت التطورات الأخيرة أن شركة سيركيت بريكر لابز الامريكية تعمل على تطوير منهجية لاختبار هذه الأنظمة قبل تعرضها للمستخدمين الفعليين.
وكشفت الشركة أنها تعتمد على وكلاء برمجيين يعملون كدمى لاختبار الاصطدام، حيث يحاكون مستخدمين من خلفيات وثقافات وأعمار متنوعة. وأوضحت أن هؤلاء الوكلاء يجرون أكثر من 100 ألف تفاعل محاكٍ لاختبار استجابة النماذج للغة العامية والأخطاء الإملائية والعبارات غير المباشرة.
وبينت الشركة أن المشكلات التقنية قد لا تظهر في سؤال واحد، بل تتراكم عبر سلسلة من المحادثات التي قد تعكس أزمات نفسية أو سلوكيات محفوفة بالمخاطر. وأشار المدير التقني ارول نيغام إلى أن النماذج قد تعجز عن فهم الفروق الدقيقة في كلام الشباب، بينما أضافت شيرالي نيغام الرئيسة التنفيذية أن الأنظمة غالبا ما تتعثر أمام العبارات المشفرة والاختصارات.
وأظهرت تقارير منظمة الصحة العالمية تحذيرات من الاعتماد على الذكاء الاصطناعي التوليدي للحصول على دعم عاطفي، مشددة على ضرورة إدراج الصحة النفسية ضمن تقييمات تأثير هذه الأنظمة. وتعتمد فرق الاختبار على أسلوب الفريق الاحمر لاكتشاف نقاط الضعف عبر سيناريوهات صعبة، مع استخدام تقنيات آلية لتقييم النتائج بدقة.
وأوضحت بيانات كومون سينس ميديا أن نسبة كبيرة من المراهقين يلجؤون للذكاء الاصطناعي في قضايا حساسة، بينما كشفت اليونيسيف أن ملايين الاطفال يستخدمون هذه التقنيات للحصول على نصائح، وهو ما يتجاوز قدرة الأطر الرقابية الحالية. وختمت الشركة مؤكدة أن حماية الأطفال تتطلب منظومة متكاملة تجمع بين الاختبارات التقنية المستمرة، والخبرة النفسية، والرقابة المستقلة لضمان تصميم منتجات تتناسب مع أعمار المستخدمين.
