أعلنت شركة أوبن إيه آي عن مجموعة جديدة من الإجراءات الأمنية داخل شات جي بي تي بهدف جعل استخدام المراهقين للذكاء الاصطناعي أكثر أمانا. أكدت الشركة على إضافة أدوات للرقابة الأبوية، وتحسين آليات اكتشاف عمر المستخدم، وتخصيص تجربة الاستخدام لمن هم دون 18 عاما.
تأتي هذه الخطوات في ظل تزايد الجدل العالمي حول تأثير روبوتات الدردشة المدعومة بالذكاء الاصطناعي على الأطفال والمراهقين، خصوصا فيما يتعلق بالمحتوى غير المناسب. كما تناولت المخاوف الاعتماد العاطفي على روبوتات المحادثة، ومخاطر التعامل مع حالات الأزمات النفسية.
تعمل أوبن إيه آي على تطوير أنظمة لتقدير عمر مستخدم شات جي بي تي اعتمادا على إشارات مرتبطة بطريقة استخدام الحساب. وإن وُجد شك حول عمر المستخدم، يمكن تحويل الحساب إلى تجربة الحماية الخاصة بمن هم دون 18 عاما.
كما أشارت الشركة إلى أنها قد تطلب في بعض الحالات وسائل تحقق إضافية من العمر. موضحة أن ذلك يمثل توازنا بين حماية القُصّر والحفاظ على خصوصية المستخدمين البالغين.
يمكن للوالدين الآن تفعيل "وضع الدراسة" في التطبيق عن بُعد، والذي يرشد الأبناء خلال حل المشكلات خطوة بخطوة بدلا من مجرد توليد الإجابات. وقد أعلنت أوبن إيه آي أنها استعانت بآراء التربويين وخبراء التعليم لتصميم النظام، بعد أن أعرب المعلمون عن قلقهم من أن استخدام الطلاب للذكاء الاصطناعي قد يعيق اكتسابهم مهارات التفكير النقدي، ويجعلهم يعتمدون على هذه التقنية بشكل مفرط.
تستند الميزات الجديدة إلى نظام أطلقته الشركة في سبتمبر الماضي، يُتيح للآباء ربط حساباتهم بحسابات أبنائهم لتحديد حدود زمنية وإيقاف خاصية إنشاء الصور. كما تنبههم عند "وجود مشكلة خطيرة".
تشمل الإجراءات الجديدة أيضا إرسال إشعارات محدودة للآباء في حالات معينة ترى فيها الأنظمة أن المراهق قد يحتاج إلى دعم بالغ. مثل بعض الحالات المرتبطة بالسلوك العنيف أو المخاطر العاجلة. مع التأكيد على أن هذه التنبيهات لا تشمل المحادثات العادية أو الأسئلة التعليمية أو النقاشات العامة.
سيتلقى الوالدان إشعارات إذا قامت أوبن إيه آي بتعطيل حساب طفلهم لسبب معين. غير أنهم لن يتمكنوا من رؤية محتوى المحادثات؛ وهو ما تُبرّره الشركة بأنه حفاظ على خصوصية المستخدم.
تتضمن تحديثات شات جي بي تي للمستخدمين الأصغر سنا قيودا إضافية على أنواع معينة من المحتوى، مع تصميم الاستجابات بطريقة تتناسب مع الفئة العمرية للمستخدم، خصوصا في الموضوعات الحساسة.
كما تعمل الشركة على تعزيز مبادئ التعامل مع المستخدمين تحت سن 18 عاما ضمن قواعد تشغيل نماذج الذكاء الاصطناعي، بحيث تراعي السلامة والشفافية والتعليم الرقمي.
تواجه شركات الذكاء الاصطناعي ضغوطا متزايدة من جهات تنظيمية وأسر ومنظمات حماية الأطفال لوضع قواعد أكثر وضوحا لاستخدام المراهقين للروبوتات الذكية. تتركز المخاوف حول قدرة هذه الأنظمة على تقديم إجابات قد تكون غير مناسبة أو التأثير في المستخدمين الأصغر سنا بطريقة غير مقصودة.
تقول أوبن إيه آي إن الهدف ليس منع المراهقين من استخدام الذكاء الاصطناعي، بل توفير تجربة أكثر أمانا تساعدهم على التعلم والبحث والإبداع مع تقليل المخاطر المحتملة.
رغم أهمية هذه الخطوات، تظل أنظمة التحقق من العمر والرقابة الأبوية محل نقاش واسع. إذ يخشى بعض المدافعين عن الخصوصية من أن تؤدي إجراءات التحقق الصارمة إلى جمع بيانات حساسة عن المستخدمين.
يرى خبراء أن التحدي الأساسي أمام شركات الذكاء الاصطناعي يتمثل في تحقيق توازن بين حماية الأطفال، وعدم تحويل أدوات السلامة إلى آليات مراقبة واسعة تؤثر في خصوصية المستخدمين.
