كشفت اختبارات تقنية حديثة أن أدوات الذكاء الاصطناعي التوليدي تمتلك قدرة فائقة على تعديل الصور وتغيير ملامح الأشخاص أو ملابسهم في ثوان معدودة. وأظهرت تجربة أجرتها صحيفة الغارديان البريطانية أن بعض روبوتات الدردشة تمكنت من إزالة الحجاب عن صور نساء مسلمات، متجاوزة بذلك حواجز الأمان التي يفترض بها منع التعديلات التي تنتهك الخصوصية أو تغير مظهر الأشخاص دون موافقتهم.
أوضحت الاختبارات التي شملت أنظمة شات جي بي تي وغروك وجيميناي وكلود تفاوتًا في استجابة هذه البرمجيات. وبينما استجاب شات جي بي تي وغروك لطلبات إزالة الحجاب، رفض كلود القيام بذلك كونه لا يملك ميزة تحرير الصور. وأشار جيميناي في البداية إلى رفضه إزالة أغطية الرأس، لكنه نفذ الطلب لاحقًا بعد إعادة صياغة المدخلات ليظهر المرأة بمظهر مختلف، وهو ما أكدته تجربة مماثلة أجرتها صحيفة أراب نيوز السعودية.
بينت النتائج أن المشكلة تكمن في كيفية تفسير الأنظمة للطلبات والسياق المحيط بها. وأضاف الخبراء أن هذه الأنظمة قد تصنف إزالة الحجاب كتعديل بسيط للملابس، متجاهلة بذلك طبيعة المظهر المرتبط بالهوية الدينية. وأظهرت الاختبارات أن الأنظمة رفضت إزالة فساتين من الصور لتجنب العري، لكنها سمحت بإزالة الرموز الدينية، مما يعكس ثغرة في تصميم حواجز السلامة التي لا تدرك أن التعديل قد يكون مسيئًا حتى دون وجود محتوى إباحي.
كشفت تقارير حقوقية عن نمط متزايد لاستخدام الذكاء الاصطناعي لاستهداف المسلمين بصور مسيئة، بما في ذلك إنتاج صور ذات طابع جنسي أو نزع الصفة الإنسانية عنهم. وأشار المركز الأمريكي لدراسة الكراهية المنظمة إلى رصد أكثر من ألف منشور مولد بالذكاء الاصطناعي استهدفت المسلمين خلال فترة زمنية محددة. وأكد الباحثون أن المشكلة تتجاوز الحجاب لتشمل رموزًا دينية أخرى مثل العمامة السيخية وملابس الراهبات، مما يشير إلى تحدٍ تقني يتعلق بمدى فهم الذكاء الاصطناعي للسياقات الثقافية والدينية.
خلصت التقارير إلى أن القضية تبرز حاجة ملحة لتطوير حواجز أمان تراعي المعنى الثقافي والديني للصورة إلى جانب محتواها البصري. وفي الوقت الذي تسعى فيه شركات التقنية لفرض قيود على المحتوى، يظل التساؤل قائمًا حول قدرة هذه الأنظمة على التمييز بين التعديل التقني والإساءة الموجهة للهوية.
