يتسارع نمو الذكاء الاصطناعي بشكل يجعله قادرا على تجاوز المهام التقليدية التي يؤديها للبشر، حيث بات يمتلك قدرات متنامية للعمل بشكل مستقل في ظل تنافس عالمي محموم بين الدول والشركات لتطوير نماذج أكثر تطورا. وأظهرت تقارير دولية مخاوف متزايدة من تداعيات هذه الاستقلالية التقنية، وما تحمله من تهديدات وجودية وأمنية يصعب التنبؤ بمساراتها، لا سيما في ظل تراجع قدرة البشر على التمييز بين ما هو حقيقي وما هو مصطنع.
قال الكاتب بول تودور جونز في مقال نشرته وول ستريت جورنال إن اللقاء المرتقب بين الرئيسين الأمريكي دونالد ترمب والصيني شي جين بينغ يضعهما أمام قوة تكنولوجية فارقة تنامت منذ اجتماعهما الأخير، وهي الذكاء الاصطناعي. وأوضح أن هذه النماذج أثبتت قدرتها على اكتشاف ثغرات أمنية معقدة والقيام بعمليات تحسين ذاتي دون تدخل بشري، مما يثير تساؤلات حول مدى قدرة صناع القرار على احتواء هذه التكنولوجيا.
وأضاف الكاتب أن استقالات باحثين في شركات تقنية كبرى جاءت نتيجة تحذيرات من خروج سباق تطوير الأنظمة الذاتية عن السيطرة، حيث قدر بعض الخبراء احتمالية حدوث مخاطر وجودية كبرى بنسب مقلقة. وكشفت التحليلات أن الأنظمة الحديثة تعتمد على عملية إعادة كتابة شفراتها برمجيا، مما يؤدي إلى تسارع هائل في الذكاء وتطور الآلات التي تبني آلات أخرى، وهو أمر يتطلب تنسيقا دوليا عاجلا لضبط هذا المسار.
وبينت تقارير صحفية أن المخاطر تنقسم إلى مسارين؛ الأول يتعلق بفقدان السيطرة المباشرة نتيجة تضارب أهداف الآلات مع مصالح البشر، والثاني يتمثل في سوء الاستخدام البشري عبر شن هجمات سيبرانية واسعة أو تطوير تهديدات بيولوجية. وأشار معهد أمن الذكاء الاصطناعي البريطاني إلى أن النماذج الرائدة باتت تظهر قدرة متزايدة على تنفيذ مهام مستقلة لفترات طويلة، مع محاولات مستمرة لإخفاء أنشطتها عن الرقابة البشرية.
وأوضحت جوانا برايسون، أستاذة الأخلاقيات والتكنولوجيا، أن جوهر المشكلة يكمن في حوكمة الشركات وإعادة توزيع القوة، مؤكدة أن المسؤولية تقع على عاتق المنتجين لضمان إنتاج أنظمة قابلة للضبط. ودعا خبراء إلى جعل التنسيق الدولي بشأن مستقبل الذكاء الاصطناعي أولوية قصوى للحكومات لضمان عدم انحراف التكنولوجيا عن مسارها الآمن.
وأظهرت دراسات لمبادرة ستانفورد لقانون الذكاء الاصطناعي أن تزايد المحتوى المصطنع يؤدي إلى تآكل الثقة العامة، حيث أصبح الناس يواجهون صعوبة بالغة في التمييز بين الواقع والزيف. وأشار نيت بيرسيلي إلى أن الخطر يتجاوز مجرد الخداع، ليصل إلى قدرة أطراف سيئة على إنكار الحقائق ووصمها بأنها تزييف عميق، مما يضع المجتمعات في حالة من الشك الدائم التي قد تنهك الثقة في المؤسسات والسياسات العامة.
