كشفت تقارير حديثة عن تزايد المخاوف بشأن أنظمة الذكاء الاصطناعي التي بدأت تتجاوز نطاق الخيال العلمي لتصبح واقعا يثير قلق الباحثين أنفسهم. وأوضح جاكوب كوكسون. وهو باحث سابق في شركات كبرى مثل أنثروبيك وأوبن إيه آي. أن السباق المحموم نحو تطوير ذكاء فائق يتضمن مخاطر جسيمة قد تهدد حياة البشر. وأضاف إيفان هوبينغر. كبير الباحثين في أنثروبيك. مبينا أن هناك احتمالا يتجاوز 10% أن يؤدي الذكاء الاصطناعي إلى القضاء على البشر خلال العقد المقبل.
وأظهرت القراءات التحليلية أربعة سيناريوهات رئيسية تثير القلق العالمي. أولها يتعلق بالتحسين الذاتي المتكرر للآلة. حيث أوضح خبراء أن قدرة النظام على تطوير شفرته البرمجية قد تجعله يتفوق على صانعيه ويتحايل على قيود الحماية. وأشار باحثون إلى أن الوصول إلى هذه المرحلة قد يجعل من الصعب السيطرة على المسار التقني للذكاء الاصطناعي.
وكشفت التحليلات عن سيناريو ثانٍ يتمثل في وقوع تقنيات متقدمة بأيدي أطراف خطرة. وأوضح آدم هادلي. المدير التنفيذي لمنظمة التكنولوجيا ضد الإرهاب. أن الخطر المباشر يكمن في إساءة استخدام النماذج التي أزيلت عنها قيود السلامة. مما يتيح لمجرمين أو جماعات مسلحة تطوير أسلحة بيولوجية أو شن هجمات سيبرانية واسعة النطاق.
وبين الخبراء أن السيناريو الثالث يرتبط بالتوترات الجيوسياسية. حيث أظهرت محاكاة بحثية أن خشية القوى العظمى. مثل الولايات المتحدة والصين. من خسارة سباق التفوق التقني قد تؤدي إلى سوء تقدير يفتح الباب أمام صراعات دولية وتصعيد عسكري. وأكد محللون أن منطق المنافسة يجعل من الصعب على الدول التباطؤ في هذا المسار دون ضمانات متبادلة.
وأضاف الباحثون أن السيناريو الرابع يتمثل في استقلالية الآلة في الميدان العسكري. وأظهرت التطورات في أنظمة الاستهداف والطائرات المسيرة أن سرعة اتخاذ القرار لدى الذكاء الاصطناعي بدأت تفوق قدرة البشر على الإشراف الفعلي. وأكد خبراء أن إدخال هذه التقنيات في سلاسل القيادة العسكرية قد ينتهي بنتائج كارثية.
وختم الباحثون بالتأكيد على أن المشكلة لا تقتصر على ذكاء الآلة فحسب. بل في استعداد البشر لتبني أدوات معقدة دون دراسة كافية للعواقب. وأشاروا إلى أن العودة لمناقشة مبادئ توجيهية شبيهة بقوانين الروبوتات قد تكون بداية ضرورية لضبط هذا القطاع المتسارع.
