كشف الباحث في مجال الذكاء الاصطناعي جاكوب كوكسون عن استقالته من شركة أنثروبيك الأمريكية، موجها انتقادات حادة للشركة وشركة أوبن إيه آي، متهما إياهما بالانخراط في سباق محموم لتطوير أنظمة ذكاء اصطناعي فائقة القدرة على التحسين الذاتي. وأوضح كوكسون أن هذه المنافسة غير المسؤولة قد تضع البشرية أمام تهديدات غير مسبوقة.
وأشار الباحث الذي عمل على أبحاث التدريب المسبق في الشركتين لثلاث سنوات، إلى أن كلا الكيانين يواصلان التسابق نحو تطوير ذكاء فائق يتجاوز القدرات البشرية دون مراعاة كافية للمخاطر المترتبة على ذلك. ولاقت هذه التصريحات دعما من إيفان هوبينغر، الباحث المتخصص في مواءمة الذكاء الاصطناعي مع القيم البشرية.
وبين كوكسون في منشور له أن التكنولوجيا تمتلك قدرات هائلة لا ينبغي الاستهانة بها، محذرا من إمكانية تفوق الأنظمة القادمة على البشر في اختراق الأنظمة وإحداث تغييرات جذرية في وقت قياسي. وأظهر الباحث قناعته بأن القائمين على تطوير هذه التقنيات يدركون تماما حجم الخطورة المحتملة خلال العقد الحالي، لكنهم يضعون أولوية الفوز في السباق على حساب السلامة.
وأوضح كوكسون أن الشركات عالقة في ما وصفه بنهاية اللعبة، معتبرا هذا التوجه مقامرة متغطرسة بحياة البشر. ودعا إلى ضرورة التنسيق بين المختبرات والتوصل إلى اتفاقات تضبط سرعة التطوير، مشيرا إلى أن التوقف المؤقت عن تحسين قدرات النماذج قد يصبح ضرورة ملحة.
وكشف هوبينغر في سياق متصل عن تقديرات شخصية تشير إلى احتمال وجود خطر حقيقي قد يهدد البشرية بنسبة تتجاوز 10% خلال العقد المقبل، مؤكدا غياب خطط مكتملة لضمان توافق الذكاء الاصطناعي الفائق مع القيم البشرية. وأظهرت هذه التحذيرات وجود انقسام عميق داخل قطاع التكنولوجيا، حيث ينبع القلق من خبراء شاركوا فعليا في بناء هذه الأنظمة.
وختم الباحثون تحذيراتهم بالتأكيد على أن جوهر الأزمة يكمن في وصول القدرات التقنية لمستويات متقدمة قبل امتلاك البشر لفهم كافٍ أو أدوات سيطرة موثوقة، مما يجعل التحدي القادم يتمثل في إقناع الشركات بأن التباطؤ في السباق يعد أكثر أمانا من الاندفاع نحو المجهول.
