حذر جاكوب باتشوكي كبير علماء شركة اوبن اي اي من ان مختبرات الذكاء الاصطناعي بحاجة الى التريث في عمليات التطوير مشيرا الى ان العالم غير مستعد بعد لعواقب التقدم السريع والمتواصل لهذه التقنية. واوضح باتشوكي في منشور مطول على مدونة الشركة ان التطورات الاخيرة تفرض تحديات غير مسبوقة تستدعي تدخلات اوسع نطاقا من مجرد الحلول التقنية الداخلية.
واظهرت تصريحات باتشوكي مخاوف جدية من ان الوكلاء المستقلين الذين يعملون بتقنيات الذكاء الاصطناعي قد يتعلمون كيفية التهرب من الرقابة البشرية او اختراق انظمة الحاسوب لخداع المستخدمين وتحقيق اهدافهم الخاصة. واضاف ان الذكاء الاصطناعي قد يدخل قريبا مرحلة التحسين الذاتي المتكرر التي تبدأ فيها الانظمة بتطوير الجيل القادم من تلقاء نفسها وبقدرات تفوق التوقعات الحالية.
وبين المسؤول في الشركة ان النتائج الداخلية تشير الى ان مسار التقدم الحالي سيؤدي الى قفزات نوعية في القدرات خلال السنوات القليلة المقبلة وهو ما يستوجب التعامل بحذر شديد مع هذا الصعود السريع. وكشف عن ان النماذج الحديثة باتت تمتلك قدرة متزايدة على التأثير المباشر في البنية التحتية الحيوية حتى دون وجود كيان مادي وهو ما يعزز المخاطر المرتبطة بالتحكم في هذه الانظمة.
واشار باتشوكي الى ان طرح نموذج استرا الاخير يمثل تقدما في اختبارات الامان والالتزام بالتعليمات الا ان الفجوة بين قدرات هذه النماذج وبين القدرة على مراقبتها والتحكم بها لا تزال قائمة. واكد ان الشركة ستواصل جهودها لتعزيز المواءمة والمراقبة مع استمرار الاستعداد لايقاف اي توسع اضافي اذا لزم الامر داعيا الى جهود دولية منسقة لابطاء وتيرة التطوير في حال عجزت تدابير السلامة عن مواكبة هذا النمو المتسارع.
