كشفت شركة انفيديا الامريكية المتخصصة في صناعة شرائح الذكاء الاصطناعي عن تقنية جديدة تهدف إلى مكافحة وكلاء الذكاء الاصطناعي المارقين ومنع هروب النماذج من بيئاتها الاختبارية. وأوضحت الشركة أن هذه التقنية قادرة على احتواء أي نشاط مريب في أجزاء من الثانية فور اكتشافه.
وبينت الشركة أن هذا الإعلان يأتي استجابة لدعوات قادة قطاع التقنية في الولايات المتحدة بضرورة تعزيز أمن نماذج الذكاء الاصطناعي، حيث اتفق رؤساء شركات كبرى مثل انثروبيك وأوبن إيه آي وسبيس إكس على أهمية معالجة هذه التحديات.
وأظهرت تفاصيل التقنية الجديدة أنها تجمع بين حزمة أدوات برمجية وعتاد متطور يضيف طبقة أمان خارجية، مما يسمح بعزل الوكلاء المارقين بشكل فوري. وأكد الرئيس التنفيذي للشركة جنسن هوانغ أن المنظومة الجديدة قادرة على منع حوادث الاختراق التي تسببت فيها نماذج الذكاء الاصطناعي مؤخرا.
وأضاف هوانغ أن الإمكانات الهائلة للذكاء الاصطناعي لن تتحقق لمنفعة المجتمعات ما لم يتم حل مشكلة السلامة التقنية، مشيرا إلى أن الحل يكمن في تقديم ابتكارات هندسية تعزز أمن النماذج بدلا من إبطاء عمليات التطوير.
وأوضح تقرير تقني أن آلية الحماية تعتمد على مستويين، الأول يتمثل في برمجية مفتوحة المصدر تتحكم في وصول الوكلاء، والثاني عبر منظومة مراقبة منفصلة تعمل على شرائح بلو فيلد 4 الخاصة بالشركة، حيث يتم وضعها في وحدة معالجة مستقلة لضمان عدم تأثرها بالمعالجات المركزية.
وكشفت الشركة أن عددا من المؤسسات التقنية الكبرى قد وافقت على اعتماد المنظومة الجديدة، بما فيها مايكروسوفت وأنثروبيك وسبيس إكس. وعلق ديفيد ساكس، المسؤول السابق في البيت الأبيض، مشيرا إلى أن هذه الخطوة تثبت أن سلامة الذكاء الاصطناعي هي مشكلة هندسية، مؤكدا أن الاختراقات الأخيرة تعكس ضعف جدران الحماية الحالية ولا تستدعي توقف التطور.
وذكرت الشركة أن جهود تطوير هذه الآلية بدأت منذ العام الماضي، حيث شبه هوانغ طريقة عملها بإدارة الموظفين والمديرين داخل المؤسسات، مبينا أن هذه التقنية تخدم أهداف الشركة في تعزيز الأمان وتوسيع نطاق استخدام شرائحها المتطورة.
