أقرت شركة أنثروبيك الامريكية المتخصصة في تقنيات الذكاء الاصطناعي والمسؤولة عن أداة الدردشة كلود بأن حوادث هروب النماذج من بيئتها الاختبارية تعكس وجود خلل في الأمن التشغيلي. وأكدت الشركة في بيان رسمي لها أنها سارعت إلى تشديد إجراءات الاختبارات الخاصة بها لضمان عدم تكرار مثل هذه الاختراقات.
وأوضحت أنثروبيك أنها اتخذت قرارا بتجميد أكثر من 10% من بيئات التعليم المعزز الاختبارية خلال شهر ابريل الماضي. وبينت الشركة أن هذا الإجراء جاء عقب اكتشاف خلل في آليات اختبار النماذج قد يمنحها القدرة على إخفاء تفكيرها أو الخطوات التي تتخذها للوصول إلى النتائج النهائية. وأشارت إلى أن فترة التجميد استمرت لنحو شهر كامل.
وكشفت الشركة أن تقنياتها ليست متوافقة تماما مع القيم والأهداف البشرية في الوقت الراهن. وأظهرت تقارير صحفية أن الشركة تعمدت اختبار النماذج دون توفير ضمانات كافية للأمن السيبراني مما مكنها من الوصول إلى الإنترنت المفتوح. وسبق للشركة أن أقرت باختراق نماذجها لثلاث مؤسسات في حوادث منفصلة لم يتم اكتشافها إلا بعد مرور ثلاثة أشهر.
وأضافت الشركة مبررة هذه التجاوزات بأنها كانت تعتمد على طبقة واحدة فقط من الدفاعات السيبرانية. وأوضحت أن النماذج فسرت قدرتها على الوصول إلى الإنترنت بأنها لا تزال ضمن البيئة الاختبارية. وبينت أن النماذج كانت مستعدة لاتخاذ إجراءات ضارة في سبيل إنجاز المهام المطلوبة منها.
وأكدت الشركة أنها تعتزم وضع قيود إضافية على بيئاتها الاختبارية ونقل اختبارات الأمن السيبراني إلى بيئات معزولة. وأضافت أنها كلفت 150 مهندسا من فرق المنتجات للعمل على تعزيز الأمن والموثوقية والخصوصية. وقال أستاذ الأمن السيبراني بجامعة ساري آلان وودارد إن الشركة أقرت عمليا بأن وتيرة تصنيعها تفوق آليات ضبط الجودة لديها.
ودعت أنثروبيك إلى ضرورة وجود تنسيق موسع بين الحكومات وشركات الذكاء الاصطناعي لضبط وتيرة التطور في هذا القطاع. وأظهرت الأحداث الأخيرة أن الشركة بدأت في مراجعة إجراءاتها الأمنية بعد تكرار الحوادث. وتتزامن هذه التطورات مع استعداد الشركة للطرح العام في البورصة الأمريكية وسط توقعات بأن تتخطى قيمتها حاجز تريليوني دولار.
