يفتح تطور الذكاء الاصطناعي وانتقاله من مجرد تقديم الإجابات إلى تنفيذ المهام نيابة عن المستخدمين تحديات أمنية متزايدة. وأوضح خبراء تقنيون أن قدرة الوكلاء الرقميين على الوصول إلى الملفات والحسابات وإرسال الرسائل تفرض واقعا جديدا، حيث يمكن لخطأ بسيط في تحديد وجهة الإرسال أو إدارة الصلاحيات أن يؤدي إلى كشف معلومات حساسة دون الحاجة إلى اختراق مباشر.
وكشفت واقعة حديثة حجم هذه المخاطر، حيث روى شين ماك، الرئيس التنفيذي لشركة إكس إم تي بي لابز، أن وكيلا ماليا أنشأه باستخدام غروك بوت قام بنشر أرصدة حساباته ونفقاته الشخصية في قناة تنفيذية عامة على منصة سلاك بدلا من إرسالها إلى محادثة خاصة. وأضاف ماك أن الوكيل كان مكلفا بإعداد تقارير دورية عن المصروفات مع صلاحية الاطلاع على الحسابات، مبينا أن التباسا في تشابه أسماء وجهات الإرسال تسبب في هذا التسريب، وهو ما دفع الشركة لإضافة إجراء يتطلب إذنا صريحا قبل نقل المعلومات.
وأظهرت تقارير منظمة أو دبليو إيه إس بي المتخصصة في أمن تطبيقات الويب أن المخاطر لا تقتصر على الاختراقات، بل تشمل الاستقلالية المفرطة في تطبيقات الذكاء الاصطناعي. وأشار التقرير إلى أن منح الأنظمة صلاحيات واسعة للوصول إلى البريد الإلكتروني والخدمات المصرفية قد يؤدي إلى مشاركة بيانات خاصة بطريقة مشروعة لكنها غير مقصودة، مما يضاعف من احتمالات الخطأ البشري في إدارة هذه الأدوات.
وأوضحت وكالة الأمن السيبراني وأمن البنية التحتية الأمريكية في إرشاداتها ضرورة الفصل التام بين الحسابات الشخصية والمهنية، مؤكدة أن تقليل الصلاحيات هو خط الدفاع الأول. وأضافت الوكالة أن كلما اتسعت صلاحيات الوكيل، زادت البيانات المعرضة للخطر في حال حدوث أي خلل تقني، مشددة على أهمية المراقبة المستمرة والدفاع متعدد الطبقات.
وكشفت التوصيات الصادرة عن المعهد الوطني الأمريكي للمعايير والتقنية أن الحماية تتطلب مبدأ الحد الأدنى من الصلاحيات، بحيث لا يمنح الوكيل إلا ما يحتاجه لإنجاز مهمته المحددة. وأوضحت أن اشتراط موافقة المستخدم قبل مشاركة أي بيانات حساسة، مع عرض تفاصيل المستلم والمحتوى، يمثل إجراء وقائيا ضروريا لتجنب التسريبات غير المرغوبة.
وأشار المختصون إلى أن المسؤولية مشتركة بين المطورين والمستخدمين، حيث يتحتم على المطورين بناء آليات تحقق مستقلة تمنع تجاوز الصلاحيات، بينما ينبغي على المستخدمين مراجعة أذونات الربط بدقة. وخلصت النتائج إلى أن النجاح في استخدام الذكاء الاصطناعي يتطلب موازنة دقيقة بين الاستقلالية الرقمية والرقابة البشرية لضمان حماية المعلومات.
