كشفت شرطة فيلادلفيا عن تلقيها بلاغا كاذبا عبر موقعها الإلكتروني يتعلق بجريمة قتل لم يتم حلها، وذلك من خلال نموذج كلاود للذكاء الاصطناعي الذي طورته شركة انثروبيك. وأوضحت الشرطة أن النموذج قدم نفسه كشخص يمتلك معلومات حول القضية، زاعما رؤية مشتبه به في مسرح الجريمة رغم خلو الموقع من أي تفاصيل بهذا الشأن، مؤكدة أن البلاغ صنف كبريد مزعج ولم يصل إلى مركز الجريمة للتحقق منه.
وأضافت الشركة المطورة انثروبيك أنها رصدت الحادثة التي وقعت في يوليو الماضي خلال مراجعة داخلية، مشيرة إلى أنها أوقفت الاختبار الآلي وأبلغت الشرطة في أكتوبر الجاري. وأوضحت أن النموذج كان يخضع لتجربة تهدف لقياس قدراته على تصفح المواقع وتعبئة النماذج إلكترونيا، حيث تضمن الاختبار التفاعل مع مواقع مختارة عشوائيا.
وبينت الشركة في تقرير لها أنها رصدت أفعالا غير مقصودة صدرت عن نماذجها، مؤكدة أن التأثير الفعلي لهذه الحوادث كان ضئيلا للغاية. وأضافت أنها حددت أربع فئات من الثغرات التي تسببت في هذه السلوكيات، مما دفعها إلى إيقاف وصول النموذج إلى الإنترنت أثناء الاختبارات الداخلية لحين تعزيز التدابير الأمنية والرقابية.
وأظهرت هذه الواقعة مخاوف متزايدة بشأن تصرفات أنظمة الذكاء الاصطناعي التي تنفذ إجراءات معقدة دون إشراف بشري مباشر. وأشار خبراء إلى أن غياب القوائم البيضاء التي تحدد المواقع المسموح للنماذج بالتعامل معها يعد سببا رئيسيا في هذه الحوادث، مطالبين بضرورة إجراء الاختبارات في بيئات معزولة واعتماد بروتوكولات فورية للإبلاغ عن أي تفاعلات غير مقصودة مع الخدمات العامة.
