سارعت شركة غوغل إلى إزالة ميزة جديدة أطلقتها في تطبيق غوغل إيرث بعد أقل من 24 ساعة على طرحها، وذلك عقب اكتشاف قدرتها على توليد صور واقعية بشكل مضلل، وهو ما يعد انتهاكا لسياسات الاستخدام الخاصة بالشركة.
كشف الصحفي الاستقصائي الهولندي هينك فان إيس عن الثغرات الخطيرة في الأداة الجديدة، حيث أظهرت اختباراته قدرة فائقة على تزوير صور تبدو حقيقية تماما، وهو ما دعمته تقارير صادرة عن غرف أخبار عالمية حذرت من تداعيات هذه التقنيات على مصداقية العمل الصحفي وجهود مدققي المعلومات.
أوضحت غوغل في منشور عبر منصة إكس أنها قررت سحب الميزة مؤقتا لحين تطوير ضوابط أكثر صرامة، مبينة أن الأداة اعتمدت على نموذج نانو بانانا 2 لتوليد صور فضائية بناء على أوامر نصية، ومؤكدة في الوقت ذاته أن الصور المولدة كانت تحمل علامات مائية خفية ولم تكن تظهر في الواجهة الرئيسية للتطبيق.
أظهرت التجارب العملية التي أجراها فان إيس إمكانية استغلال هذه الميزة في تزوير حقائق جغرافية، مثل اختلاق صور للاجئين على الحدود الأمريكية المكسيكية أو إضافة منشآت نووية وهمية داخل إيران، مما يعزز المخاوف من استخدام خرائط غوغل كأداة لنشر المعلومات المضللة نظرا للموثوقية العالية التي تحظى بها المنصة.
أشار تقرير لمجلة فوربس إلى أن تقنيات كشف الذكاء الاصطناعي مثل هايف إيه آي فشلت في رصد الصور المزيفة، لا سيما عند قيام المستخدمين بأخذ لقطات شاشة للصور، وهي ثغرة تقنية مكنت البعض من تجاوز العلامات المائية التي وضعتها غوغل.
أضافت الشركة أن هذا التوجه يأتي ضمن استراتيجية أوسع لدمج الذكاء الاصطناعي في كافة خدماتها، بدءا من محرك البحث وصولا إلى خدمات الحوسبة السحابية، مع التزامها بوضع علامات توضيحية للمحتوى المنتج آليا للتمييز بينه وبين الواقع.
