يعرض تطبيق Google Lens معلومات مضللة حول الصور

وبحسب موقع "فول فاكت"، فإن القضايا المذكورة أعلاه تتعلق بمقاطع فيديو يزعم أنها تتعلق بالحرب في أوكرانيا وغزة، والصراع بين الهند وباكستان، وتحطم طائرة الخطوط الجوية الهندية في يونيو/حزيران 2025، والمهاجرين القادمين إلى المملكة المتحدة في قوارب صغيرة.

استخدمت شركة Full Fact عدسة Google للبحث عن لقطات شاشة من مقاطع فيديو كاذبة تم التحقق من صحتها.

وفي 10 حالات على الأقل، فشلت ملخصات الذكاء الاصطناعي في التعرف على المحتوى المزيف، حتى أنها كررت معلومات مضللة مماثلة لما كان موجودًا على وسائل التواصل الاجتماعي.

في أربعة أمثلة، كرّر تحليل الذكاء الاصطناعي حرفيًا ادعاءات كاذبة دحضتها شركة Full Fact. بالإضافة إلى ذلك، قد تتغير نتائج ملخص الذكاء الاصطناعي في كل مرة يتم فيها البحث، حتى عن الصورة نفسها، مما يؤدي إلى معلومات متضاربة.

تعترف شركة جوجل بأن بعض هذه الأخطاء قد تحدث، قائلة إن السبب يأتي من نتائج البحث عن الصور، وليس من نظام نظرة عامة الذكاء الاصطناعي.

وفقًا لجوجل، يمكن أن تتضمن نتائج البحث عن الصور مصادر الويب أو منشورات وسائل التواصل الاجتماعي التي تحتوي على صور متطابقة ومعلومات خاطئة، وهو ما يؤثر على تلخيص الذكاء الاصطناعي.

وتقول جوجل إنها تهدف دائمًا إلى عرض معلومات ذات صلة وعالية الجودة، وتعمل على التحسين المستمر، وعندما يتم اكتشاف أي مشكلات، فسيتم التعامل معها وفقًا للسياسة.

على الرغم من أن جوجل تدعي أن نظرة عامة الذكاء الاصطناعي نادراً ما "تصنع" المعلومات (المعروفة أيضًا باسم "هلوسة" الذكاء الاصطناعي)، إلا أنها لا تزال تنشر معلومات مضللة حول قضايا مهمة وحساسة.

على سبيل المثال، ادّعى فيديو انتشر على نطاق واسع زورًا وصول طالبي لجوء إلى شاطئ دوفر بإنجلترا، بينما في الواقع، كان المشهد على شاطئ في غوا بالهند. وعند البحث عن لقطة شاشة للفيديو، لخّصه تطبيق "عدسة جوجل" بأنه "أشخاص يتجمعون على شاطئ دوفر بإنجلترا".

أو بعض مقاطع الفيديو المزيفة حول الحرب في روسيا وأوكرانيا، وحتى الصور من لعبة الفيديو Arma 3، يتم وصفها من خلال نظرة عامة للذكاء الاصطناعي بأنها حقيقية دون تحذير من أن هذا محتوى مزيف.

هناك حالة حيث تم تلخيص نفس لعبة الفيديو ولكن صورتين مختلفتين بواسطة الذكاء الاصطناعي على أنها مشهد لنظام الدفاع C-RAM يعترض قذائف مدفعية ومشهد لإطلاق صاروخ SpaceX، وهذا لا يعني على الإطلاق أن هذه صورة مزيفة.

Google Lens هي أداة بحث عن الصور تتيح للمستخدمين البحث عن الصور أو الإطارات من مقاطع الفيديو لمقارنتها بصور مماثلة عبر الإنترنت.

أحيانًا يظهر ملخص الذكاء الاصطناعي أعلى الصفحة، جامعًا المعلومات ذات الصلة من الإنترنت. ورغم التحذير من أن "الذكاء الاصطناعي قد يرتكب أخطاءً"، فإن عرض المعلومات المضللة بشكل واضح قد يُضلل الجمهور بسهولة.

توصي منظمة Full Fact بأن يُنظر إلى أداة نظرة عامة الذكاء الاصطناعي الخاصة بـ Google Lens باعتبارها نقطة بداية، وليس بديلاً عن التحقق اليدوي من الحقائق، وأن يتم البحث عن مصادر موثوقة إضافية للمقارنة.

هذه ليست المرة الأولى التي تُظهر فيها نتائج بحث جوجل معلومات غير صحيحة. تُصرّح "فول فاكت" بأنها تلقت تمويلًا من جوجل وGoogle.org سابقًا، لكنها تحافظ على استقلاليتها التحريرية التامة.