Google Lens แสดงข้อมูลที่เข้าใจผิดเกี่ยวกับภาพ

ตามข้อเท็จจริงของ Full Fact กรณีที่กล่าวถึงข้างต้นเกี่ยวข้องกับ วิดีโอ ที่ถูกกล่าวหาว่าเกี่ยวกับสงครามในยูเครนและฉนวนกาซา ความขัดแย้งระหว่างอินเดียและปากีสถาน เครื่องบินแอร์อินเดียตกในเดือนมิถุนายน พ.ศ. 2568 และผู้อพยพที่มาอังกฤษในเรือขนาดเล็ก

Full Fact ใช้ Google Lens เพื่อค้นหาภาพหน้าจอจากวิดีโอเท็จที่พวกเขาตรวจสอบข้อเท็จจริง

ในอย่างน้อย 10 กรณี การสรุปข้อมูลโดย AI ไม่สามารถจดจำเนื้อหาปลอมได้ แม้กระทั่งการให้ข้อมูลเท็จซ้ำๆ คล้ายกับที่พบในโซเชียลมีเดีย

ในสี่ตัวอย่าง ภาพรวมของ AI ได้กล่าวซ้ำคำกล่าวอ้างเท็จแบบคำต่อคำ ซึ่ง Full Fact ได้หักล้างไปแล้ว นอกจากนี้ ผลลัพธ์สรุปของ AI อาจเปลี่ยนแปลงทุกครั้งที่ค้นหา แม้จะค้นหาภาพเดียวกันก็ตาม ซึ่งนำไปสู่ข้อมูลที่ไม่สอดคล้องกัน

Google ยอมรับว่าข้อผิดพลาดบางประการอาจเกิดขึ้น โดยระบุว่าสาเหตุมาจากผลการค้นหารูปภาพ ไม่ใช่จากระบบภาพรวม AI

ตามที่ Google ระบุ ผลการค้นหารูปภาพอาจรวมถึงแหล่งข้อมูลบนเว็บหรือโพสต์บนโซเชียลมีเดียซึ่งมีทั้งรูปภาพที่ตรงกันและข้อมูลเท็จ ซึ่งส่งผลต่อการสรุปข้อมูลโดย AI

Google กล่าวว่ามุ่งมั่นที่จะแสดงข้อมูลที่เกี่ยวข้องและมีคุณภาพสูงอยู่เสมอ ปรับปรุงอย่างต่อเนื่อง และเมื่อตรวจพบปัญหา ก็จะดำเนินการจัดการตามนโยบาย

แม้ว่า Google จะอ้างว่า AI overview นั้นแทบจะไม่เคย "สร้าง" ข้อมูลขึ้นมาเอง (หรือที่เรียกว่า AI "ภาพหลอน") แต่ก็ยังคงเผยแพร่ข้อมูลที่ผิดพลาดเกี่ยวกับประเด็นสำคัญและละเอียดอ่อน

ตัวอย่างเช่น วิดีโอไวรัลที่อ้างอย่างผิดๆ ว่าผู้ขอลี้ภัยกำลังเดินทางมาถึงหาดโดเวอร์ ประเทศอังกฤษ แต่ความจริงแล้วสถานที่เกิดเหตุอยู่บนชายหาดแห่งหนึ่งในเมืองกัว ประเทศอินเดีย เมื่อค้นหาภาพหน้าจอของวิดีโอ Google Lens ได้สรุปว่าวิดีโอดังกล่าวเป็น "ผู้คนกำลังรวมตัวกันที่หาดโดเวอร์ ประเทศอังกฤษ"

หรือวิดีโอปลอมบางรายการเกี่ยวกับสงครามในรัสเซีย-ยูเครน หรือแม้แต่ภาพจากวิดีโอเกม Arma 3 ก็ถูก AI อธิบายว่าเป็นของจริงโดยไม่มีการเตือนล่วงหน้าว่านี่คือเนื้อหาปลอม

มีกรณีที่วิดีโอเกมเดียวกันแต่มีรูปถ่ายสองรูปที่แตกต่างกันซึ่ง AI สรุปเป็นฉากระบบป้องกัน C-RAM สกัดกั้นกระสุนปืนใหญ่และฉากการปล่อยจรวด SpaceX ซึ่งไม่ถือเป็นภาพปลอมแต่อย่างใด

Google Lens เป็นเครื่องมือค้นหารูปภาพที่ช่วยให้ผู้ใช้ค้นหาภาพถ่ายหรือเฟรมจากวิดีโอเพื่อเปรียบเทียบกับรูปภาพที่คล้ายกันทางออนไลน์

บางครั้งข้อมูลสรุป AI จะปรากฏที่ด้านบนของหน้า โดยรวบรวมข้อมูลที่เกี่ยวข้องจากเว็บไซต์ แม้จะมีคำเตือนว่า "AI อาจทำผิดพลาดได้" แต่การแสดงข้อมูลที่ผิดพลาดอย่างเด่นชัดอาจทำให้สาธารณชนเข้าใจผิดได้ง่าย

Full Fact ขอแนะนำให้ดูเครื่องมือภาพรวม AI ของ Google Lens เป็นจุดเริ่มต้น ไม่ใช่สิ่งทดแทนการตรวจสอบข้อเท็จจริงด้วยตนเอง และควรหาแหล่งข้อมูลที่เชื่อถือได้เพิ่มเติมเพื่อใช้ในการเปรียบเทียบ

นี่ไม่ใช่ครั้งแรกที่ผลการค้นหาของ Google แสดงข้อมูลที่ไม่ถูกต้อง Full Fact ระบุว่าเคยได้รับเงินทุนสนับสนุนจาก Google และ Google.org มาแล้ว แต่ยังคงรักษาความเป็นอิสระในการแก้ไขอย่างสมบูรณ์