ในคำเตือนที่เผยแพร่เมื่อสัปดาห์นี้ FBI ระบุว่าเมื่อไม่นานนี้พบว่ามีเหยื่อแบล็กเมล์เพิ่มมากขึ้น โดยเหยื่อเหล่านี้อ้างว่าตนเองตกเป็นเป้าหมายการใช้ AI ในการแก้ไขรูปภาพปกติจากโพสต์ออนไลน์ ข้อความส่วนตัว หรือวิดีโอแชท ให้กลายเป็นภาพปลอม

“จากนั้นผู้ไม่ประสงค์ดีจะส่งภาพเหล่านี้ไปยังเหยื่อโดยตรงเพื่อแบล็กเมล์หรือคุกคามทางเพศ เมื่อเผยแพร่ออกไปแล้ว เหยื่ออาจเผชิญกับความท้าทายที่สำคัญในการป้องกันไม่ให้มีการแชร์เนื้อหาที่ถูกปรับแต่งต่อไป รวมถึงการลบเนื้อหาดังกล่าวออกจากอินเทอร์เน็ต” คำเตือนระบุ

สำนักงานฯ กล่าวว่าภาพดังกล่าวดูเหมือนจริงมาก และระบุว่าในบางกรณี เด็กๆ ก็ตกเป็นเป้าหมายด้วย

ในเดือนกุมภาพันธ์ ตำรวจในสเปนได้จับกุมโปรแกรมเมอร์คอมพิวเตอร์ผู้ใช้ AI สร้างภาพการล่วงละเมิดเด็กอันน่าสยดสยอง ซึ่งเชื่อว่าจะเป็นหนึ่งในการจับกุมครั้งแรกๆ ในลักษณะนี้

FBI ไม่ได้ให้รายละเอียดเกี่ยวกับโปรแกรม AI ที่ใช้สร้างภาพทางเพศ แต่ระบุว่าความก้าวหน้าทางเทคโนโลยีช่วย “ปรับปรุงคุณภาพ การปรับแต่ง และการเข้าถึงการสร้างเนื้อหาที่ขับเคลื่อนด้วย AI อย่างต่อเนื่อง”

การแก้ไขรูปภาพปกติเพื่อสร้างภาพอีโรติกนั้นมีมานานพอๆ กับการถ่ายภาพ แต่ในปัจจุบันเครื่องมือ AI โอเพนซอร์สได้รับความนิยมเพิ่มขึ้นอย่างมาก ทำให้กระบวนการนี้ง่ายขึ้นกว่าเดิมมาก

รูปถ่ายหรือวิดีโอปลอมมักจะแยกแยะจากเวอร์ชันในชีวิตจริงไม่ได้ ในความเป็นจริง เว็บไซต์และเครือข่ายโซเชียลหลายแห่งที่สร้างขึ้นเพื่อการสร้างและแลกเปลี่ยนภาพทางเพศที่ขับเคลื่อนด้วย AI ได้ถือกำเนิดขึ้นในช่วงไม่กี่ปีที่ผ่านมา

สิ่งนี้ถือเป็นหนึ่งในความเสี่ยงหลายประการที่ปัญญาประดิษฐ์อาจก่อให้เกิดขึ้นต่อสังคม ตามที่ผู้เชี่ยวชาญได้ออกมาแสดงความกังวลและเตือนเมื่อเร็วๆ นี้

Hoang Anh (ตามเดลี่เมล์, รอยเตอร์)