กังวลว่าแชทบอท Grok กำลังทำให้เกิดข้อมูลเท็จแพร่ระบาดบนอินเทอร์เน็ต

ต่างจากเครื่องมือถ่ายภาพ AI กระแสหลักอื่นๆ Grok ของ Musk ดูเหมือนจะมีกฎระเบียบน้อยกว่า ตัวอย่างเช่น ในการทดสอบของ CNN Grok สามารถสร้างภาพปลอมของนักการเมืองได้อย่างง่ายดาย ซึ่งทำให้ผู้มีสิทธิเลือกตั้งเข้าใจผิด

ภาพของอีลอน มัสก์ ที่สร้างโดยแชทบ็อกซ์ Grok (ที่มา: CNN)

ผู้ใช้ X บางรายยังโพสต์รูปภาพที่ Grok สร้างขึ้น ซึ่งแสดงให้เห็นภาพคนดังเสพยา ตัวการ์ตูนฆ่าคน และภาพผู้หญิงใส่บิกินี่ที่มีเนื้อหาทางเพศ

ตามรายงานของ CNN Grok ยังได้แสดงความกังวลเพิ่มเติมว่า AI อาจเป็นตัวกระตุ้นให้เกิดการเผยแพร่ข้อมูลเท็จจำนวนมากบนอินเทอร์เน็ต โดยเฉพาะอย่างยิ่งในขณะที่การเลือกตั้งประธานาธิบดีสหรัฐฯ ใกล้เข้ามา

สมาชิกรัฐสภา กลุ่มนักเคลื่อนไหว และผู้นำด้านเทคโนโลยีได้ส่งสัญญาณเตือนว่าการใช้เครื่องมือดังกล่าวในทางที่ผิดอาจทำให้เกิดความสับสนและวุ่นวายแก่ผู้ลงคะแนนเสียงได้

บริษัท AI ชั้นนำ ของโลก หลายแห่งได้ดำเนินนโยบายเพื่อป้องกันไม่ให้เครื่องมือสร้างภาพที่ใช้ AI ถูกนำไปใช้สร้างข้อมูลเท็จทางการเมือง แม้ว่านักวิจัยจะพบว่าผู้ใช้บางครั้งก็สามารถหลีกเลี่ยงกฎเกณฑ์เหล่านี้ได้

บริษัทหลายแห่ง เช่น OpenAI, Meta และ Microsoft ใช้เทคโนโลยีหรือป้ายกำกับเพื่อช่วยให้ผู้ชมทราบว่าภาพใดสร้างขึ้นโดย AI ของตน

เครือข่ายโซเชียลต่างๆ รวมถึง YouTube, TikTok, Instagram และ Facebook ยังติดป้ายกำกับเนื้อหาที่สร้างโดย AI ในฟีดของผู้ใช้ โดยใช้เทคโนโลยีเพื่อตรวจจับเนื้อหานั้นด้วยตนเองหรือขอให้ผู้ใช้ระบุเวลาที่พวกเขาโพสต์

เมื่อวันที่ 16 สิงหาคม ดูเหมือนว่า AI จะกำหนดข้อจำกัดบางประการต่อ Grok โดยเครื่องมือนี้ปฏิเสธที่จะสร้างภาพของผู้สมัครทางการเมืองหรือตัวการ์ตูนยอดนิยมที่ก่อเหตุรุนแรง