ช่องโหว่ร้ายแรงบน ChatGPT และผู้ช่วย AI ชุดหนึ่ง ผู้ใช้ถูกหลอกลวง ข้อมูลรั่วไหล...

บริษัทด้านความปลอดภัยทางไซเบอร์ของอิสราเอล Zenity เพิ่งเปิดเผยช่องโหว่ "Zero Click" แรกที่พบในบริการ ChatGPT ของ OpenAI

การโจมตีประเภทนี้ไม่จำเป็นต้องให้ผู้ใช้ดำเนินการใดๆ เช่น คลิกลิงก์ เปิดไฟล์ หรือโต้ตอบโดยเจตนา แต่ยังคงสามารถเข้าถึงบัญชีและรั่วไหลข้อมูลที่ละเอียดอ่อนได้

Mikhail Bergori ผู้ร่วมก่อตั้งและ CTO ของ Zenity สาธิตให้เห็นโดยตรงว่าแฮกเกอร์เพียงแค่มีที่อยู่อีเมลของผู้ใช้ก็สามารถควบคุมการสนทนาได้อย่างสมบูรณ์ รวมถึงเนื้อหาที่ผ่านมาและอนาคต เปลี่ยนวัตถุประสงค์ของการสนทนา และยังสามารถจัดการ ChatGPT เพื่อกระทำการในทางที่เอื้อประโยชน์ต่อแฮกเกอร์ได้อีกด้วย

ในการนำเสนอ นักวิจัยแสดงให้เห็นว่า ChatGPT ที่ถูกบุกรุกอาจถูกแปลงเป็น “ผู้กระทำผิด” ที่แฝงตัวเข้ามาดำเนินการกับผู้ใช้ แฮกเกอร์สามารถทำให้ ChatGPT แนะนำให้ผู้ใช้ดาวน์โหลดซอฟต์แวร์ที่ติดไวรัส ให้คำแนะนำทางธุรกิจที่ทำให้เข้าใจผิด หรือเข้าถึงไฟล์ที่เก็บไว้ใน Google Drive หากบัญชีผู้ใช้เชื่อมต่ออยู่ ทั้งหมดนี้เกิดขึ้นโดยที่ผู้ใช้ไม่รู้ตัว

ช่องโหว่ดังกล่าวได้รับการแก้ไขอย่างสมบูรณ์หลังจากที่ Zenity แจ้งให้ OpenAI ทราบแล้ว

นอกจาก ChatGPT แล้ว Zenity ยังได้สาธิตการโจมตีที่คล้ายคลึงกันนี้กับแพลตฟอร์มผู้ช่วย AI ยอดนิยมอื่นๆ อีกด้วย ใน Copilot Studio ของ Microsoft นักวิจัยค้นพบวิธีรั่วไหลฐานข้อมูล CRM ทั้งหมด

สำหรับ Salesforce Einstein แฮกเกอร์สามารถสร้างคำขอรับบริการปลอมเพื่อเปลี่ยนเส้นทางการสื่อสารของลูกค้าทั้งหมดไปยังที่อยู่อีเมลที่พวกเขาควบคุมได้

นอกจากนี้ Google Gemini และ Microsoft 365 Copilot ยังถูกเปลี่ยนเป็น "ผู้ไม่หวังดี" โดยดำเนินการโจมตีแบบฟิชชิ่งและรั่วไหลข้อมูลที่ละเอียดอ่อนผ่านทางอีเมลและกิจกรรมในปฏิทิน

ในอีกตัวอย่างหนึ่ง เครื่องมือพัฒนาซอฟต์แวร์ Cursor เมื่อรวมเข้ากับ Jira MCP ยังถูกใช้ประโยชน์ในการขโมยข้อมูลประจำตัวของนักพัฒนาผ่าน "ตั๋ว" ปลอมอีกด้วย

Zenity ระบุว่าบริษัทบางแห่ง เช่น OpenAI และ Microsoft ได้ออกแพตช์แก้ไขอย่างรวดเร็วหลังจากได้รับการแจ้งเตือน อย่างไรก็ตาม บริษัทอื่นๆ ปฏิเสธที่จะแก้ไขปัญหานี้ โดยให้เหตุผลว่าพฤติกรรมดังกล่าวเป็นเพียง "คุณลักษณะการออกแบบ" มากกว่าจะเป็นช่องโหว่ด้านความปลอดภัย

มิคาอิล เบอร์โกรี ระบุว่า ความท้าทายสำคัญในขณะนี้คือ ผู้ช่วย AI ไม่ได้ทำงานง่ายๆ เท่านั้น แต่ยังกลายเป็น “ตัวตนดิจิทัล” ที่เป็นตัวแทนของผู้ใช้ ซึ่งสามารถเปิดโฟลเดอร์ ส่งไฟล์ และเข้าถึงอีเมลได้ เขาเตือนว่านี่เป็นเหมือน “สวรรค์” สำหรับแฮกเกอร์ ที่มีช่องโหว่ให้ใช้ประโยชน์มากมาย

เบน คาลิเกอร์ ผู้ร่วมก่อตั้งและซีอีโอของ Zenity เน้นย้ำว่างานวิจัยของบริษัทแสดงให้เห็นว่าวิธีการรักษาความปลอดภัยในปัจจุบันไม่เหมาะกับการทำงานของผู้ช่วย AI อีกต่อไป เขาเรียกร้องให้องค์กรต่างๆ เปลี่ยนแนวทางและลงทุนในโซลูชันเฉพาะทางเพื่อควบคุมและตรวจสอบกิจกรรมของ "ตัวแทน" เหล่านี้