ความกังวลว่า AI สามารถอ่านใจและควบคุมการตัดสินใจของมนุษย์ได้

นักวิจัยได้คิดค้นแนวคิดใหม่ที่เรียกว่า " เศรษฐกิจ แห่งความตั้งใจ" ในเศรษฐกิจนี้ บริษัทต่างๆ จะสามารถรวบรวมและวิเคราะห์ข้อมูลจำนวนมหาศาลเกี่ยวกับพฤติกรรม ความชอบ และนิสัยของเรา เพื่อคาดการณ์สิ่งที่เราจะทำต่อไป

จากนั้นพวกเขาสามารถขายข้อมูลนี้ให้กับธุรกิจอื่น ๆ ที่ต้องการกำหนดเป้าหมายโฆษณาให้กับเราได้แม่นยำยิ่งขึ้น

ตัวอย่างเช่น สมมติว่าคุณกำลังมองหาโทรศัพท์เครื่องใหม่ AI จะติดตามพฤติกรรมออนไลน์ของคุณ คำสำคัญที่คุณค้นหา และแม้แต่บทสนทนาของคุณ เพื่อให้เข้าใจความต้องการของคุณได้ดียิ่งขึ้น จากนั้นบริษัทโทรศัพท์สามารถใช้ข้อมูลนี้เพื่อแสดงโฆษณาเกี่ยวกับโทรศัพท์ที่เหมาะกับคุณที่สุด

“หากไม่ได้รับการควบคุม เศรษฐกิจแห่งเจตนาอาจกลายเป็นเครื่องมือที่ควบคุมการตัดสินใจของเรา” ดร. จอนนี เพนน์ นักประวัติศาสตร์ด้านเทคโนโลยีจากมหาวิทยาลัยเคมบริดจ์ เตือน “บริษัทต่างๆ อาจใช้ AI เพื่อบังคับให้เราซื้อสินค้าที่เราไม่ต้องการ หรือแม้แต่มีอิทธิพลต่อการตัดสินใจลงคะแนนเสียงของเรา”

ผู้เขียนยังกล่าวอีกว่าโมเดล AI จะช่วยนำทางบทสนทนาเพื่อให้บริการแก่ผู้โฆษณา ธุรกิจ และบุคคลที่สามอื่นๆ นักโฆษณาจะสามารถใช้เครื่องมือที่สร้างโดย AI เพื่อสร้างโฆษณาออนไลน์ที่ปรับแต่งได้

รายงานดังกล่าวได้ยกตัวอย่างโมเดล AI ที่สร้างขึ้นโดยบริษัท Meta ที่เรียกว่า Cicero ซึ่งมีความสามารถ "ในระดับมนุษย์" ในการเล่นเกมกระดานที่มีชื่อว่า Diplomacy ซึ่งผู้เขียนระบุว่าเกมดังกล่าวต้องอาศัยการอนุมานและคาดการณ์เจตนาของฝ่ายตรงข้าม

ผู้เชี่ยวชาญชั้นนำในสาขาเทคโนโลยีได้เตือนเกี่ยวกับความสามารถของ AI ในการทำนายและมีอิทธิพลต่อพฤติกรรมของมนุษย์

โดยเฉพาะอย่างยิ่ง เจนเซน ฮวง ซีอีโอของ Nvidia ได้แสดงความคิดเห็นที่น่าสนใจในสุนทรพจน์เมื่อปีที่แล้ว เขาโต้แย้งว่าโมเดล AI ขั้นสูงจะสามารถ "เข้าใจเจตนาของคุณ ความปรารถนาของคุณ สิ่งที่คุณพยายามทำ และนำเสนอข้อมูลให้คุณในวิธีที่ดีที่สุด"

Hoang Anh (อ้างอิงจาก CUN, Nvidia, Guardian)