ភាពងាយរងគ្រោះធ្ងន់ធ្ងរនៅលើ ChatGPT និងស៊េរីនៃជំនួយការ AI៖ អ្នកប្រើប្រាស់ត្រូវបានគេបោកប្រាស់ ព័ត៌មានត្រូវបានលេចធ្លាយ...

ក្រុមហ៊ុនសន្តិសុខអ៊ីនធឺណិតរបស់អ៊ីស្រាអែល Zenity ទើបតែបង្ហាញភាពងាយរងគ្រោះ "សូន្យចុច" ដំបូងគេដែលបានរកឃើញនៅក្នុងសេវាកម្ម ChatGPT របស់ OpenAI ។

ប្រភេទនៃការវាយប្រហារនេះមិនតម្រូវឱ្យអ្នកប្រើប្រាស់ធ្វើសកម្មភាពណាមួយដូចជាការចុចលើតំណ បើកឯកសារ ឬចូលរួមក្នុងអន្តរកម្មដោយចេតនាណាមួយនោះទេ ប៉ុន្តែនៅតែអាចចូលប្រើគណនី និងលេចធ្លាយទិន្នន័យរសើបបាន។

Mikhail Bergori សហស្ថាបនិក និង CTO នៃ Zenity បានបង្ហាញដោយផ្ទាល់ពីរបៀបដែលពួក Hacker ដែលមានអាសយដ្ឋានអ៊ីមែលរបស់អ្នកប្រើអាចគ្រប់គ្រងការសន្ទនាទាំងស្រុង - រួមទាំងខ្លឹមសារអតីតកាល និងអនាគត ផ្លាស់ប្តូរគោលបំណងនៃការសន្ទនា និងថែមទាំងរៀបចំ ChatGPT ដើម្បីធ្វើសកម្មភាពតាមការពេញចិត្តរបស់ពួក Hacker ។

នៅក្នុងបទបង្ហាញរបស់ពួកគេ អ្នកស្រាវជ្រាវបានបង្ហាញថា ChatGPT ដែលត្រូវបានសម្របសម្រួលអាចត្រូវបានប្រែក្លាយទៅជា "តួអង្គព្យាបាទ" ដែលដំណើរការដោយសម្ងាត់ប្រឆាំងនឹងអ្នកប្រើប្រាស់។ ពួក Hacker អាចធ្វើឱ្យ ChatGPT ណែនាំអ្នកប្រើប្រាស់ទាញយកកម្មវិធីដែលឆ្លងមេរោគ ផ្តល់ដំបូន្មានអាជីវកម្មដែលបំភាន់ ឬចូលប្រើឯកសារដែលផ្ទុកនៅលើ Google Drive ប្រសិនបើគណនីរបស់អ្នកប្រើត្រូវបានភ្ជាប់។ ទាំងអស់នេះកើតឡើងដោយគ្មានចំណេះដឹងរបស់អ្នកប្រើប្រាស់។

ភាពងាយរងគ្រោះត្រូវបានជួសជុលទាំងស្រុងបន្ទាប់ពី Zenity ជូនដំណឹងដល់ OpenAI ។

បន្ថែមពីលើ ChatGPT Zenity ក៏បានបង្ហាញពីការវាយប្រហារស្រដៀងគ្នាប្រឆាំងនឹងវេទិកាជំនួយ AI ដ៏ពេញនិយមផ្សេងទៀត។ នៅក្នុង Copilot Studio របស់ Microsoft អ្នកស្រាវជ្រាវបានរកឃើញវិធីមួយដើម្បីលេចធ្លាយមូលដ្ឋានទិន្នន័យ CRM ទាំងមូល។

សម្រាប់ Salesforce Einstein ពួក Hacker អាចបង្កើតសំណើសេវាកម្មក្លែងក្លាយ ដើម្បីប្តូរទិសទំនាក់ទំនងអតិថិជនទាំងអស់ទៅកាន់អាសយដ្ឋានអ៊ីមែលដែលស្ថិតនៅក្រោមការគ្រប់គ្រងរបស់ពួកគេ។

Google Gemini និង Microsoft 365 Copilot ក៏ត្រូវបានប្រែក្លាយទៅជា "តួអង្គអរិភាព" ដោយអនុវត្តការវាយប្រហារបន្លំ និងការលេចធ្លាយព័ត៌មានរសើបតាមរយៈអ៊ីមែល និងព្រឹត្តិការណ៍ប្រតិទិន។

ក្នុងឧទាហរណ៍មួយទៀត ឧបករណ៍អភិវឌ្ឍន៍កម្មវិធី Cursor នៅពេលរួមបញ្ចូលជាមួយ Jira MCP ក៏ត្រូវបានកេងប្រវ័ញ្ចដើម្បីលួចអត្តសញ្ញាណអ្នកអភិវឌ្ឍន៍តាមរយៈ "សំបុត្រ" ក្លែងក្លាយ។

Zenity បាននិយាយថាក្រុមហ៊ុនមួយចំនួនដូចជា OpenAI និង Microsoft បានចេញផ្សាយបំណះយ៉ាងឆាប់រហ័សបន្ទាប់ពីត្រូវបានជូនដំណឹង។ ទោះជាយ៉ាងណាក៏ដោយ អ្នកផ្សេងទៀតបានបដិសេធមិនដោះស្រាយបញ្ហានេះទេ ដោយលើកហេតុផលថាឥរិយាបថនេះគឺជា "លក្ខណៈពិសេសរចនា" ជាជាងភាពងាយរងគ្រោះផ្នែកសុវត្ថិភាព។

បញ្ហាប្រឈមដ៏ធំឥឡូវនេះ យោងតាមលោក Mikhail Bergori គឺថា ជំនួយការ AI មិនត្រឹមតែបំពេញការងារសាមញ្ញប៉ុណ្ណោះទេ ប៉ុន្តែកំពុងក្លាយជា "អង្គភាពឌីជីថល" ដែលតំណាងឱ្យអ្នកប្រើប្រាស់ - អាចបើកថតឯកសារ ផ្ញើឯកសារ និងចូលប្រើអ៊ីមែល។ លោក​បាន​ព្រមាន​ថា នេះ​គឺ​ដូច​ជា “ឋានសួគ៌” សម្រាប់​ពួក Hacker ដោយ​មាន​ចំណុច​ជាច្រើន​នៃ​ការ​កេងប្រវ័ញ្ច។

លោក Ben Kaliger សហស្ថាបនិក និងជានាយកប្រតិបត្តិនៃក្រុមហ៊ុន Zenity បានសង្កត់ធ្ងន់ថា ការស្រាវជ្រាវរបស់ក្រុមហ៊ុនបង្ហាញថា វិធីសាស្ត្រសុវត្ថិភាពបច្ចុប្បន្នមិនសមរម្យសម្រាប់វិធីដែលជំនួយការ AI ដំណើរការនោះទេ។ លោកបានអំពាវនាវឱ្យអង្គការនានាផ្លាស់ប្តូរវិធីសាស្រ្តរបស់ពួកគេ និងបណ្តាក់ទុនក្នុងដំណោះស្រាយឯកទេស ដើម្បីអាចគ្រប់គ្រង និងត្រួតពិនិត្យសកម្មភាពរបស់ "ភ្នាក់ងារ" ទាំងនេះ។