របាយការណ៍រាប់ពាន់នៃខ្លឹមសារការរំលោភបំពានកុមារដែលបង្កើតដោយ AI

ក្នុងរយៈពេលប៉ុន្មានខែថ្មីៗនេះ អ្នកជំនាញ និងអ្នកស្រាវជ្រាវសុវត្ថិភាពកុមារបានព្រមានពីហានិភ័យដែល AI សិប្បនិម្មិតអាចធ្វើឱ្យការរំលោភបំពានលើអ៊ីនធឺណិតកាន់តែធ្ងន់ធ្ងរ។

របាយការណ៍រាប់ពាន់អំពីខ្លឹមសារនៃការបំពានលើកុមារដែលបង្កើតដោយនរណាម្នាក់រូបភាព ១ — នាយកប្រតិបត្តិក្រុមហ៊ុន Meta លោក Mark Zuckerberg ថ្លែងនៅក្នុងសវនាការរបស់គណៈកម្មាធិការយុត្តិធម៌ព្រឹទ្ធសភាសហរដ្ឋអាមេរិកនៅថ្ងៃទី 31 ខែមករា ឆ្នាំ 2024 នៅចំពោះមុខអ្នកចូលរួមដែលកាន់រូបភាពដែលបង្កើតដោយ AI ។ រូបថត៖ រ៉យទ័រ

NCMEC មិនទាន់បានបញ្ចេញរបាយការណ៍សរុបនៃសម្ភារៈរំលោភបំពានលើកុមារពីគ្រប់ប្រភពដែលខ្លួនទទួលបានក្នុងឆ្នាំ២០២៣ទេ។ ប៉ុន្តែនៅឆ្នាំ២០២២ វាបានទទួលរបាយការណ៍ប្រហែល ៨៨,៣លានឯកសារអំពីបញ្ហានេះ។

លោក John Shehan អនុប្រធាន NCMEC បាននិយាយថា "យើងកំពុងទទួលបានរបាយការណ៍ពីក្រុមហ៊ុន AI ច្នៃប្រឌិតខ្លួនឯង វេទិកាអនឡាញ និងសមាជិកសាធារណៈ" ។

នាយកប្រតិបត្តិនៃ Meta, X, TikTok, Snap និង Discord បានផ្តល់សក្ខីកម្មនៅក្នុងសវនាការរបស់ព្រឹទ្ធសភាសហរដ្ឋអាមេរិកស្តីពីសុវត្ថិភាពកុមារនៅលើវេទិកាអនឡាញកាលពីថ្ងៃពុធ (31 មករា)។ សមាជិកសភាអាមេរិកបានចោទសួរក្រុមហ៊ុនប្រព័ន្ធផ្សព្វផ្សាយសង្គមអំពីកិច្ចខិតខំប្រឹងប្រែងរបស់ពួកគេដើម្បីការពារកុមារពី "សត្វមំសាសីតាមអ៊ីនធឺណិត"។

អ្នកស្រាវជ្រាវនៅ Stanford Internet Observatory បាននិយាយនៅក្នុងរបាយការណ៍មួយកាលពីខែមិថុនាឆ្នាំមុនថា AI ជំនាន់ថ្មីអាចត្រូវបានប្រើប្រាស់ដោយតួអង្គអាក្រក់ដើម្បីធ្វើបាបកុមារក្នុងជីវិតពិតម្តងហើយម្តងទៀតដោយបង្កើតរូបភាពក្លែងក្លាយរបស់ពួកគេ។

Fallon McNulty នាយក CyberTipline របស់ NCMEC ដែលយករបាយការណ៍នៃការកេងប្រវ័ញ្ចលើកុមារតាមអ៊ីនធឺណិតបាននិយាយថា មាតិកាដែលបង្កើតដោយ AI កំពុងក្លាយជា "រូបភាពជាក់ស្តែងកាន់តែច្រើន" ដែលធ្វើឱ្យវាពិបាកក្នុងការកំណត់ថាតើជនរងគ្រោះគឺជាមនុស្សពិតឬអត់។

លោក McNulty បាននិយាយថា OpenAI ដែលជាក្រុមហ៊ុនបង្កើត ChatGPT បានបង្កើតដំណើរការមួយដើម្បីបញ្ជូនរបាយការណ៍ទៅ NCMEC ហើយអង្គការនេះកំពុងពិភាក្សាជាមួយក្រុមហ៊ុន AI ផ្សេងទៀត។

Hoang Hai (យោងតាម Reuters, FT)

ប្រភព