التزييف العميق منتشر على نطاق واسع - لا أحد في مأمن من حيل انتحال الذكاء الاصطناعي

"استعارة الوجه" لبيع البضائع

مهما كانت حالة الركبة الأصلية، ما عليك سوى تطبيق طريقتنا، ونضمن لك تحسنًا ملحوظًا خلال 7 أيام. إذا لم تكن فعّالة تمامًا، فأنا على استعداد لتعويضك بمليار دونج كنوع من الاعتذار. أما إذا لم تلاحظ أي تأثير، فنحن نلتزم برد أموالك بالكامل، وأنا على استعداد لتعويضك بمليار دونج، فلا يجرؤ الجميع على الالتزام بمثل هذا. هذا ما قالته مغنية مشهورة تُعلن عن منتج كريم تدليك لتخفيف آلام المفاصل، ولكن تجدر الإشارة إلى أن هذا الإعلان صُمم بالكامل بواسطة الذكاء الاصطناعي.

استخدم حساب تيك توك يُدعى LShop مقطع الإعلان أعلاه، مستخدمًا صورة المغنية وصوتها ولغة جسدها بطريقة واقعية لا تُلاحظ إلا بملاحظة دقيقة. يضم هذا الحساب ما يقرب من 9000 متابع، و67000 إعجاب، وحصد كل مقطع آلاف المشاهدات. وقد حصد الفيديو "الإعلاني" وحده، الذي استخدم صورة المغنية، أكثر من 1000 إعجاب وحوالي 100 تعليق للشراء.

باستخدام كريم التدليك نفسه، أنتجت قنوات البيع أيضًا نسخةً أخرى مُزيفة، هذه المرة لطبيب. في المقطع، وعدت الشخصية بحزم: "أنا أعرق طبيب عظام في هانوي ، وأضمن شفاءً تامًا حتى لأخطر تمزق في الغضروف الهلالي في غضون 3 أيام فقط. هذا الجل معتمد من أعرق جمعية جراحي العظام في فيتنام". أعاد الذكاء الاصطناعي إنتاج هذه الجملة لمجموعة من "الأطباء" الآخرين، مما يسهل على المشاهدين تصديقها.

حصد المقطع ما يقارب 4000 إعجاب وأكثر من 120 تعليقًا، ولكن عندما أرسلنا رسالة نصية لمحاولة الشراء، لم يستجب الحساب، ولم يتفاعل مع المشاهدين في قسم التعليقات، بل ترك المنتج في سلة التسوق للشراء المباشر. والجدير بالذكر أن المنتج المعروض للبيع من الصين، ومعلوماته غامضة جدًا.

لم يتوقف الأمر عند هذا الحد، بل امتدت خدع التزييف العميق إلى الأمور الروحانية. فحساب تيك توك "فات فاب إن إم" لا يكتفي بإعادة نشر محاضرات المعلم تي بي إتش، بل يستخدم أيضًا تقنية الذكاء الاصطناعي لإنشاء صور "للمعلم" الذي يبيع منتجات مثل أوراق البودي وأساور العود.

عندما ترك المشاهدون تعليقاتٍ يطلبون فيها الشراء، ردّت القناة: "إذا لم تسر الأمور كما هو مُخطط لها، فاذهب إلى قسم العرض في حسابي واختر ما تحتاجه، لا تبخل بالقليل وتجاهل الكبير". بعد ذلك مباشرةً، اضطر هذا الراهب نفسه للحديث مُوضحًا أنه لم يُعلن عن مثل هذه المنتجات أو يتعاطى معها قط.

الخط الفاصل بين الإبداع والانتهاك

قال خبير الأمن السيبراني، نغو مينه هيو (Hieu PC)، من المركز الوطني لمراقبة الأمن السيبراني (NCSC)، إن مقاطع الإعلانات المزيفة المنتشرة على منصات التواصل الاجتماعي تُصنع غالبًا باستخدام برنامج Deepfake. هذا البرنامج ليس نادرًا، بل إن العديد من الخدمات تُقدم باقات بتكلفة منخفضة وعمليات بسيطة للغاية. على الرغم من وجود تطبيقات إيجابية في مجال إنشاء المحتوى الرقمي وإنتاج الوسائط، إلا أن المشكلة، وفقًا للسيد هيو، تكمن في استغلال بعض الأشخاص لهذه التقنية لأغراض سلبية، مثل الاحتيال، وتزوير الهوية، ونشر أخبار كاذبة، أو التشهير بالآخرين من خلال مقاطع فيديو تبدو حقيقية.

كما قدم السيد هيو بعض العلامات للمساعدة في التعرف على مقاطع الفيديو المزيفة، مثل تعبيرات الوجه في الفيديو التي تبدو متيبسة إلى حد ما، وأشكال الفم والحركات التي لا تتطابق مع الحوار... وحذر السيد هيو من وجود مواقف أكثر خطورة عندما تم استخدام الذكاء الاصطناعي لإدراج وجوه الضحايا في مقاطع فيديو حساسة لغرض الترهيب والإكراه والربح.

وفقًا للمحامي تران دوك فونغ، من نقابة محامي مدينة هو تشي منه، فإن استخدام الذكاء الاصطناعي لإنشاء صور لمشاهير (أو أفراد محددين) دون موافقتهم يُعدّ انتهاكًا للحقوق الشخصية، وتحديدًا الحق في الصورة، وفقًا لما تنص عليه المادة 32 من القانون المدني لعام 2015. ينص القانون على أن "للأفراد الحق في صورهم الخاصة. يجب أن يكون استخدام صورة الفرد بموافقته. يجب أن يدفع استخدام الصورة لأغراض تجارية أجرًا للشخص الذي تُستخدم صورته، ما لم يكن هناك اتفاق آخر بين الطرفين".

وبالتالي، فإن استخدام صاحب حساب على مواقع التواصل الاجتماعي صورًا مُعاد إنشاؤها باستخدام الذكاء الاصطناعي من صور حقيقية أو مقاطع فيديو قديمة، وما إلى ذلك، لأغراض الدعاية أو البيع دون إذن، يُعدّ مخالفًا للقانون. وفي حال مخالفة استخدام الصورة لأحكام هذه المادة، يحق لصاحبها طلب إصدار قرار من المحكمة يُلزم المخالف والجهات المعنية والمنظمات والأفراد بسحب الصورة وإتلافها وإنهاء استخدامها، مع التعويض عن الأضرار، واتخاذ إجراءات أخرى وفقًا لأحكام القانون.

المصدر: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html