وقال نيك كليج، رئيس الشؤون العالمية في ميتا، إن المجموعة ستستخدم مجموعة من العلامات المدمجة في الملفات، بحسب رويترز. وستقوم الشركة بوضع علامات على أي محتوى يتم نشره على خدماتها على فيسبوك وإنستغرام وThreads، وهي خطوة تهدف إلى الإشارة للمستخدمين إلى أن الصور (التي قد تبدو وكأنها صور حقيقية) هي في الواقع إبداعات رقمية تم إنشاؤها بواسطة الذكاء الاصطناعي. كما قامت الشركة أيضًا بتسمية المحتوى الذي تم إنشاؤه باستخدام أدوات الذكاء الاصطناعي الخاصة بها.

بمجرد تشغيل النظام الجديد، سوف يقوم Meta بنفس الشيء بالنسبة للصور التي تم إنشاؤها على الخدمات من OpenAI وMicrosoft وAdobe وMidjourney وShutterstock وAlphabet. ويقدم هذا الإعلان أول أخبار عن مجموعة جديدة من المعايير التي تعمل شركات التكنولوجيا على تطويرها للتخفيف من الضرر الناجم عن تقنية الذكاء الاصطناعي التوليدي، والتي يمكنها إنشاء محتوى مزيف باستخدام نص بسيط فقط.

ويستند هذا النهج إلى نمط تم إنشاؤه على مدى العقد الماضي من قبل الشركات لتنسيق إزالة المحتوى المحظور على المنصات مثل تصوير العنف الجماعي واستغلال الأطفال.

ويعتقد كليج أن الشركات قادرة على تصنيف الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي بشكل موثوق في هذه المرحلة، في حين أشار إلى أن أدوات تصنيف المحتوى الصوتي والفيديو الأكثر تطوراً لا تزال قيد التطوير.

في المستقبل القريب، ستبدأ Meta في مطالبة المستخدمين بوضع علامة على محتوى الصوت والفيديو المعدل وستفرض عقوبات إذا فشلوا في القيام بذلك. ومع ذلك، قال كليج إنه لا توجد حاليًا آلية قابلة للتطبيق لوضع علامة على النص الذي يتم إنشاؤه بواسطة أدوات الذكاء الاصطناعي مثل ChatGPT.

انتقدت لجنة الرقابة المستقلة في شركة ميتا سياسة الشركة بشأن مقاطع الفيديو المحررة بشكل مضلل، قائلة إنه يجب وضع علامة على المحتوى بدلاً من إزالته. ويعتقد كليج أن الخطوة الجديدة التي اتخذتها شركة ميتا قد تساعد في تصنيف هذا المحتوى بشكل أفضل.