على عكس أدوات التصوير بالذكاء الاصطناعي السائدة الأخرى، يبدو أن Grok الخاص بموسك يخضع لقدر أقل من التنظيم. على سبيل المثال، في الاختبار الذي أجرته شبكة CNN ، نجح جروك بسهولة في إنشاء صور مزيفة للسياسيين، مما أدى إلى تضليل الناخبين.

صورة إيلون ماسك تم إنشاؤها بواسطة chatbox Grok. (المصدر: سي إن إن)

ونشر بعض مستخدمي X أيضًا صورًا تم إنشاؤها بواسطة Grok، تُظهر المشاهير وهم يدخنون المخدرات، وشخصيات كرتونية تقتل الناس، وصورًا جنسية لنساء يرتدين البكيني.

وبحسب شبكة CNN ، أثار جروك مخاوف أخرى من أن الذكاء الاصطناعي قد يؤدي إلى انفجار المعلومات المضللة على الإنترنت، خاصة مع اقتراب موعد الانتخابات الرئاسية الأمريكية.

وقد أطلق المشرعون وجماعات النشطاء وقادة التكنولوجيا ناقوس الخطر من أن إساءة استخدام مثل هذه الأدوات قد تسبب ارتباكًا وفوضى للناخبين.

لقد طبقت العديد من شركات الذكاء الاصطناعي الرائدة في العالم سياسات لمنع استخدام أدوات توليد الصور المعتمدة على الذكاء الاصطناعي لإنشاء معلومات مضللة سياسية، على الرغم من أن الباحثين وجدوا أن المستخدمين يجدون أحيانًا طرقًا للالتفاف على القواعد.

تستخدم العديد من الشركات مثل OpenAI وMeta وMicrosoft التكنولوجيا أو العلامات لمساعدة المشاهدين على معرفة الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي الخاص بهم.

وتقوم شبكات التواصل الاجتماعي بما في ذلك يوتيوب وتيك توك وإنستغرام وفيسبوك أيضًا بتسمية المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في خلاصات المستخدمين، باستخدام التكنولوجيا لاكتشافه بأنفسهم أو مطالبة المستخدمين بتحديد الوقت الذي نشروه فيه.

في 16 أغسطس، بدا أن الذكاء الاصطناعي قد فرض بعض القيود على Grok. ترفض الأداة حاليًا إنشاء صور للمرشحين السياسيين أو شخصيات الرسوم المتحركة الشهيرة التي ترتكب أعمال عنف.