Contrairement à d'autres outils d'imagerie IA grand public, Grok de Musk semble avoir moins de réglementation. Par exemple, dans le test de CNN , Grok a facilement créé de fausses images de politiciens, trompant ainsi les électeurs.

Image d'Elon Musk créée par chatbox Grok. (Source : CNN)

Certains utilisateurs de X ont également publié des images créées par Grok, montrant des célébrités fumant de la drogue, des personnages de dessins animés tuant des gens et des images sexualisées de femmes en bikini.

Selon CNN , Grok soulève également des inquiétudes quant au fait que l'IA pourrait alimenter une explosion de désinformation sur Internet, en particulier à l'approche de l'élection présidentielle américaine.

Les législateurs, les groupes d’activistes et les dirigeants du secteur technologique ont tiré la sonnette d’alarme : l’utilisation abusive de ces outils pourrait provoquer confusion et chaos chez les électeurs.

De nombreuses entreprises d’IA parmi les plus importantes au monde ont mis en œuvre des politiques visant à empêcher que leurs outils de génération d’images basés sur l’IA ne soient utilisés pour créer de la désinformation politique, bien que les chercheurs aient constaté que les utilisateurs trouvent parfois des moyens de contourner les règles.

Plusieurs entreprises comme OpenAI, Meta et Microsoft utilisent des technologies ou des étiquettes pour aider les spectateurs à savoir quelles images sont générées par leur IA.

Les réseaux sociaux, notamment YouTube, TikTok, Instagram et Facebook, étiquettent également le contenu généré par l'IA dans les flux des utilisateurs, en utilisant la technologie pour le détecter eux-mêmes ou en demandant aux utilisateurs d'identifier quand ils l'ont publié.

Le 16 août, AI semble avoir imposé certaines restrictions à Grok. L’outil refuse actuellement de générer des images de candidats politiques ou de personnages de dessins animés célèbres commettant des actes de violence.