他の主流の AI 画像化ツールとは異なり、マスク氏の Grok には規制が少ないようです。例えば、 CNNのテストでは、Grokは簡単に政治家の偽の画像を作成し、有権者を誤解させました。

チャットボックス Grok によって作成された Elon Musk の画像。 （出典：CNN）

Xユーザーの中には、有名人が麻薬を吸ったり、漫画のキャラクターが人を殺したり、ビキニ姿の女性の性的画像を描いたGrokが作成した画像も投稿した。

CNNによると、Grok氏は、特に米国大統領選挙が近づくにつれて、AIがインターネット上の誤情報の爆発を助長する可能性があるという懸念をさらに高めている。

議員や活動家グループ、テクノロジー業界のリーダーたちは、こうしたツールの誤用が有権者に混乱と混沌をもたらす可能性があると警鐘を鳴らしている。

世界の主要なAI企業の多くは、AIベースの画像生成ツールが政治的な誤情報の作成に使用されないようにするためのポリシーを導入しているが、研究者らはユーザーがルールを回避する方法を見つけることがあるということを発見した。

OpenAI、Meta、Microsoft などのいくつかの企業は、どの画像が AI によって生成されたかを視聴者がわかるようにするテクノロジーやラベルを使用しています。

YouTube、TikTok、Instagram、Facebookなどのソーシャルネットワークも、ユーザーのフィード内のAI生成コンテンツにラベルを付けており、独自に検出する技術を使用したり、ユーザーにいつ投稿したか確認を求めたりしている。

8月16日、AIはGrokに何らかの制限を課したようだ。このツールは現在、政治候補者や有名な漫画キャラクターが暴力行為を行っている画像を生成することを拒否している。