チャットボット「Grok」がインターネット上で誤情報の急増を引き起こしているという懸念

他の主流のAI写真撮影ツールとは異なり、マスク氏のGrokは規制が少ないようだ。例えばCNNのテストでは、Grokは政治家の偽画像を簡単に作成し、有権者を欺いた。

チャットボックスGrokが作成したイーロン・マスクの画像。（出典：CNN）

Xユーザーの中には、有名人が麻薬を吸ったり、漫画のキャラクターが人を殺したり、ビキニ姿の女性の性的画像を描いたGrokが作成した画像も投稿した。

CNNによると、Grok氏は、特に米国大統領選挙が近づくにつれて、AIがインターネット上の誤情報の爆発を助長する可能性があるという懸念をさらに高めている。

議員や活動家グループ、テクノロジー業界のリーダーたちは、こうしたツールの誤用が有権者に混乱と混沌をもたらす可能性があると警鐘を鳴らしている。

世界の主要なAI企業の多くは、AIベースの画像生成ツールが政治的な誤情報の作成に使用されないようにするためのポリシーを導入しているが、研究者らはユーザーがルールを回避する方法を見つけることがあるということを発見した。

OpenAI、Meta、Microsoft などのいくつかの企業は、どの画像が AI によって生成されたかを視聴者がわかるようにするテクノロジーやラベルを使用しています。

YouTube、TikTok、Instagram、Facebookなどのソーシャルネットワークも、ユーザーのフィード内のAI生成コンテンツにラベルを付けており、独自に検出する技術を使用したり、ユーザーにいつ投稿したか確認を求めたりしている。

8月16日、AIはGrokにいくつかの制限を課したようです。現在、このツールは政治候補者や人気アニメキャラクターが暴力行為を行っている画像の生成を拒否しています。