偽の AI 画像はどのように機能するのでしょうか?

AIは今日、あらゆるところに存在し、戦争にも存在します。人工知能アプリケーションは今年大きく進歩し、ほとんど誰でも AI ジェネレーターを使用して、少なくとも一見リアルに見える画像を作成できるようになりました。

これを行うには、ユーザーは、Midjourney や Dall-E などのツールに、仕様や情報などのヒントをいくつか与えるだけで済みます。 AI ツールはテキストや音声プロンプトを画像に変換します。

この画像生成プロセスは、機械学習と呼ばれるものに基づいています。たとえば、作成者が 70 歳の男性が自転車に乗っている画像を見せるよう依頼した場合、作成者はデータベースを検索して画像と用語を一致させます。

利用可能な情報に基づいて、AIアルゴリズムは高齢の自転車に乗った人の画像を生成します。増え続ける入力と技術的な更新のおかげで、これらのツールは劇的に改善され、継続的に学習しています。

これらすべては中東紛争に関連した画像に適用されています。 AI専門家のハニー・ファリド氏は、「感情が非常に高まっている」紛争では、AI画像を通じて拡散されるものも含め、誤情報が大きな影響を及ぼすと述べた。

カリフォルニア大学バークレー校のデジタル分析教授ファリド氏は、激しい戦いは偽のコンテンツの作成と拡散、そして感情を煽るのに最適な温床になると語った。

イスラエルとハマスの戦争のAI画像

人工知能の助けを借りて作成された画像や動画は、ウクライナ戦争に関する偽情報を煽り、イスラエルとハマスとの戦争でもそれが続いている。

専門家によると、ソーシャルメディア上で拡散する戦争に関するAI画像は、多くの場合2つのカテゴリーに分けられるという。人々の苦しみに焦点を当て、共感を呼び起こすもの。もう 1 つは、出来事を誇張して紛争を煽り、暴力をエスカレートさせる偽の AI です。

たとえば、最初のカテゴリには、瓦礫の山の前に立つ父親と 5 人の子供たちの写真が含まれます。 X（旧Twitter）とInstagramで何度もシェアされ、数十万回閲覧されました。

この画像は、少なくとも X ではコミュニティによって偽物としてフラグが付けられています。これは、AI 画像によく見られるさまざまなエラーや不一致によって認識できます (上記の画像を参照)。

同様の異常は、X で拡散した下記の偽の AI 画像にも見られます。この画像では、遺跡で一緒に食事をするパレスチナ人家族が写っているとされています。

一方、爆撃された家々が立ち並ぶ入植地をイスラエル国旗を振りながら行進する軍隊を映した別の写真は、憎悪と暴力をあおることを目的とした第2のカテゴリーに分類される。

このような AI 画像はどこから来るのでしょうか?

AI が生成した紛争の画像のほとんどはソーシャル メディア プラットフォームに投稿されていますが、他の多くのプラットフォームや組織、さらには一部のニュース サイトでも公開されています。

ソフトウェア会社Adobeは、2022年末までにAI生成画像をストックフォトのラインナップに追加することで話題を呼んでいる。データベースでは、それらの画像に適切なラベルが付けられる。

Adobe は現在、爆発、抗議する人々、アル・アクサ・モスクの背後に立ち上る煙など、中東戦争の AI 画像も販売している。

一部のサイトが、これらの画像を A​​I 生成画像であると表示せずに使い続けているため、批評家たちはこれを不快に感じた。たとえば、上記の画像は AI を使用して生成されたという表示もなく「Newsbreak」ページに掲載されました。

欧州議会の科学部門である欧州議会調査局ですら、中東紛争に関するオンライン文書にAdobeデータベースからのAI画像を使った図解を加えたが、AI生成であるとは明記していなかった。

欧州デジタルメディア監視団は、ジャーナリストやメディア専門家に対し、AI画像の使用には細心の注意を払うよう促し、特にガザ戦争のような実際の出来事を報道する際には使用しないよう勧告している。

AI画像はどれくらい危険でしょうか?

AI コンテンツや画像が急速に広まり、ユーザーはオンラインで遭遇するあらゆるものに対して不安を感じています。 「画像、音声、動画が操作できる世界に入ると、すべてが疑わしくなります。そして、真実を含め、あらゆるものへの信頼を失ってしまうのです」と、カリフォルニア大学バークレー校の研究者ファリド氏は説明する。

まさに次の事件がそれだ。イスラエルの赤ちゃんの黒焦げの遺体と思われる画像が、イスラエルのベンヤミン・ネタニヤフ首相と他の政治家数名によってソーシャルメディアで共有されたのだ。

反イスラエルのインフルエンサー、ジャクソン・ヒンクル氏は後に、この画像は人工知能を使って作成されたものだと主張した。ヒンクル氏の声明はソーシャルメディア上で2000万回以上閲覧され、プラットフォーム上で白熱した議論を巻き起こした。

最終的に、数多くの組織や検証ツールが、その画像は本物であり、ヒンクル氏の主張は虚偽であると発表した。しかし、ユーザーが失った信頼を簡単に取り戻すのに役立つツールは明らかに存在しません。

ホアンハイ（DWによると）