オンラインプラットフォーム上で何百万回も閲覧されているこれらの画像は、人工知能を使用して作成されたディープフェイク画像です。よく見ると、奇妙に曲がった指や不自然な光で輝く目など、明らかな手がかりが見つかります。

しかしながら、これらのディープフェイク画像が引き起こした怒りは現実のものである。

イスラエルとハマスの戦争の写真は、リアルな画像を作成するために使用されるプロパガンダのツールとしての AI の危険性を、生々しく痛々しく示しています。

先月戦闘が始まって以来、ソーシャルメディア上で出回っているデジタル加工された写真は、犠牲者の責任について虚偽の主張をしたり、実際には起こっていない残虐行為について人々を誤解させたりするために使われてきた。

技術の進歩はますます頻繁に起こっており、監視はほとんど行われていません。これにより、AI が別の形態の兵器になるリスクが明らかになり、将来の紛争、選挙、その他の主要な出来事で何が起こるかを早期に垣間見ることができます。

「事態は良くなる前に、さらに悪化するだろう」と、サンフランシスコとパリに拠点を置き、AIを使ってオンライン苦情の妥当性を評価するテクノロジー企業CREOpointのCEO、ジャン＝クロード・ゴールデンスタイン氏は述べた。

彼の会社は、ガザから出てきた最も拡散されたディープフェイク画像のデータベースをまとめた。 「画像、動画、音声。クリエイティブAIによって、これはこれまでに見たことのないほどの進歩となるでしょう」と彼は語った。

戦争による偽情報を追跡する非営利団体「デジタルヘイト対策センター」のCEO、イムラン・アーメド氏は、このような画像を作成するプロパガンダは人々の心の奥底にある衝動や不安を狙うのが巧みだと語った。

画像が恐ろしいほど、ユーザーがそれを覚えて共有する可能性が高くなり、意図せずしてさらに誤った情報が広まることになります。ロシアとウクライナの紛争後、AIが生成した同様の偽コンテンツが実際に広まり始めた。

新たな紛争や選挙シーズンが起こるたびに、偽情報が流れる機会が生まれます。そのため、多くのAI専門家や政治学者は、米国、インド、パキスタン、ウクライナ、インドネシア、メキシコなど、いくつかの国で主要な選挙が行われる来年にリスクがあると警告している。

AIとソーシャルメディアがアメリカの有権者に嘘を広めるのに利用される危険性は、ワシントンの両党の議員を警戒させている。ディープフェイク技術の危険性に関する最近の公聴会で、バージニア州選出の民主党下院議員ジェリー・コノリー氏は、米国は他のAIに対抗するために設計されたAIツールの開発に資金を投入する必要があると述べた。

バッファロー大学のデビッド・ドーマン教授は、AIによって生成された誤情報によってもたらされる政治的、社会的課題に効果的に対応するには、より優れた技術とより優れた規制の両方が必要になると述べた。

マイ・アン（AP通信による）