以下は、ディープフェイクの有害な影響とこの問題に対する解決策の提案に関する、RMIT大学の2人の専門家の意見です。

ジョナサン・クレリン博士（左）とグエン・ヴァン・タン・ロン博士（右）。 （出典：RMIT大学）

サイバー犯罪者は予期せぬ方法で新しいテクノロジーを悪用する

RMIT大学理工学技術学部情報セキュリティ部長、ジョナサン・クレリン博士：

ディープフェイクは、複数のソースからの画像や動画を組み合わせて、非常にリアルな画像、動画、さらには音声を作成できる機械生成画像です。

ディープフェイクは、機械学習と呼ばれるAIの技術を利用しており、人物の顔などの要素を別の画像や動画に置き換えたり統合したりすることができます。

ディープフェイクの使用例としては、ポルノコンテンツとテイラー・スウィフトの写真を組み合わせて偽の画像を作成することが挙げられます。

これを実現するために、首謀者はソフトウェアが歌手の表情を学習できるようにいくつかの画像を必要とし、それらの画像をポルノコンテンツと組み合わせてわいせつな写真を作成し、歌手のイメージを傷つけた。

実際、これらの写真はTelegramグループによって公開され、AIサポートを統合したMicrosoft Designerツールを使用して作成されたという噂があります。

悪者に必要なのは、なりすましの対象となる人物の写真、ビデオ、または音声録音だけなので、誰でも被害者になる可能性があります。

フェイクニュースはさまざまな形で偽ニュースを作り出すために利用される可能性があり、来たる米国大統領選挙はそうしたフェイクニュースで満たされるであろうと予想するのは間違いない。

現在、世界中の立法者がこの種の画像に対する法律の制定を検討しています。

米国では、民事訴訟に頼ったり、「AIによって生成された性的に露骨な人物画像を本人の同意なしに拡散すること」に対処するための法律を制定したりするなど、立法の面でいくつかのアプローチが採用され始めています。

中国はまた、AI生成画像を拡散する者を起訴できるようにする新たな規制も導入した。

英国はオンライン安全法に基づきディープフェイクコンテンツの共有を違法とした。

これを検出または防止するにはどうすればよいでしょうか?

最初の方法は、オンライン上の画像、ビデオ、または音声録音の数を減らすことです。知っている人だけと共有し、オンラインで広く公開しないようにしてください。一度インターネット上にコンテンツを掲載すると、削除することはほぼ不可能です。

2 つ目の方法は、家族と秘密の言葉を決めて通話を認証し、偽の電話の罠に陥るリスクを減らすことです。

画像、特にビデオには奇妙な（演出されたように見える）エラーが含まれている場合があります。これらのエラーに気付いた場合、画像または音声が偽造されている可能性が高くなります。

他に使用できる手法としては、Google などの検索エンジンで「リバース イメージ」を検索し、元の画像のソースを特定することが挙げられます。

最後の教訓は、見たものを盲目的に信じてはいけないということです。カメラ (または AI) は嘘をつく可能性があります。

ディープフェイクは有名人や政治家にとって大きな脅威となる

RMIT大学コミュニケーション・デザイン学部上級講師、グエン・ヴァン・タン・ロン博士：

ディープフェイクによるフェイクニュースが急増しているため、著名人や政治家のメディアチームは、フェイクニュースを監視して迅速に対応したり、誤ったニュースを継続的に訂正したりするためのリソースを用意する必要があります。

ディープフェイクが組織的な「ダーティPR」と体系的に組み合わされば、矛盾する情報が増殖してこの作業はさらに困難になり、常にフェイクニュースやネガティブなニュースがポジティブなニュースよりも共有されることになります。

通常、ソーシャル ネットワークで共有されたニュースを見ると、個人は公式のメディア チャネルを通じて情報を確認する習慣があります。

ディープフェイクコンテンツがソーシャルメディアに溢れているため、主流のニュースの正確性を検証することがますます困難になり、時間がかかるようになり、徹底的な調査と検証技術が必要になっています。

ニュースや情報源の検証を遅らせれば遅らせるほど、ソーシャルメディアでの共有やコメントのスピードが速いため、虚偽や捏造、誤解を招く情報が広がる可能性が高くなります。

これは根本的な問題を悪化させ、特にコンテンツが政治的発言、宗教、性別、ビジネス戦略、マクロ経済問題に関連する場合には社会不安につながる可能性があります。

ディープフェイクの蔓延という状況において、最も効果的なリスク管理戦略は、企業、著名人、政治家と、ファン、報道機関、コミュニティ、従業員などの主要な利害関係者の間で、人気のソーシャル メディア プラットフォーム、Web サイト、または対面ミーティングを通じて、一貫したコミュニケーション チャネルを維持することです。

AI の使用が増えると、メリットと予期せぬ新たな問題の両方が生じます。イラスト写真。 （出典：Freepik）

これらのコミュニケーション チャネルを維持することで、ディープフェイクに関する情報をより迅速に受け取ることができるようになり、噂をタイムリーかつ効果的に訂正して、誤った情報を最初から暴露できるようになります。

しかし、企業、著名人、政治家はディープフェイクに特化した危機管理シナリオを考え出す必要がある。たとえば、誰がどのメディア チャネルを通じて発表したか、証拠や信頼できる情報源を通じて情報を検証するための基準、噂を解決するためのタイムラインを確立すること、評判を回復するための戦略の概要を示すことなどです。

十分に準備された系統的な計画があれば、ディープフェイク危機への対処がより現実的になり、起こりうる不幸な結果を最小限に抑えることができます。