FBIは今週配布された警告の中で、オンライン投稿や個人的なメッセージ、ビデオチャットから取得した通常の画像をAIを使って偽物に編集する脅迫の被害者が最近増加していると述べた。

「その後、悪意のある人物がこれらの画像を直接被害者に送りつけ、脅迫やセクハラに利用します。一度拡散されると、被害者は改ざんされたコンテンツの継続的な共有を阻止し、インターネットから削除するという大きな課題に直面する可能性があります」と警告は述べている。

同局は、画像は「実物に忠実」であると述べたが、一部のケースでは子供が標的にされていたことも指摘した。

2月にスペインの警察は、AIを使って恐ろしい児童虐待画像を作成したコンピュータープログラマーを逮捕したが、これはこの種の逮捕としては初のケースの一つだと考えられている。

FBIは性的画像を作成するために使用されたAIプログラムの詳細については言及しなかったが、技術の進歩により「AIを活用したコンテンツ作成の品質、カスタマイズ性、アクセシビリティが継続的に向上している」と指摘した。

通常の写真を編集してエロティックな画像を作成するという行為は写真撮影と同じくらい古いものですが、最近のオープンソース AI ツールの急増により、このプロセスはこれまで以上に簡単になりました。

偽の写真やビデオは、多くの場合、実物と区別がつきません。実際、近年では AI を活用した性的画像の作成と交換に特化した Web サイトやソーシャル ネットワークがいくつか登場しています。

これは、専門家が最近懸念し警告しているように、人工知能が社会にもたらす可能性のある一連のリスクの 1 つだと考えられています。

ホアン・アイン氏（デイリーメール、ロイター通信による）