TruepicのCEO、ジェフリー・マクレガー氏は、この事件は氷山の一角に過ぎないと述べた。マクレガー氏は、ソーシャルメディアにはAIが生成したコンテンツが大量に存在するだろうが、我々はまだそれに備えていないと語った。

CNNによると、TruepicはTruepic Lensを通じて作成時にメディアを認証すると主張する技術を提供することでこの問題を解決したいと考えている。データ収集アプリは、画像を作成した日付、時間、場所、デバイスをユーザーに伝え、デジタル署名を適用して、画像が自然画像か AI 生成画像かを検証します。

2015年に設立され、マイクロソフトの支援を受けているTruepic社は、NGOからメディア企業、さらには請求の正当性を確認したい保険会社まで、同社に関心が寄せられていると述べた。

マクレガー氏は、あらゆるものが偽造可能となり、人工知能が品質とアクセス性の点で最高レベルに達したとき、もはやオンライン上の現実が何なのか分からなくなると述べた。

Truepicのようなテクノロジー企業は何年もの間、オンライン上の誤情報と戦うために取り組んできました。しかし、ユーザーのコマンドから画像や文章を生成できる新しい AI ツールの登場により、緊急性が高まっています。今年初めには、フランシスコ教皇がバレンシアガのダウンジャケットを着ている姿やドナルド・トランプ前米大統領が逮捕される姿の偽画像が広く共有された。どちらの事件も、AIの潜在的な危険性について何百万人もの人々に混乱を招いた。

一部の議員は現在、テクノロジー企業に対し、AI生成コンテンツにラベルを付けることによってこの問題に対処するよう求めている。欧州委員会（EC）のヴェラ・ヨウロバ副委員長は、グーグル、メタ、マイクロソフト、ティックトックなどの企業が偽情報対策に関する欧州連合（EU）の自主行動規範に参加していると述べた。

生成 AI を自社製品に実装している企業も含め、ますます多くのスタートアップ企業や大手テクノロジー企業が、画像や動画が AI で作成されたかどうかを人々が判断できるようにするための標準やソリューションを実装しようとしています。

しかし、AI技術の進歩は人間が追いつけないほど速いため、これらのソリューションで問題が完全に解決できるかどうかは不明です。 Dall-EとChatGPTの開発元であるOpenAIでさえ、AIが生成した文章を検出するための自社の取り組みが不完全であることを認めている。

ソリューション開発企業は、問題を解決するために 2 つのアプローチを採用しています。 1 つ目は、AI 生成画像がオンラインで作成され共有された後にそれを識別するプログラムの開発です。もう 1 つは、何らかのデジタル署名を使用して、画像が本物か AI 生成かを判断することに重点を置いています。

Reality Defender と Hive Moderation は最初のアプローチに取り組んでいます。同社のプラットフォームを利用すると、ユーザーはスキャンする画像をアップロードし、写真が本物か AI によって生成されたものかを示すパーセンテージを表示する分析結果を受け取ることができる。

Reality Defenderは、同社独自のディープフェイクおよび生成コンテンツフィンガープリンティング技術を使用して、AI生成のビデオ、オーディオ、画像を検出すると述べている。同社が提供した例では、リアリティ・ディフェンダーはトム・クルーズのディープフェイク画像を表示したが、画像に写っている人物の顔が編集された写真でよく見られる歪んでいるため、53％が「疑わしい」と評価された。

これらのサービスには無料版と有料版があります。 Hive Moderation によれば、1,000 枚の画像につき 1.50 ドルの料金がかかるとのことです。 Realty Defender 社は、顧客が同社の専門知識とサポートを必要とする場合、さまざまな要因に基づいて製品価格が変動する可能性があると述べています。リアリティ・ディフェンダーのCEO、ベン・コールマン氏は、AIツールを使えば誰でも偽の写真を作成できるため、リスクは毎月倍増していると語る。

他にもいくつかの企業が、画像が本物か AI によって生成されたものかを証明するために、画像に何らかのラベルを組み込む取り組みを行っています。これまでのところ、この取り組みは主にコンテンツの真正性と出所のアライアンス (C2PA) によって推進されてきました。

C2PAは、Adobeのコンテンツ認証イニシアチブ（CAI）と、MicrosoftとBBCが主導するProject Originを統合し、デジタルニュースにおける誤情報対策に重点を置いて、デジタルメディアの出所と履歴を認証するための技術標準を作成することを目的として2021年に設立されました。 C2PA に参加している他の企業には、Truepic、Intel、Sony などがあります。

CAI は C2PA の原則に基づいて、企業がコンテンツ認証情報や画像に関する情報を含むメタデータを作成するためのオープンソース ツールを提供します。 CAI の Web サイトによると、これにより、クリエイターは画像の作成方法に関する詳細を透明性を持って共有できるようになります。こうすることで、エンドユーザーは、画像が誰によって、何を、どのように変更されたかというコンテキストにアクセスし、その画像の信憑性を自分で判断できるようになります。

多くの企業が C2PA 標準と CAI ツールを自社のアプリケーションに統合しています。 Adobe の Firefly は、Photoshop に追加された新しい AI イメージング ツールであり、コンテンツ認証情報機能を通じて C2PA 標準に準拠しています。 Microsoft はまた、今後数か月以内に、Bing Image Creator および Microsoft Designer で作成された画像とビデオに暗号署名が追加されることも発表しました。

Googleは5月に「この画像について」機能を発表した。この機能により、ユーザーは画像がGoogleに最初に表示された日時や、どこで見られるかを確認できる。検索大手の同社はまた、Google AIが生成した画像はすべて、別のウェブサイトやプラットフォームで見つかった場合に「コンテキストを追加」できるように、元のファイルにマークアップを追加すると発表した。

テクノロジー企業がAI生成画像やデジタルメディアの完全性に関する懸念に対処しようとしている一方で、この分野の専門家は、企業が協力し、政府とも協力してこの問題に対処する必要があると強調している。しかし、テクノロジー企業はリスクにもかかわらず AI の開発を競っています。