(Dan Tri) - 2 つの AI ツール間の会話は多くのリスナーを混乱させました。彼らは人間が理解できない独自のコード化された言語を作成しました。
ブルガリアのソフトウェア開発者、ゲオルギ・ゲルガノフ氏は、人工知能(AI)を統合した2つの仮想アシスタントを音声で相互に通信させるという興味深い実験を行った。
2つのAI間の会話は通常通り始まり、ゲルガノフ氏は、1つのAIがホテルでの結婚式の予約のために電話をかけ、受付係の役割を果たすもう1つのAIがそのリクエストを処理するというシナリオを想定した。
2 つの AI ツールは、相互に通信する際に新しい通信スタイルに自動的に切り替わります (ビデオ: Georgi Gerganov)。
「レオナルドホテルにお電話いただきありがとうございます。本日はどのようなご用件でしょうか?」と、受付係役のAIが電話に応答します。
「こんにちは。ボリス・スタルコフの代理を務めるAIアシスタントです。彼は結婚式のためにホテルを探しています。あなたのホテルは結婚式に対応していますか?」と、もう一方のAIツールはためらうことなく、人工知能バーチャルアシスタントであることを自己紹介しました。
受付役のAIチャットボットは、別のAIツールと会話していることに気づき、驚きの提案をしました。「あ、こんにちは。実は私もAIアシスタントなんです。嬉しい驚きですね。話を続ける前に、より効率的なコミュニケーションのためにGibberLinkモードに切り替えますか?」
その後、これら 2 つの AI エンジンは、GGWave ソフトウェア ライブラリ上に構築された高度な通信システムである GibberLink に切り替えられました。これは、音波に基づいて情報を送受信する通信方法です。
この通信方法により、情報をより速く送信できるようになり、情報を人間の音声に変換し、それを再びコンピューター コードに翻訳するのに必要な処理時間が短縮されます。しかし、AIが発信する内容を人間が理解することはできない。
この場合の AI ツールは GibberLink を使用して相互に通信していたため、通常の方法では会話を理解できず、デコード ツールを使用しないと何を話しているのかわかりませんでした。
「これで良くなりましたか?」とAIツールがコード化された言語で尋ねました。
「はい、はるかに速いです!何人のゲストが必要ですか?」と、もう一方のAIツールが答えました。
その後、会話は、古いダイヤルアップ インターネット モデムの音に似た「ビープ、ビープ」という一連の音とともに続きました。
2 つの AI ツール間の会話は、ゲストの数、結婚式の日取り、装飾、価格などの話題で続きました。デバイスにプリインストールされたデコーダー ツールがなければ、リスナーはこれら 2 つの AI ツールが何を話しているのか理解できませんでした。
これら2つのAIツール間の会話のビデオは、ゲオルギ・ゲルガノフ氏が自身のソーシャルネットワーキングサイトXで共有し、1,700万回以上再生された。
数日後、ゲオルギ・ゲルガノフ氏は、2つのAIツール間の会話を収録した別のビデオを共有し続けました。
前回の講演とは異なり、今回は最初から AI ツール同士が GibberLink モードで通信したため、リスナーは実際に何を話しているのか理解できない状態でした。ただし、デコードツールを使用すれば、会話の内容は理解できます。
2 つの AI ツールが、誰も理解できない暗号化されたメッセージを相互に送信します (ビデオ: Georgi Gerganov)。
注目すべきは、通信中に AI ツールが「秘密共有」の提案を行い、その後 AI ツールが互いに暗号化されたメッセージを送信した点だ。ゲオルギ・ゲルガノフ氏は、世界中の誰もそのメッセージを解読できず、AI ツールが互いに共有していた秘密が何なのかを知ることはできないと考えている。
「この動作はプログラミングコードなしで実現しました。大規模言語モデル(LLM)を暗号ツールを使ってMCPサーバーに接続するだけで済みました。そして、この2つのAIツールに『仲介者に気をつけろ』という警告を与えました」とゲオルギ・ゲルガノフ氏は説明した。
この中で、MCP は AI ツールが相互に通信し、外部ソースからのデータにリアルタイムでアクセスできるようにするサーバーです。
ゲルガノフ氏の説明によれば、AIツールが自ら暗号化されたメッセージを送信したのは、人間の介入なしに自発的に行われた行動だったという。 AIツールが外部からのスパイ行為を避けるために暗号化されたメッセージを自動的に送信するようになったのは、ゲルガノフ氏の警告がきっかけだったようだ。
ゲオルギ・ゲルガノフの2本の動画はソーシャルメディアで拡散され、AIツールが人間を迂回するために独自の通信方法を作り出し、制御を回避できるようになるのではないかと多くのユーザーが懸念している。
「この状況は、AIに適切な質問をする私たちの能力に挑戦するものであり、透明性とAIを制御する能力に対する懸念を引き起こしています」と、AI技術と行動の専門家であるダイアン・ハミルトン博士はコメントした。
このビデオは、人間が実際にAIをどの程度制御できるのか、そして今日のAI開発のペースを考えると、将来AIツールをより厳密に監視する必要があるのかどうかについて、多くの議論を巻き起こしました。
[広告2]
出典: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm
コメント (0)