新時代のAIの多くの課題

[広告_1]

AI がよりアクセスしやすくなり、ますます多くの個人や企業が一般的なツールを通じて AI を利用するようになると、ハッカーは攻撃を自動化し、操作を高速化し、より複雑なキャンペーンを展開して違法な目的を達成できるようになります。

カスペルスキーが観察した攻撃の種類は次のとおりです。ChatGPT はマルウェアを開発し、複数の被害者に自動的に攻撃を展開するために使用される可能性があります。 AIプログラムはスマートフォン上のユーザーのデータに侵入し、機密データを分析するプロセスを通じて、悪者は被害者のメッセージ、パスワード、銀行コードを完全に「読み取る」ことができます。群知能アルゴリズムは、自動化されたコンピュータネットワーク (ボネット) が、セキュリティソリューションによって排除された悪意のあるネットワークを回復するのに役立ちます。

AI を使用してパスワードを解読する Kaspersky の調査によると、ほとんどのパスワードは MD5 や SHA などのハッシュアルゴリズムを使用して暗号化されています。したがって、パスワードを暗号化されたテキストの行に変換するには簡単な操作のみが必要ですが、プロセス全体を元に戻すのは大きな課題です。

AI を利用することで、悪意のある人物がテキスト、画像、音声、ビデオなどの不正なコンテンツを悪用し、ソーシャルエンジニアリング攻撃を仕掛ける可能性があります。 ChatGPT-4o のような大規模な言語モデルは、非常に洗練されたスクリプトとメッセージを生成するために使用されます。 AIは言語の壁を乗り越え、ソーシャルネットワーク上の情報だけに基づいて本物のメールを書くことができます。 AIは被害者の文章スタイルを真似ることさえできる。これにより、不正行為の検出がさらに困難になります。

同時に、ディープフェイクは、以前は科学的研究の産物と考えられていたものの、サイバーセキュリティ上の「問題」として存在しています。金銭的利益を得るために有名人になりすますのが最も一般的な方法ですが、詐欺師はディープフェイクを使用してアカウントを盗み、被害者の友人や親戚に偽の電話をかけて財産を横領することもあります。

AI テクノロジーを違法行為に悪用するだけでなく、悪意のある人物が AI アルゴリズムを攻撃することもできます。大規模な言語モデルに悪意のあるコマンドを入力し、以前に制限されていたルールに反する「プロンプトインジェクション」攻撃など。敵対的攻撃では、画像や音声に隠し情報フィールドを追加して、機械学習システムの画像分類能力に影響を与えます。

Apple Intelligence、Google Gemini、Microsoft Copilot など、AI は徐々に人間生活のあらゆる側面に統合されつつあります。したがって、AI の脆弱性に対処することが最優先事項となるはずです。カスペルスキーは長年にわたり AI テクノロジーを活用して顧客とパートナーを保護し、AI システムの脆弱性を継続的に探索してシステムの復元力を高め、サイバー攻撃手法を積極的に研究して AI 攻撃に対する信頼性の高い保護ソリューションを提供してきました。

キム・タン

[広告2]
出典: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html