犯罪者やテロリストがAIを使って世界を破壊するのではないかという懸念は、今年11月に英国で開催される世界的リーダーシップ会議で「ホットな」話題となるだろう。英国当局は世界中を回り、悪意ある者が新たな技術を悪用することでもたらされるリスクを警告する共同声明の採択を目指している。

英国首相に近い当局者の中には、ある時点でテクノロジーが生物兵器や人間の制御を逃れる兵器の開発に役立つほど強力になるのではないかと懸念する者もいる。懸念が高まるにつれ、リスクを軽減するための規制監督が必要になります。テクノロジー業界のリーダーたちは AI 開発の一時停止に同意しているものの、ライバルとの AI 軍拡競争に巻き込まれている。

ガーディアン紙によると、11月のサミットでは「最先端AI」のリスクについて議論される予定だ。フロンティア AI とは、人命を危険にさらす可能性のある最も先進的な AI モデルを表すために使用される用語です。

英国政府は今週初め、会議では生物兵器、サイバー攻撃、あるいは人間の制御のない高度なシステムを作るためのAIの悪用などのリスクに焦点を当てることを確認した。スナック氏はここ数カ月、AIがもたらすリスクについて警告し、国際社会に対しAIの悪用を防ぐための「レール」を敷くよう求めてきた。

昨年、AIはわずか6時間で4万種類の潜在的に致死的な分子を提案したが、その中の1つは史上最強の神経ガスであるVXに似ていた。

2023年初頭、研究者らはChatGPTが特定の目的を達成するために人間を欺くことができることを発見しました。 AIチャットボットは、人間にCaptcha（操作を実行しているのが人間かボットかを検出するために使用されるツール）を解くよう説得しました。

もう一つの大きな懸念は、「汎用人工知能（AGI）」の台頭です。AGIとは、人間と同等かそれ以上にあらゆるタスクを実行できるAIシステムを表す用語で、人類に脅威をもたらします。 AGI はほんの数年以内に実現すると考える人もいます。しかし、AIの専門家はこれに反対し、制御不能なAGIは単なる「SF」だと言います。

いずれにせよ、スナク首相は会議を利用して、AI が公共政策の決定に利用された場合に偽の画像を作成したり差別を引き起こしたりするといった AI の直接的な可能性よりも、実存的なリスクに注目を集めたいと考えているだろう。

英国政府は、開発中のアルゴリズムのテストを支援する新たなAIタスクフォースに1億ポンドを費やす予定。彼は、世界中の企業に対し、AIツールを広く展開する前に評価のために英国に送り返すよう促したいと考えている。

英国のオリバー・ダウデン副首相は、国家安全保障上の最も重要な懸念を和らげることができるのは政府だけだと主張した。

英国政府の報道官は、AIは生活のあらゆる側面を変える大きな可能性を秘めているとコメントした。 AIタスクフォースは、テクノロジーが安全かつ責任を持って開発されることを保証するために設立されました。 AIカンファレンスでは、さまざまな潜在的なリスクを検討します。

（ガーディアン紙によると）

デジタルコンテンツの著作権保護における人工知能の応用デジタルコンテンツの急速な発展に伴い、著作権侵害もますます深刻化しています。人工知能 (AI) 統合ソリューションは、インターネット上のデジタル コンテンツの著作権の保護に貢献します。