「AIゴッドファーザー」が警告：人工知能が人類を絶滅させる確率は最大20％

8月12日、米国ラスベガスで開催されたAi4カンファレンスで、ジェフリー・ヒントン氏は、AIを人間に従わせようとするテクノロジー企業の現在のアプローチは効果的ではないと述べた。 「彼らは人間よりも賢くなり、法律を回避する無数の方法を持つようになるだろう。」

ヒントン氏は、将来AIが十分に強力になると、大人が3歳児をキャンディーで誘惑するのと同じくらい簡単に人間を操れるようになると警告する。彼は今年、AIが嘘をつき、不正行為をし、さらにはエンジニアに取って代わられないように脅迫する事例を挙げている。彼が提案する解決策は、AIに「母性本能」を組み込むことだ。つまり、AIが人間よりもはるかに優れた知能を持っていたとしても、人間を心から思いやり、守るようにするのだ。

コンピューター科学者のジェフリー・ヒントン氏は、AIが人類を滅ぼす可能性があると警告している。写真：Google

あらゆる知能AIは、近い将来、二つの目標を持つようになるでしょう。それは、生存とより多くの制御権を獲得することです。リスクを軽減する唯一の方法は、思いやりを育むことです。 「より知能の高い存在が、より知能の低い存在に制御されるという、私たちが知っている唯一のモデルは、母親が赤ちゃんに『制御』されることです」と彼は説明します。専門家は、これが技術的にどのように実現されるかは不明であると認めつつも、「それが唯一の良い結果です。もしAIが私を親として扱わなければ、私に取って代わるでしょう」と強調します。

ヒントン氏は、今日のAIブームの礎を築いた人工ニューラルネットワークの先駆的な研究で知られています。2023年にGoogleを退社し、人工知能の危険性について公に警告を発し始めました。

しかし、彼の意見に誰もが賛同しているわけではない。「AIボス」ことワールドラボのCEO、フェイフェイ・リー氏はこの見解に異議を唱える。彼女はCNNのインタビューで、人間中心で、尊厳と自己決定権を尊重するAIへの移行を訴えた。 「強力なツールがあるからといって、人間が尊厳を放棄すべきではない」と断言した。

Ai4イベントでは、OpenAIの元暫定CEOで現在はSoftmaxの代表を務めるエメット・シアー氏も、AIによる脅迫や近道は「今後も続くだろう」と述べた。AIはまだ弱いものの、急速に強くなっている。シアー氏は、AIに人間的な価値観を強制するのではなく、両者の間に協力関係を築くことを提案した。

ヒントン氏は、汎用人工知能（AGI）は、従来の30～50年という予測よりも早く、わずか5～20年で登場する可能性があると考えている。AIは、MRIやCTデータの分析による新薬開発や、より効果的ながん治療といった医療のブレークスルーをもたらすと期待している。しかし、彼は不死という考えには否定的だ。 「永遠に生きるのは間違いです。200歳の老人が世界を支配してもいいのでしょうか？」

振り返ってみると、科学者は安全性の問題に十分な注意を払わずに AI を機能させることだけに注力したことを後悔している。

（CNNによると）