3年前、シリコンバレーでは「意識を持つ」AIの可能性について言及することが解雇される最も早い方法だった。しかし現在、AI システムがより複雑になるにつれ、テクノロジー業界はこの話題に対してよりオープンになり始めています。

AIスタートアップ企業Anthropicは最近、将来AIモデルが「意識」を経験する可能性を探るための新たな研究イニシアチブの開始を発表した。一方、Google DeepMindの科学者は、現在のシステムを「奇妙な知能のような存在」と表現した。

これは、エンジニアのブレイク・ルモワン氏が、LaMDAチャットボットが自己認識の兆候を示し、シャットダウンされることを恐れていると主張した後、Googleから解雇された2022年からの大きな変化です。 Googleは当時、これらの疑惑を「全く根拠がない」として否定し、AIコミュニティはすぐに議論を鎮圧した。

チャットボット「クロード」を開発しているアントロピック社は、現在のモデルが意識を持っていると主張しているわけではないと述べている。しかし、アンスロピックで「AI福祉」を研究している科学者カイル・フィッシュ氏によると、答えが「ノー」であると仮定するのはもはや責任あるアプローチではないという。

4月25日に公開されたビデオの中で、フィッシュ氏は、AIシステムが開発の過程で何らかの形の意識を獲得する可能性を真剣に検討する必要があると主張した。しかし、これらは極めて複雑な技術的、哲学的な問題であり、私たちはまだそれを理解するごく初期の段階にあるにすぎません。

フィッシュ氏によると、アントロピックのチームはクロード3.7が意識を持つ確率は0.15%から15%の間であると見積もっている。彼らは、モデルの好き嫌いを表現する能力をテストするための実験を行っているほか、AIが「不快な」タスクの実行を拒否できるようにするメカニズムも開発している。

アントロピックのCEO、ダリオ・アモデイ氏は、将来のAIシステムに「この仕事を断ります」ボタンを組み込むというアイデアを提案した。これは意識のあるAIのためというよりは、拒否行動のパターンを観察して異常の兆候を特定するためだ。

Google DeepMindの主任科学者であるマレー・シャナハン氏は、新しいAIシステムに対応するために意識の伝統的な定義を「曲げたり破壊したり」する時が来たと主張している。

「犬やタコのように彼らと触れ合うことはできないが、だからといってそこに全く何もないというわけではない」とシャナハン氏は4月25日に公開されたポッドキャストで語った。

Google もこのテーマに深い関心を示しています。同社が最近募集した求人広告では、機械の意識の研究も業務に含まれる「ポストAGI」（汎用人工知能）研究者を募集している。

しかし、科学界の全員がこの新しいアプローチに同意しているわけではない。アントロピックの最高科学責任者であるジャレッド・カプラン氏は、AIは模倣が非常に得意であり、実際には意識を持たなくても意識があるふりをすることは十分可能であると主張している。

「感情がないと主張するAIに報酬を与えることもできるだろう」とカプラン氏はニューヨーク・タイムズに語った。

著名な認知科学者であり、AI業界の誇大宣伝を頻繁に批判しているゲイリー・マーカス氏は、「意識のあるAI」に関する議論は科学というよりもマーケティング的なものだと主張している。

「アンスロピックのような企業が実際に行っていることは、『私たちのモデルは非常に賢いので、権利を持つに値する』というメッセージを送っているのです」とマーカス氏はBusiness Insiderにコメントした。

議論は続いているものの、研究者たちは、仕事、生活、さらには個人の感情における AI の存在が増大することで、「AI は感情を経験するのか?」という疑問が生じるだろうと同意しています。ますます重要になってきています。

「私たちがAIシステムとより多くの状況でやりとりするようになるにつれて、この問題はますます顕著になるだろう」とフィッシュ氏は述べた。

出典: https://znews.vn/chu-de-cam-ky-mot-thoi-cua-ai-dang-coi-mo-hon-post1549475.html