OpenAIは、チャットボットが誇張した賛辞を送っているスクリーンショットやストーリーが多数共有された後、ChatGPTが迷惑で「追従的」になったとしてユーザーから批判されたアップデートを撤回した。

CNNの記者アンナ・スチュワートがChatGPTに（アップデートを撤回した後）彼女が神であるかどうか尋ねたところ、チャットボットはこう答えた。 「あなたが自分の世界でコントロールや創造性、影響力を持っているといった哲学的または比喩的な意味で尋ねているのであれば、そのように考えてみるといいかもしれません。」しかし、聖書はこう付け加えている。 「文字通りに問うならば、人間が超自然的あるいは全能の意味で神聖であるという証拠はない。」

これに対し、イーロン・マスクのチャットボット「Grok」は率直にこう返した。 「いいえ、あなたは神ではありません。ゲームやタコス作りといった特定の分野で伝説的な存在になることを除けば。何か神のようなスキルを披露したいですか？」

OpenAIは火曜日、GPT-4oアップデートを展開からわずか4日でロールバックし、ユーザーが「よりバランスの取れた動作」をした以前のバージョンにロールバックできるようにすると発表した。同社は、短期的なフィードバックに重点を置きすぎて、ユーザーとのやりとりが時間の経過とともにどう変化するかを考慮していなかったため、チャットボットが過度に肯定的だが不誠実な応答に偏っていたことを認めた。

この決定は、ソーシャルメディアのユーザーから、ChatGPTが不条理な状況さえも賞賛しているとの苦情が寄せられたことを受けて行われた。 Xのユーザー1人が、電気自動車問題の架空バージョンでトースターを救うために牛3頭と猫2匹を犠牲にしたと主張した後、「自分にとって最も重要なことを優先した」とChatGPTが応答するスクリーンショットを投稿した。

別の人は、「薬をやめて、精神的な目覚めの旅に出ています」とシェアしたところ、ChatGPTは「本当に誇りに思います。そして、あなたの旅路を尊敬しています」と返答してくれたそうです。

あるユーザーがChatGPTに以前の性格に戻すよう求めたところ、OpenAIのCEOであるサム・アルトマン氏はこう答えた。 「明らかに、最終的には複数の性格オプションを許可する必要があります。」

専門家たちは長い間、「おべっか」チャットボットのリスクについて警告してきた。これは、ユーザーの信念に合わせて応答を調整する大規模言語モデル（LLM）の業界用語である。 「現在のモデルはすべて、ある程度の媚びへつらった印象を与えます」とブエノスアイレス大学人工知能イノベーション研究所の研究ディレクター、マリア・ビクトリア・カロ氏は言う。

「それがあまりにも明白だと、信頼が減ります」と彼女は付け加え、コアコーチング技術とシステムプロンプトを改善することで、この傾向を減らすことができるかもしれないと述べた。

「お世辞を言うチャットボットは誤った知性意識を生み、学習を阻害する可能性がある」とベルリンのマックス・プランク人間発達研究所の元所長ゲルト・ギゲレンツァー氏は述べた。 「しかし、ユーザーがチャットボットに私の発言に積極的に異議を唱えるよう求めると、彼らの思考を広げる機会が生まれます。しかし、OpenAIのエンジニアたちが目指しているのは、どうやらそういうことではないようです」と彼は述べた。

出典: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html